[I.A] Skynet Resistenza!

Pour discuter sereinement de l'actualité
Répondre
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 3891
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Bassens / Bordeaux

Re: [I.A] Skynet Resistenza!

Message par Morningkill »

L'IA au service du gouvernement chinois
https://www.aspi.org.au/report/the-part ... an-rights/ (+60 pages de PDF)
Chinese LLMs censor politically sensitive images, not just text.
The Chinese Government is deploying AI throughout the criminal‑justice pipeline—from AI‑enabled policing and mass surveillance, to smart courts, to smart prisons.
China is using minority‑language LLMs to deepen surveillance and control of ethnic minorities, both in China and abroad.
AI now performs much of the work of online censorship in China.
China’s censorship regulations have created a robust domestic market for AI‑enabled censorship tools.
The use of AI amplifies China’s state‑supported erosion of the economic rights of some vulnerable groups abroad, to the financial benefit of Chinese private and state‑owned companies.
Avatar de l’utilisateur
rogre
RDieu
Messages : 6171
Inscription : jeu. déc. 06, 2007 12:53 pm
Localisation : Lyon 6è

Re: [I.A] Skynet Resistenza!

Message par rogre »

Je le mets là: comme la pub Intermarché avec son loup "mal-aimé" a eu le gros succès qu'on sait, voilà qu'émergent déjà des faux sites de vente de la peluche tant attendue. L'êre humain est remarquable, et prévisible aussi.

https://www.numerama.com/cyberguerre/21 ... wtab-fr-fr
La bêtise de surface est plus superficielle que la bêtise des profondeurs. Mais en même temps, elle est moins profonde. C'est le fameux "en même temps". (Goossens)
Avatar de l’utilisateur
cdang
Dieu d'après le panthéon
Messages : 6979
Inscription : jeu. avr. 30, 2015 10:23 am
Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)

Re: [I.A] Skynet Resistenza!

Message par cdang »

Un chèque expédié par La Poste est intercepté. Il est falsifié, probablement grâce à ChatGPT, qui remplace la bande de chiffres cryptée qu’on trouve au bas du chèque, pour créer de faux chèques avec un nom différent, mais qui sont débités sur le compte initial.

Marie Ottavi, « Tous arnaqués en ligne : “Ils ont reproduit mes chèques à l’aide de ChatGPT” », Libération, 16 décembre 2025
https://www.liberation.fr/lifestyle/tou ... 4LJHV4WS4/
--
Vous êtes mort
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 3891
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Bassens / Bordeaux

Re: [I.A] Skynet Resistenza!

Message par Morningkill »

Selon ce rapport d'usage d'OpenRouter (un fournisseur d'accés a des AI pour faire simple) , sur les modéles open source qu'ils fournissent, plus de 50% de l'usage est pour du Roleplay....
half of all OSS model usage falls under Roleplay, with Programming being the second-largest category. This indicates that users turn to open models primarily for creative interactive dialogues (such as storytelling, character roleplay, and gaming scenarios) and for coding-related tasks. The dominance of roleplay (hovering at more than 50% of all OSS tokens) underscores a use case where open models have an edge: they can be utilized for creativity and are often less constrained by content filters, making them attractive for fantasy or entertainment applications. Roleplay tasks require flexible responses, context retention, and emotional nuance - attributes that open models can deliver effectively without being heavily restricted by commercial safety or moderation layers. This makes them particularly appealing for communities experimenting with character-driven experiences, fan fiction, interactive games, and simulation environments.
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 14936
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: [I.A] Skynet Resistenza!

Message par Qui Revient de Loin »

Morningkill a écrit : mer. déc. 17, 2025 1:56 pm Selon ce rapport d'usage d'OpenRouter (un fournisseur d'accés a des AI pour faire simple)

Tu veux dire, c'ets une plateforme pour accéder à des IA, c'ets ça ?
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 3891
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Bassens / Bordeaux

Re: [I.A] Skynet Resistenza!

Message par Morningkill »

Qui Revient de Loin a écrit : mer. déc. 17, 2025 2:10 pm Tu veux dire, c'ets une plateforme pour accéder à des IA, c'ets ça ?
Ils ont achetés en masse de l'usage chez plein de fournisseurs IA differents (google, anthropic, openai, msistral etc..) + fournissent eux même (je pense) d'autres modele open source et/ou gratuit (deepseek, qwen etc..)
Et toi, tu achetes des jetons chez eux, et tu (ton programme) se connecte chez eux en leur disant "pour cette requete, prend ton fournisseur le moins cher", ou "ce prompt doit etre traité par chat GPT 5.2", et ils te déduisent ca de tes jetons
Sachant que théoriquement, ca coute moins cher de passer par eux que d'aller directement chez chat gpt (par ce qu'ils ont négociés leur prix)
Avatar de l’utilisateur
Le merlock
Transcendé
Messages : 743
Inscription : jeu. juin 06, 2024 9:21 am

Re: [I.A] Skynet Resistenza!

Message par Le merlock »

Morningkill a écrit : mer. déc. 17, 2025 1:56 pm Selon ce rapport d'usage d'OpenRouter (un fournisseur d'accés a des AI pour faire simple) , sur les modéles open source qu'ils fournissent, plus de 50% de l'usage est pour du Roleplay....
half of all OSS model usage falls under Roleplay, with Programming being the second-largest category. This indicates that users turn to open models primarily for creative interactive dialogues (such as storytelling, character roleplay, and gaming scenarios) and for coding-related tasks. The dominance of roleplay (hovering at more than 50% of all OSS tokens) underscores a use case where open models have an edge: they can be utilized for creativity and are often less constrained by content filters, making them attractive for fantasy or entertainment applications. Roleplay tasks require flexible responses, context retention, and emotional nuance - attributes that open models can deliver effectively without being heavily restricted by commercial safety or moderation layers. This makes them particularly appealing for communities experimenting with character-driven experiences, fan fiction, interactive games, and simulation environments.

50% ??? Pourquoi ne suis-je pas surpris ? 

Je me demande quelle est la part de ceux qui l'utilisent pour générer des uchronies...
Membre unique et autoproclamé du Comité d'attribution de Point De Calembour Lame En Table Comme Seul Orphée Ose En Faire (PDCLETCSOOEF)
Lauréats :
mitriel (1)
Erestor (1)
Esbehmj  (1 - Merci Florentbzh)
pseudo (1)
Moi (3)
Saladdin (1 - Merci Florentbzh)
 
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 3891
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Bassens / Bordeaux

Re: [I.A] Skynet Resistenza!

Message par Morningkill »

Le merlock a écrit : mer. déc. 17, 2025 3:50 pm Je me demande quelle est la part de ceux qui l'utilisent pour générer des uchronies...
Du coup, je regardais l'interface chat d'Openroute (pour chatter en direct comme sur chatgpt.com), ils connaissent les usages de leurs clients en proposant le roleplay comme un des 4 choix de base.
Image

En vrai, ca serait fascinant de repartir ce roleplay entre porn, compagnon virtuel (non porn), "vrai" jeu de rôle (a mon avis ultra minoritaire), conseiller / mentor
Avatar de l’utilisateur
cdang
Dieu d'après le panthéon
Messages : 6979
Inscription : jeu. avr. 30, 2015 10:23 am
Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)

Re: [I.A] Skynet Resistenza!

Message par cdang »

L'attaque par injection de prompt : un document (page web, PDF...) contient du texte caché (derrière une balise spoiler, en blanc sur fond blanc etc.). Si on utilise la fonction « fais-moi un résumé du doc » du navigateur/visualiseur, l'IA peut interpréter le prompt. Pour peu que l'agent IA ait un peu de pouvoir (le genre à qui on peut dire « vazy réserve-moi un avion pour Londres » et qui va le faire), ça peut poser problème.

« Agentic Browser Security: Indirect Prompt Injection in Perplexity Comet », Brave.com, 20 août 2025
https://brave.com/blog/comet-prompt-injection/

The AI doesn’t just read, it browses and completes transactions autonomously. [...]

This kind of agentic browsing is incredibly powerful, but it also presents significant security and privacy challenges. As users grow comfortable with AI browsers and begin trusting them with sensitive data in logged in sessions—such as banking, healthcare, and other critical websites—the risks multiply. What if the model hallucinates and performs actions you didn’t request? Or worse, what if a benign-looking website or a comment left on a social media site could steal your login credentials or other sensitive data by adding invisible instructions for the AI assistant?

[...]

The attack demonstrates how easy it is to manipulate AI assistants into performing actions that were prevented by long-standing Web security techniques, and how users need new security and privacy protections in agentic browsers.

[...]

When an AI assistant follows malicious instructions from untrusted webpage content, traditional protections such as same-origin policy (SOP) or cross-origin resource sharing (CORS) are all effectively useless. The AI operates with the user’s full privileges across authenticated sessions, providing potential access to banking accounts, corporate systems, private emails, cloud storage, and other services.

Pour en savoir une peu plus sur Brave.com :
https://fr.wikipedia.org/wiki/Brave_(navigateur_web)
--
Vous êtes mort
Répondre