[I.A] Skynet Resistenza!

Pour discuter sereinement de l'actualité
Avatar de l’utilisateur
Orlov
Dieu d'après le panthéon
Messages : 9279
Inscription : jeu. févr. 20, 2014 10:57 am

Re: [I.A] Skynet Resistenza!

Message par Orlov »

L'article cité est intéressant mais porté sur des papiers académiques. Je ne sais pas à quel point c'est utile pour d'autres formes d'écrit.
En tous cas, j'ai appris ça :
The Pangram AI detection tool operates differently from Turnitin’s AI detection tool. According to the tool’s technical documentation, Pangram was trained on approximately 28 million human-authored documents drawn from open-source datasets (Emi and Spero 2024). The aim is the same as Turnitin’s GenAI detection tool; to recognise human-written text and AI-generated text by LLMs. A feature of Pangram’s approach is the use of a “mirror prompt” technique. For each human-written text in their training data, they created a customised prompt to generate an AI version of that exact text, matching it in terms of topic, tone, style, and length. This approach is called “syntactic mirror” and creates AI-generated versions of human text that look almost the same in structure, style and flow. This makes it harder for the model to rely on obvious signs of GenAI writing and instead trains it to notice smaller, more subtle differences. An example concerns how sentences are built, which linking words are used, and how varied the writing is. By doing so, it pushes the model to look past metrics like perplexity or burstiness. Subsequently, Pangram employs another technique known as “hard negative mining”. In this process, the model searches for “difficult cases“ where it misclassified text or where the difference between human and GenAI writing was minimal. They used these cases to train the data further and identify the differences between GenAI and human writing. Pangram supports multilingual detection (Emi and Spero 2024).
Cryoban a écrit : Le vrai problème c'est les gens.

Florentbzh a écrit : J'avoue ne pas bien comprendre ce qu'on peut jouer, mais si cela existe c'est qu'il doit bien y avoir une raison.

Mildendo a écrit : Faire du Jdr c'est prendre une voix bizarre et lancer des dés en racontant qu'on tue des gobs.
Avatar de l’utilisateur
cdang
Dieu d'après le panthéon
Messages : 8218
Inscription : jeu. avr. 30, 2015 10:23 am
Localisation : Le Havre (Choisy-le-Roi, Saint-Étienne, La Rochelle)

Re: [I.A] Skynet Resistenza!

Message par cdang »

Après, il est fréquent qu'après un test, l'équipe patche le système pour qu'il se comporte bien. Donc un test fait le jour J ne donnera pas le même résultat à J+1.

Mais je n'ai à titre personnel pas d'avis sur la question.
--
Vous êtes mort
[2 points CLETCSOOEF]
Skippy63
Initié
Messages : 172
Inscription : mer. sept. 27, 2006 11:11 pm
Localisation : Clermont-ferrand (63)
Contact :

Re: [I.A] Skynet Resistenza!

Message par Skippy63 »

Je suis rédacteur des débats. Concrètement, je rédige des comptes rendus et des procès-verbaux de CSE et de CSSCT à partir d’enregistrements de réunions, soit sous forme de synthèse, soit en retranscription in extenso.
Par curiosité, j’ai anonymisé un procès-verbal synthétique d’une vingtaine de pages que j’avais entièrement rédigé moi-même, avec mes petits doigts sur mon clavier :geek , puis je l’ai passé dans sept détecteurs d’IA, tous en version gratuite. Résultats :

  • 100 % humain à deux reprises, dont avec Pangram ;
  • 87 % humain ;
  • 72 % humain ;
  • 50 % humain ;
  • 33 % humain ;
  • 13 % humain.
Donc, pour exactement le même texte, entièrement écrit par un humain, je peux être considéré comme parfaitement humain par un détecteur et quasiment comme une IA par un autre. Autant lancer un dé pour connaître le résultat. Ça tombe bien, je suis rôliste. :yes:
Dans mes rédactions, j’utilise pas mal de mots de transition comme « en outre », « par ailleurs » ou « néanmoins ». J’emploie aussi des formulations qui permettent d’enchaîner les idées, des tirets d’incise, des phrases plutôt courtes. Je mets en général mes virgules au bon endroit et, forcément, j’essaie de ne pas faire de fautes, y compris avec les participes passés un peu tordus, même s’il m’arrive de vérifier avec un correcteur quand j’ai un doute.
Mon style est aussi assez neutre, mais ce n’est pas vraiment un choix esthétique : c’est lié au fait que quand je rédige les débats d’un CSE ou d’une CSSCT, je dois restituer les propos le plus fidèlement possible, sans prendre parti ni pour l’employeur ni pour les élus.
Or, beaucoup de ces caractéristiques — les transitions, la syntaxe régulière, les phrases structurées, la ponctuation correcte, le ton neutre — sont précisément celles que certains détecteurs semblent considérer comme des signes d’un texte généré par une IA. En somme, plus on écrit proprement et de façon professionnelle, plus on risque parfois d’être soupçonné d’être une machine :lol:
"la raison, c'est l'intelligence en exercice. L'imagination, c'est l'intelligence en érection" (V. HUGO)
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 15986
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: [I.A] Skynet Resistenza!

Message par Qui Revient de Loin »

T'es sur que t'es pas un Cylon ?
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Skippy63
Initié
Messages : 172
Inscription : mer. sept. 27, 2006 11:11 pm
Localisation : Clermont-ferrand (63)
Contact :

Re: [I.A] Skynet Resistenza!

Message par Skippy63 »

Ce serait drôle en effet  😄
"la raison, c'est l'intelligence en exercice. L'imagination, c'est l'intelligence en érection" (V. HUGO)
Avatar de l’utilisateur
Qui Revient de Loin
Dieu qui a failli y rester
Messages : 15986
Inscription : sam. mars 02, 2013 1:20 pm
Localisation : Nothing Gulch
Contact :

Re: [I.A] Skynet Resistenza!

Message par Qui Revient de Loin »

Plus sérieusement, j'ai eu une activité proche de la tienne, et moi aussi je rédige comme ça : incise, tiret quadratin, articulation des phrases, etc.

Et quand on m'a dit que les IA écrivaient comme ça, ça m'a fait chier.
Dieu qui a failli y rester | Teams Panthéon & Bienvenue
Le blog de mes voyages imaginaires: http://qui.revient.de.loin.blog.free.fr/
Mon Itchio
Mémoire de rôlistes : le patrimoine du jeu de rôle se construit aujourd'hui

Contributeur au Grog
Avatar de l’utilisateur
Morningkill
Dieu d'après le panthéon
Messages : 4403
Inscription : mar. août 03, 2004 2:09 pm
Localisation : Bassens / Bordeaux

Re: [I.A] Skynet Resistenza!

Message par Morningkill »

Skippy63 a écrit : ↑lun. sept. 28, 2026 8:09 pmmes petits doigts sur mon clavier [/size] :geek , puis je l’ai passé dans sept détecteurs d’IA, tous en version gratuite. Résultats :[/font]
  • 100 % humain à deux reprises, dont avec Pangram ;
  • 87 % humain ;
  • 72 % humain ;
  • 50 % humain ;
  • 33 % humain ;
  • 13 % humain.
Incroyable des outils différents ne donnent pas le même résultat.....

C4est comme s'il y en avait des meilleurs que d'autre dis donc.
Rosco
Dieu d'après le panthéon
Messages : 9281
Inscription : dim. avr. 30, 2017 10:23 am

Re: [I.A] Skynet Resistenza!

Message par Rosco »

Attention à ne pas devenir un clou
Gork est « brutal mè ruzé » et son frère Mork est « ruzé mè brutal »

‘If in doubt, serve more ale.’
— First lesson of the rites of healing
Répondre