Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Calisto]

C'est là ou, vois-tu, se pose mon problème.

A mon sens c'est l'adversité qui forge l'homme en l'obligeant a se dépasser et a acquérir de nouvelles compétences, qu'elles soient manuelles, intellectuelles ou artistiques. L'homme assisté décline. Dit autrement, l'oisiveté induite par l'assistance, que ce soit pour rédiger un argumentaire, dessiner une carte, ou fabriquer une porte amène une baisse des compétences nécessaires pour rédiger le dit argumentaire, peindre la dite carte ou fabriquer cette porte.
Pourquoi acquérir des compétences et travailler ardemment si c'est pour se rendre compte que ce travail est rendu obsolète par l'existence de machines? Autant, dans ce cas, se laisser glisser dans l'oisiveté, le divertissement, la jouissance et, donc, à terme, baisser de niveau et devenir parfaitement dépendant des machines et de la poignée de concepteurs?

Ce n'est pas tant que l'IA me fasse peur, ni que la performance technique ne soit pas intéressante, non, ce qui me pose question ce sont les conséquences pour l'évolution de l'homme et les pertes de compétences en matière intellectuelle ou manuelle.
 

On ne baisse de niveau que si on le veut bien, rien n'empêche quelqu'un de continuer d'apprendre ou de faire, voire de se dépasser. C'est plus une question de choix individuel, si tu veux passer ta vie à simplement boire des bières sur ta terrasse ou à faire autre chose pour ton développement personnel cela ne dépend que de toi pas de facteurs extérieurs. L'adversité sera toujours présente même dans le cas où ton principal adversaire ne serait que toi même, c'était le cas avant, ça l'est toujours et cela restera.

[Orlov]

(exercice difficile pour moi le débat par écrit donc désolé si mon discours semble décousu je n'ai pas l'habitude de ce type d'intervention mais je me prête au jeu de bon coeur)
Un peu de contexte : je suis un technophile et j’espère bien voir de mon vivant le point de Singularité atteint (l'équivalent du premier homme sur la lune pour notre génération). Forcement, le transhumanisme et aussi selon "mon" point de vue une excellente chose et j'utilise Stable Diffusion (beaucoup) et ChatGPT (assez peu).

Pour toutes les raisons que tu donnes, je me permets de t'inviter justement à prendre en compte l'aspect législatif ou plutôt normatif.
La techno et la science opèrent dans des contextes sociaux et économiques donnés, contraints avec lesquels les acteurs doivent négocier. Et ce contexte est aussi géopolitique avec des centres de décision qui projettent leur Droit outre-mer sous la forme de protocoles et de normes comme d'autres envoient soldats, destroyers et avions. Les questions, technologiques sont éminemment politiques. Je laisse chacun chercher pourquoi les musiques de la première saison des Simpsons utilise autant de musiques composées en URSS.
Bref, on n'est pas encore dans un monde à la Ayn Rand où chaque acteur individuel, qui n'est pas occupé à boire de la bière au bord de la piscine plutôt qu'apprendre à rédiger des prompts, a le pouvoir d'aménager à son goût et à ses vues l'environnement immédiat et global.

[Harfang2]

C'est là ou, vois-tu, se pose mon problème.

A mon sens c'est l'adversité qui forge l'homme en l'obligeant a se dépasser et a acquérir de nouvelles compétences, qu'elles soient manuelles, intellectuelles ou artistiques. L'homme assisté décline. Dit autrement, l'oisiveté induite par l'assistance, que ce soit pour rédiger un argumentaire, dessiner une carte, ou fabriquer une porte amène une baisse des compétences nécessaires pour rédiger le dit argumentaire, peindre la dite carte ou fabriquer cette porte.
Pourquoi acquérir des compétences et travailler ardemment si c'est pour se rendre compte que ce travail est rendu obsolète par l'existence de machines? Autant, dans ce cas, se laisser glisser dans l'oisiveté, le divertissement, la jouissance et, donc, à terme, baisser de niveau et devenir parfaitement dépendant des machines et de la poignée de concepteurs?

Ce n'est pas tant que l'IA me fasse peur, ni que la performance technique ne soit pas intéressante, non, ce qui me pose question ce sont les conséquences pour l'évolution de l'homme et les pertes de compétences en matière intellectuelle ou manuelle.

On ne baisse de niveau que si on le veut bien, rien n'empêche quelqu'un de continuer d'apprendre ou de faire, voire de se dépasser. C'est plus une question de choix individuel, si tu veux passer ta vie à simplement boire des bières sur ta terrasse ou à faire autre chose pour ton développement personnel cela ne dépend que de toi pas de facteurs extérieurs. L'adversité sera toujours présente même dans le cas où ton principal adversaire ne serait que toi même, c'était le cas avant, ça l'est toujours et cela restera.

La volonté individuelle et les choix personnels jouent un rôle, c'est certain. Mais l'environnement extérieur en joue un aussi et c'est celui-ci qu'affecte l'assistance à l'être humain. Plus encore, peut-être dans un monde matérialiste, le soi n'étant pas forgé seulement par les valeurs familiales mais aussi celles de la société.
La dégradation, globale, des compétences au plan intellectuel ou même manuel me paraissent, en tout cas, une réalité.

Celà étant, de toute manière, et quoi qu'on puisse en penser, je ne vois rien qui puisse aller à l'encontre de cette évolution de la société corrélée à cette évolution technologique.
 

[Rui]

Le probleme n'est pas qu'il y ait une loi ou pas, c'est que le crime devienne extraordinairement plus facile et "qualitatif".

Après, on n'y peut rien, la boite de Pandore est ouverte, y a pas de solutions

De quel crime on parle?
Si on parle de copy et/ou plagiat pas vraiment.

Par contre si on parle de saturer un marcher de style et/ou de volume oui mais c'est pas un crime.

[KamiSeiTo]

Le probleme n'est pas qu'il y ait une loi ou pas, c'est que le crime devienne extraordinairement plus facile et "qualitatif".

Après, on n'y peut rien, la boite de Pandore est ouverte, y a pas de solutions

De quel crime on parle?
Si on parle de copy et/ou plagiat pas vraiment.

Par contre si on parle de saturer un marcher de style et/ou de volume oui mais c'est pas un crime.

Les scams par email et les appels pour rançon aux parents qui entendent leur enfant (une voix reconstituée en fait) les supplier.

[Rui]

Les scams par email et les appels pour rançon aux parents qui entendent leur enfant (une voix reconstituée en fait) les supplier.

Pour les appels téléphoniques oui surement effectivement je n'étais pas sur ce point.

Pour les mails je vois pas trop la différence par rapport à maintenant.

[KamiSeiTo]

Les scams par email et les appels pour rançon aux parents qui entendent leur enfant (une voix reconstituée en fait) les supplier.

Pour les appels téléphoniques oui surement effectivement je n'étais pas sur ce point.

Pour les mails je vois pas trop la différence par rapport à maintenant.

Je sais plus trop où mais j'avais lu ou vu un truc sur comment "les IA" rendent ou vont rendre les phishings (mails, faux sites...) de mieux en mieux faits et donc capable de berner de plus en plus de gens (et plus seulement ceux qui ne tiquent pas quand ils reçoivent un mail conjoint du FBI et du centre des impôts français, écrit dans un français très approximatif, pour leur expliquer qu'ils doivent envoyer 2000 euros en bons tickets achetés en librairie à un numéro congolais pour se faire rembourser le quintuple sur leur prochain crédit d'impôt).

[Rui]

Je sais plus trop où mais j'avais lu ou vu un truc sur comment "les IA" rendent ou vont rendre les phishings (mails, faux sites...) de mieux en mieux faits et donc capable de berner de plus en plus de gens (et plus seulement ceux qui ne tiquent pas quand ils reçoivent un mail conjoint du FBI et du centre des impôts français, écrit dans un français très approximatif, pour leur expliquer qu'ils doivent envoyer 2000 euros en bons tickets achetés en librairie à un numéro congolais pour se faire rembourser le quintuple sur leur prochain crédit d'impôt).

Les mails de phishing n'ont pas besoins d'une qualité exceptionnelle pour fonctionner malheureusement et les éléments qui permettent de les détectés sont rarement basé sur la qualité du contenu depuis un moment.

Les règles sur la provenance, le type de demande et l'externalité des mails est determinant et ça les IA n'y feront rien.
De plus si on accepte que l'IA serait sensément à même de plus berné les gens sur du phishing et autres méthodes du genre alors il faut aussi penser à l'inverse.

Si outil d'IA pour le phishing se développe ALORS outils anti phishing piloté par IA vont aussi se développer. On le voit déjà pour les images/video/texte alors qu'on est au début. C'est le concept de virus / anti-virus

Pour moi on aura bien plus de problème avec les FakeNews généré par l'IA par ce que les gens ont envie de croire un narratif et donc même si des outils anti IA existeront pour détecté les FakeNews ça fera le même effet que les débunk actuel. Les personnes qui sont déjà conquis ne croiront pas la réalité de toutes façons.

[Altay]

Je lis avec beaucoup de retard l'article sur ChatGPT dans CB 44. Les explications techniques sont plutôt correctes mais l'argument « Codex/Copilot apporte beaucoup en productivité pour le développement, ChatGPT fera pareil pour le reste », ça me laisse dubitatif. Les réseaux de neurones pour la complétion de code ont été vendus comme formidables outils pour accélérer l'écriture du code, mais la qualité de ce qui est généré est discutable. On manque d'études quantitatives sur le sujet mais les premières semblent indiquer que le code généré est de faible qualité et que c'est un problème pour les devs juniors, qui n'ont pas l'expérience pour réaliser que l'IA se plante.

À mon avis, c'est tout à fait analogue à ce que l'on peut observer avec Midjourney/StableDiffusion ou ChatGPT. C'est bien pour générer du contenu vaguement correct de loin, mais dès qu'un⋅e spécialiste s'y penche, on voit tout de suite les problèmes (soit les grosses ficelles narratives dans les histoires générées, soit les soucis de perspective/anatomie/couleur dans les illustrations).

Bref, faut se méfier des arguments d'OpenAI, Microsoft et consorts. On nous vend de l'IA pour la productivité, mais faut-il encore que la qualité soit au rendez-vous. S'il faut repasser pendant des heures sur ce qui est produit automatiquement, les gains risquent de ne pas être aussi évidents que ce qu'on nous promet.

[Pyth]

Je lis avec beaucoup de retard l'article sur ChatGPT dans CB 44. Les explications techniques sont plutôt correctes mais l'argument « Codex/Copilot apporte beaucoup en productivité pour le développement, ChatGPT fera pareil pour le reste », ça me laisse dubitatif. Les réseaux de neurones pour la complétion de code ont été vendus comme formidables outils pour accélérer l'écriture du code, mais la qualité de ce qui est généré est discutable. On manque d'études quantitatives sur le sujet mais les premières semblent indiquer que le code généré est de faible qualité et que c'est un problème pour les devs juniors, qui n'ont pas l'expérience pour réaliser que l'IA se plante.

J'avais entendu le même genre de critiques vis à vis de GPT engineer, par contre je ne capte pas ce qui empêche de forcer l'IA à normer le code généré pour le rendre facile à corriger comme à améliorer.

[Rui]

Je lis avec beaucoup de retard l'article sur ChatGPT dans CB 44. Les explications techniques sont plutôt correctes mais l'argument « Codex/Copilot apporte beaucoup en productivité pour le développement, ChatGPT fera pareil pour le reste », ça me laisse dubitatif. Les réseaux de neurones pour la complétion de code ont été vendus comme formidables outils pour accélérer l'écriture du code, mais la qualité de ce qui est généré est discutable. On manque d'études quantitatives sur le sujet mais les premières semblent indiquer que le code généré est de faible qualité et que c'est un problème pour les devs juniors, qui n'ont pas l'expérience pour réaliser que l'IA se plante.

À mon avis, c'est tout à fait analogue à ce que l'on peut observer avec Midjourney/StableDiffusion ou ChatGPT. C'est bien pour générer du contenu vaguement correct de loin, mais dès qu'un⋅e spécialiste s'y penche, on voit tout de suite les problèmes (soit les grosses ficelles narratives dans les histoires générées, soit les soucis de perspective/anatomie/couleur dans les illustrations).

Bref, faut se méfier des arguments d'OpenAI, Microsoft et consorts. On nous vend de l'IA pour la productivité, mais faut-il encore que la qualité soit au rendez-vous. S'il faut repasser pendant des heures sur ce qui est produit automatiquement, les gains risquent de ne pas être aussi évidents que ce qu'on nous promet.

Moui je suis pas si sûr. Pour rappel un chatGPT avec un prompt "merdique" a réussit à avoir 11 en bac de philo. Je pense que ça résume bien mieux le concept d'outils et du niveau attendu et atteint.

[Altay]

J'avais entendu le même genre de critiques vis à vis de GPT engineer, par contre je ne capte pas ce qui empêche de forcer l'IA à normer le code généré pour le rendre facile à corriger comme à améliorer.

Il y a deux choses : le fait que le code soit correct, et sa lisibilité. Pour la lisibilité, tu as essayé ? Moi oui, et ChatGPT ne respecte pas toujours le prompt. D'autant plus que s'il faut passer 15 minutes à trouver comment reformuler une requête pour que ton outil de complétion formate correctement, le gain de temps n'est pas clair. Sur la génération de code correct, ce que les travaux de recherche observent c'est que le code produit est souvent subtilement faux, et fait des erreurs "de junior". Donc pour les corriger (via prompt ou manuellement), il faut déjà savoir les identifier. Autremeent dit, ça ne profite pas aux jeunes devs.

Moui je suis pas si sûr. Pour rappel un chatGPT avec un prompt "merdique" a réussit à avoir 11 en bac de philo. Je pense que ça résume bien mieux le concept d'outils et du niveau attendu et atteint.

Je ne trouve pas non. ChatGPT a eu 11 en philo dans une expérience anecdotique organisée pour cirer les pompes d'un "philosophe" médiatique. Peut-être que les attendus en philo au bac ne sont pas si élevés et qu'on accepte de mettre la moyenne à un discours creux mais bien présenté (ça ne me choquerait pas). Mais si on vend des gains en productivité ou en qualité, ça doit être assorti d'évaluations systématiques quantifiables et mesurables. C'est ce qui commence à être fait pour le code et les indicateurs sont mitigés.

[Rui]

Je ne trouve pas non. ChatGPT a eu 11 en philo dans une expérience anecdotique organisée pour cirer les pompes d'un "philosophe" médiatique. Peut-être que les attendus en philo au bac ne sont pas si élevés et qu'on accepte de mettre la moyenne à un discours creux mais bien présenté (ça ne me choquerait pas). Mais si on vend des gains en productivité ou en qualité, ça doit être assorti d'évaluations systématiques quantifiables et mesurables. C'est ce qui commence à être fait pour le code et les indicateurs sont mitigés.

Perso en tous cas c'est un gains conséquent de temps sur les taches à faible valeurs ajouté. Après je m'amuse pas à lui demander de pondre du dev complexe non plus.

Si maintenant le truc c'est de dire que pour du code "de production" chatGPT n'est pas au niveau pourquoi pas (celui de MS était de bien meilleur niveau mais vue qu'il pillait les répos privé Github ) mais clairement quand tu l'utilises comme outils dans un concept stackoverflow c'est un gros gain de temps.

[UneVoix]

Bref, faut se méfier des arguments d'OpenAI, Microsoft et consorts. On nous vend de l'IA pour la productivité, mais faut-il encore que la qualité soit au rendez-vous. S'il faut repasser pendant des heures sur ce qui est produit automatiquement, les gains risquent de ne pas être aussi évidents que ce qu'on nous promet.

Honnêtement, pour en avoir un peu parlé avec lui, je ne pense pas que l'opinion de l'auteur de l'article soit très éloignée de la tienne (mais il viendra peut-être me contredire, je lui ai filé le lien du fil   )

[Killing Joke]

UN CONCURRENT SÉRIEUX À MIDJOURNEY ET DALL-E  
L’outil est signé Meta.
Son nom : CM3Leon (pour caméléon).
Cette IA générative transforme du texte en image. Mais il est meilleur que pas mal d’outils de ce type sur plusieurs aspects :

1. Il est capable de générer des légendes pour des images
   

Ce qui lui permet de mieux “comprendre“ une image. Par exemple, si vous lui demandez de décrire cette photo :
Il vous dira : “Dans cette image, il y a un chien tenant un bâton dans sa gueule. Il y a de l'herbe en surface. En arrière-plan de l'image, il y a des arbres.“

1. Les images sont plus cohérentes
   

Meta a donné ces prompts à CM3Leon :

• "Un petit cactus portant un chapeau de paille et des lunettes de soleil néon dans le désert du Sahara"
  
• "Une photo en gros plan d'une main humaine, main de mannequin"
  
• "Un personnage principal de raton laveur dans un Anime se préparant pour une bataille épique avec un sabre de samouraï"
  
• "Un panneau d'arrêt dans un style Fantaisie avec le texte '1991'"
  

Ce qui a donné ces photos :
TechCrunch a alors voulu comparer ces images avec ceux de Dall-E. En reprenant les mêmes prompts, voici ce que ça a donné :
CM3Leon fait mieux, surtout sur le panneau de signalisation.
Dernier point : cette IA est construite sur un modèle différent de la plupart des IA génératives d’art.
Et d’après Meta, cela lui permettrait d’utiliser 5x moins de puissance de calcul et moins de données d’entraînement.
Pour l’instant, Meta n’a pas annoncé de date de sortie.