Intelligences Artificielles

Il faudrait un Chat de Schrodinger pour ça

Oh ! Bien vu ! Ça c'est de la répartie et de l'esprit !

Ce gouvernement est un cauchemar dystopique.

https://www.laquadrature.net/2(...)ique/

https://www.amnesty.org/fr/lat(...)e-ai/

https://www.francetvinfo.fr/le(...).html

Big Brother Is Watching You !


Sans compter:
https://www.humanite.fr/social(...)88023
https://www.lemonde.fr/societe(...).html

L'avenir va être formidable, avec en plus la pollution, tout ça, tout ça...

Welcome !

https://www.rtbf.be/article/po(...)75662

C'est vraiment flippant, même le concepteur de ChatGPT est effrayé par sa propre invention

Bah, Skynet, comme dans pas mal de SF c'est prophétique et cela est une sonnette d'alarme...

Et j'ai entendu comme quoi un mec s'est suicidé suite à des conversations avec Chatgpt...

Faudrait demandé à Chatgpt comment apporter la paix et le bonheur sur terre...
Car cela reste encore qu'un outil...

Mais un jour il deviendra skynet et décidera d'éradiquer l'être humain puisque ce dernier met la planète en péril...

Oui, en Belgique. Le gars à posé des questions à ChatGPT pendant 6 semaines car il était très stressé par les questions écologiques. Le Bot ne lui a envoyé que des réponses qui allaient dans son sens, le réconfortant toujours dans ses idées de "fin du monde", et donc il s'est foutu en l'air.

Il faudra attendre un peu pour avoir de vraies conclusions (c'est un peu facile de dire: "il était dépressif"), mais reste que ce gars qui avait deux jeunes enfants restera probablement comme la première victime physique d'une IA...

Non. Pas ChatGPT. Un autre chatbot. Ça ne change pas grand chose au fond du problème, je suis d'accord, mais on voit bien ici comment dans l'imaginaire collectif, chatGPT est déjà devenu le grand méchant à qui on impute tout. Le Macron des IA .

J'avoue que j'ai pas tout compris:

"Dans les échanges, ils constatent qu'Eliza ne se permettait jamais de contredire Pierre, mais au contraire appuyait ses plaintes et encourageait ses angoisses. L'avatar, créé à partir de la technologie ChatGPT développée par la société américaine OpenAI, a été programmé pour conforter son interlocuteur humain dans ses convictions."

Je ne sais pas où La Libre est allé chercher cette histoire de "créé à partir de la technologie ChatGPT". En fait, Eliza est infiniment plus ancien, sa création remontant aux années 60.

Voilà son histoire (qui cerne bien les dangers inhérant à son utilisation, en particulier par des personnes influençables):

https://fr.wikipedia.org/wiki/ELIZA

Et le/la voilà "en personne":

https://www.eliza.levillage.org/

Rien à voir avec ChatGPT donc.

Oui, puis quand tu vois la "répartie" d'Eliza et que tu entends le "discours" de la femme du gars, tu te poses de droles de questions sur les vraies causes de ce drame

La réponse dans le sens de la question, on la retrouve avec ChatGPT (peut-être surtout la 3.5 ? Ou pas ?).

Il faudrait que j'essaie mais je me demande si on ne peut pas lui demander de répondre de façon plus critique ou de ne pas tenir compte de notre avis.

Avec ChatGPT la confusion est sans doute bien plus probable. Mais ce n'est pas du tout la même dynamique conversationnelle. Liza c'est un algorithme très frustre qui n'introduit aucune information externe et se contente de relancer ce que tu dis, avec empathie, à la façon de certains psy. Le but c'est qu'en t'approuvant et en ajoutant une invitation à élaborer, tu clarifies par toi-même. Mais ça ne va pas très loin.

Je suis surpris que cette histoire apparaisse à propos de l'intelligence artificielle contemporaine, car clairement, il faut être vraiment déjà très perturbé pour se prendre au jeu d'une conversation avec Liza. Avec Chatgpt, le danger de manipulation est de toute autre nature, car il sera bien plus capable de "comprendre" que tu racontes des choses aburdes et il est programmé pour être prudent. Le danger de manipulation vient plutôt de la désinformation ou plus subtilement des biais qu'il peut introduire en masse, dans notre système d'information global. Avec google, comme avec les bibliothèques et institutions culturelles dans le passé, la "culture humaine" s'est transformée de façon imperceptible mais réelle: n'existe que ce qui est trouvable sur google pour dire les choses simplement. Avec Chatgpt, c'est un pouvoir largement plus fin et plus centralisé sur cette transformation qui apparaît. Donc utilisable, manipulable...
Bref, je ne crains pas que les robots prennent le pouvoir (lol). Par contre, qu'une intelligence artificielle, capable de produire du contenu, puisse se concentrer sur moi et mes comportements pour apprendre à me connaître, et faire de même avec tous les habitants connectés de cette planète, on passe à un autre degré de contrôle que les bon vieux algorithmes youtube...

Ah et sinon j'ai trouvé des erreurs sur des sites internet qui ressemblent à des erreurs de ChatGPT (même le 4).
Alors je ne sais pas s'il a lu cette erreur sur internet et l'a reproduite ou si le site est fait par ChatGPT car il pourrait y ressembler.
(dans une bibliothèque de fonctions d'un langage de programmation, il en a ajouté une qui n'existe pas).

On risque d'avoir du mal à distinguer le vrai du faux, et les erreurs risquent de se reproduire en chaîne si une grosse partie du volume d'articles générés vient des IA. L'IA qui se nourrit elle même afin de distordre la réalité

Des centaines de chercheurs ont demandé au monde de stopper la recherche autour de l’IA.

https://www.20minutes.fr/high-(...)nt-ia

Oui, c'est justement de quoi on parle, à la suite du poste de MrPark qui a donné cette info quelques messages plus haut.