Intelligences Artificielles

je suis malheureusement d'accord dans ce monde là :

Quand on parle d'un système technique autonome, ce n'est pas du tout dans le sens qui était mentionné plus haut, de la machine qui s'échappe de tout contrôle et peut potentiellement se retourner contre nous. En fait, le danger de l'IA c'est plutôt que nous perdions notre autonomie en lui confiant ce qui nous importe. C'est dans ce sens que la machine peut se retourner contre nous. Comme dit lo-fi reup, il y a une confusion avec les récits de science fiction qui dessinent des robots vengeurs ou je ne sais quoi. La fin du monde à cause des robots ne va pas du tout se passer comme ça (si elle se produit).

Le danger potentiel de l'IA est tout autre. Il est que, comme tout développement technique, elle n'est pas neutre, elle donne une direction dont nous devenons dépendant. Ce danger il est donc plus vicieux. Le danger de l'IA est qu'on ne soit plus capable de s'en passer pour assurer l'alimentation en électricité d'un pays, pour évaluer un projet complexe, ou au niveau individuel, pour formuler une communication. Et les alertes "sérieuses" sur les dangers de l'IA parlent plutôt de ça, à ma connaissance. C'est un peu le contraire de l'autonomie.

C'est pour ça qu'on parlait de toutes les ressources humaines nécessaires pour faire fonctionner concrètement une IA. L'autonomie est un leurre, on est dans un monde où de moins en moins de choses sont autonomes, où chaque chose a besoin de la collaboration d'un plus grand nombre de personnes, sur l'ensemble du globe, pour fonctionner. La masse de travail humain cumulé nécessaire pour que chatgpt tourne est proprement faramineuse: c'est une pyramide qui demande la collaboration de milliards de personnes. On pourrait décrire le problème auquel nous sommes confrontés à l'envers: le jour où la technologie s'effondre, toute cette masse de travail cumulé disparaît (les bibliothèques numériques, les systèmes de calculs, les oeuvres d'art numérisées, etc.)

Je suis plutôt d'accord ; un des dangers de l'IA c'est que l'humain perde son autonomie.
... et on peut aussi penser que plus un système est complexe, plus il est fragile (malgré les apparences).

C'est vrai que c'est un aspect le plus répandu : l'humain qui ne prends plus de décision et qui s'en remet à son aide...et ça mène à la paresse :

Cet article est bien vulgarisé et est bien représentatif :
https://www.nature.com/article(...)787-8

Un des autres aspect c'est les machines qui se codent elles même.

Il y a pleins d'articles sur le net (je connais pas les auteurs...) qui parelent de cet aspect justement...et la plupart sont unanimes : il ne faut pas que ça se fasse.

Quand le chaos s’installe, bien malin est celui qui sait dans quel sens ça va aller.

Et qui ne fait plus.
Je suis un partisan du pour savoir faire, il faut faire. Mais si on ne fait plus, on ne sait plus.
Les exemples sont déjà légion de savoir faire perdu, bien avant l’apparition d’IA.

Alors pour la singularité dont on parle, je pense que ça dépend de ce qu’elle est.
La possibilité de se répliquer, de s’améliorer etc. je pense qu’elle n’est vraiment pas loin.
La possibilité d’une perte de contrôle pourrait aller très vite après ça.
Mais c’est un genre de perte de contrôle qui est souvent mal interprêté.
Ça n’est pas que l’IA va avoir une conscience et voudra nous remplacer, c’est juste qu’elle sera un peu comme une machine folle avançant dans le but que nous lui avons donné.
Mais il y a bien des vœux qui pourraient se révéler des enfers. C’est notre absence de possibilité de maîtrise très rapide de ces dérapages qui est problématique. Et la capacité de l’IA de poursuivre aveuglément le but donné, qui est la priorité numéro 1 même si pour cela elle doit remettre en question des priorités moins importantes (et donc mentir tromper, profiter d’ouvertures ou failles etc.).
Et ça ce serait suffisant pour nous détruire, il suffit juste d’une machine folle (imaginons un truc relié à des armements, a une gestion de réseau vitale ou quasiment).

Quand à la vraie singularité, celle de la conscience, on en est très loin.
Mais le manque de conscience est parfois pire que la conscience.
Et c’est pas une machine simple, on ne peut en comprendre en temps réel le fonctionnement ou les choix, ni cette capacité de se reprogrammer qui est possible.

C'est trop d'honneur. Je cherche à comprendre de toutes petites choses et face au chaos je n'ai rien à dire.