Intelligences Artificielles

Voilà.
J'ai sauté dans le train de l'AI pour l'analyse textuelle (BERT pour ceux à qui ça dit quelque chose) que je pratiquais depuis pas mal d'années (j'ai bossé dans les année 2003-2004 sur Alceste, Tropes). J'ai vu toute l'évolution de l'analyse textuelle assistée par ordinateur. Je vois bien ce que cela a amené. Je vois aussi ce que cela n'a pas amené

En fait de révolution nous allons d’abord avoir un grand nivellement par le bas de beaucoup de choses.
Le mp3 a flingué la qualité musicale pendant quelques années, je crains le même principe sur des domaines qu’on ne soupçonne pas.

Actuellement les brochures publicitaires, les premiers articles, bientôt les chansons, des livres… tout cela écrit dans une langue neutre, aseptisée, ennuyeuse et finalement illisible. Mais pour des jeunes qui ne lisent pas ça ne choque pas.
On m’a rendu un appel d’offre dont la partie technique sortait tout droit de chat gpt. Contenu à peu près correct , comme si la demande était faite par quelqu’un qui maitrise mal son sujet et d’une banalité à pleurer.

Et ce sera les series, films, les projets industriels…
La grande repompe a toujours existé, on utilisait des recettes éprouvées mais au moins on se formait, on apprenait, apportait une touche de savoir faire… là ça va tourner en rond pendant un long moment.

La médiocrité va s’institutionnaliser quelques années.

Pas de panique, nos jeunes reprendront le dessus, redeviendront créatifs.

Ce que je viens d’ecrire est tellement chiant qu’on dirait du chatgpt.

Non non c'est tout à fait sensé. Attendons que les gens s'emparent de l'outil.

Roh les conclusions definitives comme si le sujet etait clos " c'est nul, ca marche mal"

On est qu'au debut de l'IA. Vous me faites penser aux mecs qui quand l'electricité a été democratisée pensaient deviner a l'avance toutes les implications


ChatGPT ecrit deja des choses plus structurees que les poncifs enumérés ces dernieres pages, alors qu'est ce que ce sera dans 5 ans!!

A la vitesse a laquelle ca progresse, vous n'etes pas au bout de vos surprises ...

Ben désolé mais les algorithmes existent depuis un bout de temps. J'ai découvert l'AI avec le logiciel Marlowe autour de 2005. Autour de 2018 ce sont les algorithmes à la base de chatgpt qui sont apparus avec BERT par exemple. Donc 5 ans qu'on entraîne des machines. Moi j'ai commencé à tester BERT en 2020 profitant du confinement pour apprendre de nouvelles techniques. Évidemment que les choses évoluent. Mais pour être en plein dedans, je vois la part de bullshit qu'il y a. Et je pense que les plus grosses surprises sont passées. On est en train de découvrir les limites, depuis 6 mois.

J'ai appris ce qu'était un algorithme en 1971 -
J'aurai toujours du mal à associer ce terme aux IAs, il est bien plus approprié à l'informatique classique.

Oui ca date meme de Al Kwarizmi en 800...

Il n'y a pas de définition de l'IA de toute facon, mets ce que tu veux dedans

Biosmog tu te trompes la recherche en"IA" est en pleine expansion avec 250 papiers par jours et tous les 6 mois ca double

On est qu'au debut des possibilités, pour plein de raisons : hardware qui evolue, moyens mis dans la recherche, democratisation, recherche galopante

Je pense qu on aura des bouquins convaincants assez vite

C'est monmetier d'en fabriquer ( je code) et de conseiller dessus.

L'AI c'est un processus qui calcule des probabilités en fonction de ce qu'on lui a donné à manger et qui "prédit" chaque élément en fonction de son environnement: tu lui donnes un bout de phrase, il est capable de la compléter, de prédire la phrase d'avant et la phrase d'après: il fait un modèle de ta phrase. L'exploit technique (mathématique ou informatique) est de réussir à adresser de façon économique et efficace des matrices titanesques. Là ce sont des algorithmes.

BERT est connu dans les sciences du langage car c'est le premier à avoir réussi à tenir compte de ce qu'il y a avant et de ce qu'il y a après. Avant on était seulement dans un seul sens. Mais concrètement, pour coder des professions par exemple (c'est un exemple réel sur lequel des dizaines de gars bien plus compétents que moi bossent depuis plusieures années), on n'arrive toujours pas à lui faire comprendre de façon 100% fiable la différence entre "assistant du médecin" et "médecin assistant". Par exemple, entre mille: le langage est bourré d'effet d'ordre très complexe de ce type où le sens est transformé. Même avec BERT on patine. Alors si Lofi a une solution, il ne recevra peut-être pas la médaille Fields, mais pas loin. Les limitations ne se limitent pas aux effets d'ordre, pense à l'expression "je suis incapable de rien faire": la langue naturelle est remplie d'aberration formelle de ce type. Elles sont presque aussi nombreuses que les phrases correctes formellement. On se casse le cul à produire des codifications automatiques: on est content quand on arrive à 40% d'accord avec un codeur humain, en entraînant la machine sur la moitié du corpus (qu'on aura dû coder manuellement). Pour détecter l'ironie, les chercheurs sont tout contents quand ils y arrivent à 35% au lieu de 32% avec l'ancienne méthode (là je cite de mémoire un article de 2021, donc maintenant il doit être à 37%).

Bref c'est passionnant, mais miraculeux... non. Et ça ne fait pas 6 mois que ça existe.

Oui on parlait déjà de réseaux de neurones dans les 90s.

en informatique c est pas la medaille fields mais le prix turing

le premier est plus prestigieux bien evidement

l informatique c est facile

@Biosmog : tout ce que tu dis est vrai sauf que le terme algorithme par définition désigne "une séquence écrite d’instructions" et produit un résultat totalement déterministe. Et tu le dis toi-même les IA digèrent des statistiques et leur production ne peut être prévue.
Les gens qui utilisaient les grammaires formelles pour faire de l'analyse de langage écrivaient bien eux des algorithmes, dès l'utilisation des réseaux de neurones c'est justement autre chose.
Techniquement le terme algorithme est déplacé même s'il s'est malheureusement (à mon avis) répandu, par des gens qui n'ont sans doute jamais codé (d'algorithme)

C'est pas sur algorithme qu il y a ambiguité. Y'en a qui sont boites noires, d'autres non mais ca empeche pas que pour entrainer un reseau de neurone ou le lancer il y a une suite finie de boucles sur les donnees

C'est le terme IA qui n'a pas de def consensuelle, souvent on comprend que les gens parlent de reseau de neurone mais la frontiere est tres artificielle

s'il n'y a ni sucre ni beurre, l'IA aurait surement dit vas en acheter!

Les mecs qui font du code toute la journée au taf (et qui parlent beaucoup de ça en dehors du taf) me font peur.

Avec ce langage machine, ce ne sont pas vraiment des humains, mais pas vraiment des machines non plus (un peu comme les sténo-dactylos, ceux qui font du Morse, ou les sheddrers à la guitare )

The code is law, le cauchemar des nerds qui ont pris le pouvoir avec leurs ordinateurs. Je crois qu'ils sont encore pire que les boomers à PEA

ou peut etre qu'ils font ça pour financer une vie tout à fait normale (en bossant le moins possible) va savoir ?

C’est un boulot qui demande bien plus d’investissement en temps que celui du boulot, c’est comme ça.
Sans side projects, on régresse.
Et puis quand on voit les tonnes de docs à lire, la curiosité qu’il faut garder pour voir venir les nouvelles technologies…
C’est très difficile d’avoir un niveau correct sans une certaine passion.