351 musiciens en ligne | Se connecter | S'inscrire

Intelligences Artificielles

Rappel du dernier message de la page précédente :
ZePot
  • ZePot
  • Vintage Total utilisateur
  • #975
  • Publié par
    ZePot     le 17 Janv 2024, 21:55
Citation:
Un programme de Google a résolu vingt-cinq problèmes de géométrie sur trente donnés aux Olympiades internationales de mathématiques grâce à une nouvelle architecture d’IA.




https://www.lemonde.fr/science(...).html
Masha
  • Masha
  • Custom Ultra utilisateur
  • #977
  • Publié par
    Masha     le 23 Fév 2024, 22:57



Postez des recettes, bordayl de merde.

Fâchez-vous comme vous voulez, je m'en fous.
Kandide
IA SORA

&ab_channel=ATOM
PEACE & LOVE
cliclac
Kandide a écrit :
cliclac a écrit :
c'est apparemment très facile de les faire déraper:
https://www.lemonde.fr/science(...).html

Mais pour combien de temps...

il faut lire l'article, j'avais la version papier, il y a trois niveau sensible dont un lors de la sélection des données d’apprentissage et de son contrôle, très peu d’empoisonnement, moins de 1%, fake news, pornographie, racisme, pourrait générer une pollution sur prés de 50% des résultats.
Il existe aussi des applis AI sur le dark webb pour créer du contenu toxique
Zoob
  • Zoob
  • Custom Ultra utilisateur
  • #984
  • Publié par
    Zoob     le 28 Fév 2024, 18:19
cliclac a écrit :
Kandide a écrit :
cliclac a écrit :
c'est apparemment très facile de les faire déraper:
https://www.lemonde.fr/science(...).html

Mais pour combien de temps...

il faut lire l'article, j'avais la version papier, il y a trois niveau sensible dont un lors de la sélection des données d’apprentissage et de son contrôle, très peu d’empoisonnement, moins de 1%, fake news, pornographie, racisme, pourrait générer une pollution sur prés de 50% des résultats.
Il existe aussi des applis AI sur le dark webb pour créer du contenu toxique
il existe donc des IA sur Backstage depuis fort longtemps
"Et c'est tout, terminé !"
Ahnonmaisoui
Ok cliclac, mais on n'utilise plus seulement les IA pour générer du contenu sur le web, mais aussi pour supprimer l'intervention humaine dans des process de surveillance, de management ou d'analyse de contenus complexes. Le jour où c'est une IA qui te donne des ordres et qu'elle prend une mauvaise route, qui contrôle l'IA ? Une autre IA ?
cliclac
apparemment pas mal de scientifique, d’étudiants, cherchent les failles qui conduiraient une IA, a des résultats aberrants et en trouvent beaucoup. Ils les signalent ensuite a l’éditeur pour correction.
Le danger c'est donc leur faiblesse et les exploitations possibles, qu'elle déraille pas forcement grave si on le sait mais si on a confiance c'est la cata
Kandide
cliclac a écrit :
apparemment pas mal de scientifique, d’étudiants, cherchent les failles qui conduiraient une IA, a des résultats aberrants et en trouvent beaucoup. Ils les signalent ensuite a l’éditeur pour correction.
Le danger c'est donc leur faiblesse et les exploitations possibles, qu'elle déraille pas forcement grave si on le sait mais si on a confiance c'est la cata
Oui.
J'ai vu un soir au journal TV un gars de météo France qui disait qu'il se méfiait des prévisions météo de l'IA (au passage, il y a 600 personnes en moins à météo France...)
Style: L'IA qui annonce de la neige à 9° ou bien fin décembre une température de 28° dans le Nord...
PEACE & LOVE
Ahnonmaisoui
Extrait de l'article cité plus haut :

Citation:
(...)Chez OpenAI, on qualifie les fausses informations fournies par l’IA d’« hallucinations ». L’IA imagine en quelque sorte un monde dans lequel ce qu’elle dit est applicable même quand c’est faux. Le glissement de sens dans cette perspective est intéressant : un peu plus et on dira qu’il doit exister des mondes parallèles où les erreurs factuelles produites par le moteur de langage GPT-4 sont au contraire tout à fait exactes.


On se rapproche de ce qu'on appelle la folie chez les humains, qui n'est pas un problème d'intelligence (on peut être intelligent et fou en même temps) mais de rapport déréglé à la réalité.
Gzii
  • Gzii
  • Vintage Total utilisateur
  • #989
  • Publié par
    Gzii     le 01 Mar 2024, 09:16
Le danger, aussi, je trouve, c’est que les IA se nourrissent de tout ce qu’elles lisent.
Et ceux qui s’expriment le plus, ce sont probablement les plus nombreux, donc pas les vrais experts.
cliclac
non elles se nourrissent de ce qu'on leur donne, c'est le choix qui peut etre problématique
Intelligences Artificielles
Accueil forum Backstage

En ce moment sur backstage...

Sujets les plus suivis

Sujets les plus consultés

Sujets les plus actifs