Gzii a écrit :
Et le risque énorme sur ce sujet, c’est la précision de la demande.
Car on n’imagine pas à quel point la compréhension sera à la lettre, avec amélioration pour atteindre l’objectif édicté quelles qu’en soient les conséquences.
Et parfois même quitte à briser certaines règles de départ.
D’où l'importance d'algorithmes clairs pour donner les objectifs ainsi que des mesures de contrôle humain.
Je suis en train de lire le dernier bouquin d'
Harari "
Nexus" et il décrit parfaitement différent travers dans lesquels nous pourrions très vite nous retrouver.
exemple :
"Les
Rohingyas sont des musulmans vivant dans l'état d'Arakan, à l'ouest du Myanmar (ex-Birmanie).
Depuis au moins les années 1970, ils sont victimes de graves discriminations et de flambées de violence occasionnelles de la part de la junte au pouvoir et de la majorité bouddhiste.
Des pogroms anti-Rohingyas, des vagues de violence sectaires et des massacres ont été en grande partie inspirés par de fausses informations diffusés, relayés et amplifiés par des algorithmes de
Facebook.
En 2016-2017, un groupuscule islamiste mena une série d'attaques dans le but d'établir un état musulman séparatiste en Arakan...
En réaction a ces attaques, l'armée du Myanmar et des extrémistes bouddhistes lancèrent une campagne de purification ethnique a grande ampleur visant l'ensemble de la communauté rohingya.
Suivirent destructions de villages, entre 7 et 25 000 civils assassinés, entre 18 et 60 000 femmes et hommes violés ou agressés sexuellement et
730 000 rohingyas furent expulsés de force du pays.
A l'origine de ces violences, une haine féroce à l'égard de cette ethnie qui avait elle même été alimentée par une propagande anti-rohingyas se déployant pour l'essentiel sur
Facebook, principale source d'informations et de mobilisation politique au Myanmar.
Un travailleur humanitaire décrivait en ces termes les fils d'actualités de l'époque : les attaques en ligne à l'encontre des rohingyas étaient hallucinantes - leur nombre et leur violence. Un vrai raz de marée.... ça a renforcé l'idée que ces gens étaient tous des terroristes qui ne méritaient pas d'avoir des droits....
...Les comptes Facebook étaient inondés de fake news faisant état d'atrocités et autres projets d'attentats terroristes imaginaires...
...
Les algorithmes des réseaux sociaux prenaient par eux mêmes des décisions actives et lourdes de conséquences.
Ils recommandaient encore et encore, les publications haineuses d'un bouddhiste fanatique du nom de Wirathu à des centaines de milliers de Birmans.
Mais pourquoi les algorithmes ont ils décidé de promouvoir la haine plutôt que la compassion ?
Parce qu'en 2016-2017, le modèle commercial de Facebook reposait sur
la maximisation de "l'engagement" de ses utilisateurs avec le partage de publication et le bouton "like"..., si bien que, dans leur quête d'engagement des utilisateurs,
les algorithmes prirent la décision, lourde de conséquences, de propager la haine. "
Être plutôt que paraître, brouter plutôt que paître...
