ACCUEIL | FLUX RSS
Jeudi 18 Octobre 2018

TECHNOLOGIES - Publié le 12/06/2018 à 14:17


Voici Norman, l'intelligence artificielle psychopathe



Il voit la mort partout: Norman, «la première intelligence artificielle psychopathe», a été mis au point par des chercheurs aux États-Unis pour expliquer au grand public comment sont confectionnés les algorithmes et le sensibiliser aux dangers possibles de l'IA.

«Quand les gens disent que les algorithmes d'intelligence artificielle sont biaisés ou injustes, le coupable est souvent non pas l'algorithme lui-même mais les données biaisées qui ont été utilisées (pour le mettre au point). Cette idée est bien connue des scientifiques mais beaucoup moins du grand public», ont expliqué lundi Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, du prestigieux Massachusetts Institute of Technology (MIT).

D'où l'idée de créer Norman, prénom choisi d'après le personnage du tueur psychopathe Norman Bates dans le film Psycho (1960) d'Alfred Hitchcock.

Concrètement, Norman a été «nourri» uniquement avec de courtes légendes décrivant des images «de personnes en train de mourir» trouvées sur la plateforme internet Reddit, expliquent les trois chercheurs, qui ont créé un site internet dédié.

Les chercheurs lui ont ensuite soumis des images de taches d'encre, comme dans le test psychologique de Rorschach, pour savoir ce que Norman voyait et pour comparer ses réponses à celles d'une autre IA, entraînée de façon traditionnelle.

Et les résultats sont pour le moins effrayants: quand l'IA traditionnelle voit «deux personnes debout l'une près de l'autre», Norman voit dans la même tache d'encre «un homme qui saute d'une fenêtre». Et quand Norman distingue «un homme tué par balles devant sa femme qui hurle», l'autre IA décèle «une personne en train de tenir un parapluie».

Le site internet montre ainsi dix exemples de taches d'encre accompagnées des réponses des deux systèmes, avec toujours une réponse macabre provenant de Norman. Le site propose aux internautes de faire eux aussi le test des taches d'encre et d'envoyer leurs réponses «pour aider Norman à se réparer».

Plus qu'une expérience réellement scientifique, Norman illustre «les dangers de l'intelligence artificielle quand elle tourne mal parce que des données biaisées ont été utilisées» pour l'entraîner, disent les chercheurs, qui «espèrent susciter une prise de conscience du public et un débat sur ces sujets».

Un robot invité à parler d'intelligence artificielle devant des députés britanniques
Japon: sentir l'humain, assis, couché, dans son bain, au travail...
Réalité mixte: révolution dans le monde du sport
A Amiens, un robot intelligent promet d'améliorer le tri des déchets
Automobile: l'électrique moins cher que l'essence selon une étude
Géothermie: les Philippines veulent rattraper le temps perdu
Télécoms: nouveau dispositif pour les appels des sourds et malentendants
Des robots qui nous ressemblent de plus en plus
Trottinettes et monoroues électriques se répandent dans les villes
Google s'allie à Ubisoft dans le jeu vidéo en streaming
 Publicité 
 LES PLUS RÉCENTS 
Une très rare maladie infantile paralysante inquiète les autorités aux Etats-Unis
La lumière bleue de nos écrans, nouvelle cible de la cosmétique
Un jackpot à 900 millions de dollars à la loterie américaine
En Birmanie, un temple bouddhiste transformé en havre pour pythons
Les émissions liées à l'énergie devraient encore croître en 2018
 LES PLUS LUS 
Kenya: huit rhinocéros morts après avoir été changés de parc
Puces Intel: des chercheurs découvrent une faille de sécurité
Comment limiter le temps d'exposition aux écrans des enfants ?
Des tombes de l'époque romaine découvertes dans un village palestinien
Le binge drinking peut augmenter le risque de maladies cardiovasculaires
Au coeur de l'Amazonie, vivre dans la plus grande jungle du monde
Le plus vieux fromage jamais trouvé aurait été déterré en Égypte
La mortalité par AVC évolue inégalement en Europe
En Bosnie, des cheveux sur mesure et gratuits pour les enfants cancéreux
Le génome complet du blé tendre séquencé pour la première fois
 Publicité 
 En image 
 Publicité 
2011-2018 © Aux Frontières de la Science. Crédits photos: istockphoto. Page générée en 0.051 secondes. Blog d'actualités scientifiques réalisé par des passionnés.