CARNETS DESCARTES

L’intelligence artificielle va-t-elle rester impénétrable ?

http://www.internetactu.net/a-lire-ailleurs/lintelligence-artificielle-va-t-elle-rester-impenetrable/

Le problème de l’apprentissage automatisé et des réseaux de neurones, principales techniques faisant tourner les programmes d’intelligence artificielle, repose sur le fait que même pour ceux qui les programment, leurs résultats sont souvent inexplicables. C’était le constat que dressait déjà Wired il y a quelques mois. C’est le même que dresse Nautilus. La difficulté demeure d’expliquer le modèle, estime le chercheur Dimitry Malioutov, spécialiste du sujet chez IBM. Ces programmes utilisent des données pour y trouver des schémas, mais même ceux qui les programment ont du mal à expliquer comment ils fonctionnent. Ce qui signifie à la fois qu’on a du mal à prédire leurs échecs et que leurs résultats sont difficilement interprétables… Alors que l’Union européenne vient de se prononcer pour un droit à l’explication des décisions automatisées, permettant aux citoyens de demander une forme de transparence des algorithmes, reste à savoir ce que signifie exactement cette transparence. Doit-elle être une explication ou une appréciation de sa complexité ?

Yann Sallou

Ingénieur informatique / Chef de projet Réseau social collaboratif
  • http://carnets.parisdescartes.fr/bookmarks/view/330863/l%E2%80%99intelligence-artificielle-va-t-elle-rester-impenetrable