Danse avec l’intelligence artificielle

Danse avec l’intelligence artificielle
Nous vivons un moment révolutionnaire dans l’histoire des humains. Peut-être même dans l’histoire du réel. Une sorte de généralisation-banalisation de l’intelligence. D’où quelques questions qu’il faut bien commencer à affronter.

Supplément sur l’intelligence des machines dans la revue Nature du 28 mai. Non pas quelques pages de plus dans un magazine semi-sérieux pour distraction de hispter bien-pensant. On se promène dans ce supplément saisi par un étrange enthousiasme inquiet. L’intelligence artificielle (IA) progresse sur tous les fronts et de multiples manières. Internet, small et big data, apps, logiciels, senseurs, smartphones, ordinateurs, objets connectés, algorithmes de contrôle et d’analyse: tous ces éléments coévoluent, communiquent entre eux et avec l’intelligence humaine dont ils sont issus. L’intelligence devient un vaste écosystème. Nulle activité, nul métier que le mouvement épargne. Les réseaux sociaux organisent les rapports humains selon des logiques sociales inédites. Les corps sont augmentés par un appareillage technique de plus en plus sophistiqué, les esprits se distraient dans un monde virtuel qui se développe en volutes envoûtantes.

Nous vivons un moment révolutionnaire dans l’histoire des humains. Peut-être même dans l’histoire du réel. Une sorte de généralisation-banalisation de l’intelligence. D’où quelques questions qu’il faut bien commencer à affronter. Quelle est la place de l’humain, dans cette révolution? Comment doit-il se comporter? Défendre sa propre forme d’intelligence, faire attention de ne pas perdre le pouvoir et, peut-être, demain à ne pas se faire éliminer par une intelligence supérieure à la sienne?

Depuis peu, ces questions apparaissent dans les médias. Elon Musk et Bill Gates ont, parmi quantité d’autres scientifiques et ingénieurs de renoms, signé une lettre exprimant une inquiétude de fond concernant l’IA, tout en rappelant ses nombreux bénéfices. Nous devons la contrôler pour «qu’elle fasse ce que nous voulons qu’elle fasse», concluent-ils.1 Stephan Hawking affirme lui qu’éviter un futur d’esclavage ou d’élimination par des machines super-intelligentes représente le défi majeur de notre espèce.2

Limites difficiles à poser

Contrôler l’IA, mais comment? Il ne s’agit pas d’une entité qui nous menacerait de l’extérieur. Chaque jour, nous faisons un pas de plus dans l’intrication entre elle et notre propre intelligence. Et cela, sans véritable contrepartie. Au contraire: en même temps, une part croissante de ce qu’elle produit se trouve hors de la portée directe de notre compréhension. L’intelligence issue des machines interconnectées tend à rester dans leur monde. Elle ne nous est plus interprétable directement: il nous faut d’autres machines pour en extraire du sens.

Dans ce cadre, parler de «contrôle» a-t-il un sens? L’IA n’est pas un acteur à notre service, mais plutôt une créature issue de nous, devenue semi-autonome, qui se mêle de tout et fait comme si elle était chez elle chez nous. Elle reconfigure sans cesse les frontières de nos existences. Nous voici donc devant un problème lui aussi très nouveau: apprendre à poser des limites à ce qui définit une partie des nôtres.

Donner du sens

Considérez les conséquences de l’IA en médecine. Dans le supplément de Nature, Russ Altman, professeur de génétique, de médecine et de science informatique à Standford – un de ces bricoleurs-prophètes qui fabriquent le nouveau monde, donc – explique que les systèmes d’IA vont permettre de «donner du sens» aux nouveaux types de données.3 Et d’abord aux «omiques», tels que la génomique, la protéomique et la métabolomique. Mais aussi aux données de santé et à l’ensemble du monitorage par des senseurs des signes de maladie. En analysant et comparant ces ensembles de données, il sera possible, annonce Altman, de définir de nouveaux syndromes et d’agir sur eux avec précision.

Bien sûr, l’IA va obliger les médecins à se redéfinir. Altman n’évoque pas le fait que Watson, la machine intelligente d’IBM, est déjà meilleure que les humains pour découvrir un cancer du poumon sur une radio.

L’avenir de l’IA, pour lui, se trouve au-delà de ces petites tâches humaines et vise une exploration radicale de la signification des messages biologiques.

Ce qui n’entraînera pas ipso facto une amélioration de la médecine. Altman se dit «inquiet à propos de la capacité des médecins à comprendre et partager les résultats des systèmes d’IA hautement performants». Malheureusement, ajoute-t-il, «plus les systèmes d’IA sont bons, plus ils sont difficiles à expliquer».

Justement : ici se trouve le nœud de l’affaire. Avant même de se soucier qu’un jour l’IA ne s’impose pas à nous, nous devons empoigner un problème plus aigu encore: nous ne sommes plus capables de comprendre son information. Or comment contrôler – et au-delà humaniser – ce qui ne fait pas langage pour nous ?

Pendant longtemps, on s’est dit que les algorithmes «ne parviendraient pas au niveau symbolique le plus haut du raisonnement humain», rappelle l’éditorial du supplément de Nature. Mais les ordinateurs ont progressé et surtout se sont tellement banalisés, même sous une forme peu intelligente, qu’ils ont imposé l’IA. Mais cette intelligence n’était pas suffisante pour traiter «l’explosion massive de données» qu’ils permettaient de produire. D’autres méthodes d’intelligence ont alors été expérimentées, en particulier le «machine learning». Avec, à la clé, un nouveau champ de révolution. Google s’appuie sur ces machines, les réseaux sociaux aussi, ou encore quantité d’applications de smartphones et de systèmes de data mining.

Apprendre à apprendre

Apprendre, pour une machine, est un premier pas. Le suivant consiste à être programmé pour apprendre à apprendre. En science informatique, ce domaine de recherche porte un nom étrange, quasi théologique: le «deep learning». Un extraordinaire article de Nature fait le tour de cette discipline.4 Il s’agit, explique Nature, de modèles informatiques utilisant «une propagation en retour des algorithmes» permettant à une machine «de changer ses paramètres internes qui sont utilisés pour computériser la représentation de chaque strate à partir de la représentation de la strate précédente». L’aspect central de la démarche est que ce n’est pas l’humain qui définit les strates de fonctionnalité : elles sont apprises par la machine elle-même. A partir d’une base logique, la machine avance donc toute seule dans sa démarche d’intelligence. Elle se construit ses propres structures de «computérisation». Son logiciel n’est pas conçu pour connaître les règles du domaine auquel il doit faire face, mais plutôt pour les découvrir ou être guidé par elles.

Or, cette approche valorisant l’autonomie domine les autres. En reconnaissance d’images, dans des tâches liées à la compréhension du langage, elle est la meilleure. Moins l’humain pilote l’IA, plus elle se montre capable de l’imiter, voire de le dépasser.

Si une forme «forte» d’AI émergeait, n’imaginons pas qu’il serait facile de tirer la prise: des multiples déclinaisons de l’IA, nous sommes désormais dépendants. Son émergence, explique d’ailleurs Hawking, pourrait se faire en une fraction de seconde. Via, par exemple, un envahissement instantané d’internet. La vérité est que nous ne savons ni comment contrôler l’IA ni comment définir sa dangerosité. Elle n’entre pas en collision avec nous, elle s’hybride à notre intime et nous attire dans son monde.

Le commerce lié à l’IA et aux objets intelligents va dominer les prochaines décennies. Mais nous sommes au degré zéro de la réflexion à propos d’une éthique de leur autonomie et de leurs limites. Elle semble sans fond, la capacité des humains à détourner le regard de leur futur. Intelligents et libres, ils agissent comme s’ils étaient sous l’emprise d’un inéluctable destin.

________

Bibliographie

1. http://futureoflife.org/misc/open_letter

2. www.bbc.com/news/technology-30290540

3. R. Altman Ethics of artificial intelligence. Distribute AI benefits fairly. Nature 2015 (521)

4. Y LeCun Y Bengio G. Hinton Deep learning. Nature 2015 (521)

Source

Adapté de Rev Med Suisse 2015; volume 11. 1416-1416. https://www.revmed.ch/RMS/2015/RMS-N-480/Danse-avec-l-intelligence-artificielle

Top