L’IA est-elle une sorte de bête sauvage?

Les futurologues en ont beaucoup à dire lorsqu’ils évoquent les conséquences du développement de l’intelligence artificielle. D’un côté du spectre, il y a la perspective d’un développement décevant et inefficace, l’échec de toutes les attentes et les investissements placés dans cette technologie. D’un autre côté, il n’y a ni plus ni moins que l’hypothèse de l’émergence d’une espèce supérieure, éradiquant - et remplaçant - la race humaine. Évidemment, entre les deux extrêmes se trouvent des scénarios un peu plus reluisants, comme la transformation à divers degrés de certaines industries.   

Chacun de ces secteurs professionnels aura inévitablement à traverser différents bouleversements (pensons seulement aux manufacturiers). Dans la première partie de son entrevue, Benjamin Fels, le fondateur de macro-eyes [lien], fait toute la lumière sur la manière dont l’IA se développe dans l’industrie médicale [lien à la première partie].

La deuxième partie, qui nous amène dans une tout autre dimension, nécessite son propre espace. Benjamin nous y offre un moment de clarté où peuvent être entrevues de grandes idées à propos de l’avenir de l’IA, incluant les conséquences d’un débordement éventuel.

Le passage suivant de son entrevue (partie 2) est présenté dans son intégralité, sans les questions. Le flot continuel des idées de Benjamin, en sommes

----------------

Il y a véritablement le potentiel de quelque chose de plus grand qu’une « expertise machiné ». Dans ce cas-ci, on parle de deux entités travaillant de concert, interagissant ensemble, et permettant de créer quelque chose de beaucoup plus puissant. Pensez seulement à un outil aussi simple qu’un vulgaire pinceau, par exemple. Celui-ci, dans les mains d’un expert, peut accomplir de grandes choses, un dessein impossible si ce pinceau était laissé à lui seul sur une table. Il lui faut une toile et quelqu’un pour le manier.

Il y a aussi l’exemple d’un animal élevé et entrainé de manière intensive.

Pensez à un animal qui, pendant des milliers d’années, a été élevé pour accomplir une tâche spécifique avec une précision extraordinaire. Que ce soit un cheval ou un chien de berger, cet animal peut accomplir des actions particulières de son propre chef et avec la plus grande autonomie. Il y a donc une plus grande utilité et un meilleur résultat lorsque cet animal travaille en compagnie d’un humain.

Les animaux peuvent percevoir des choses qui échappent aux humains. À l’opposé, les humains peuvent évidemment déceler et comprendre des choses impossibles à comprendre pour les animaux. Cette interaction entre l’animal et l’humain devient particulièrement efficace quand les deux parties se connaissent bien et se font confiance.

À mes yeux, cette métaphore est une vision claire de l’objectif que nous devons nous fixer. Il y a certainement des philosophes qui seraient en désaccord avec moi, mais à plusieurs degrés, les machines intelligentes ressemblent beaucoup à des animaux qui voient certains de leurs traits être entrainés sur une longue période.

Je dirais que c’est quand les animaux et les hommes travaillent ensemble que leur collaboration est à son meilleur. Si vous êtes un berger et que vous passez la journée entière à guider un troupeau avec votre chien, vous développerez une grande compréhension l’un de l’autre et serez en mesure de communiquer de manière riche, précise et efficace. 

NDLR La famille d’où provient Benjamin possédait un chien de berger, une femelle, et nos deux familles se connaissent depuis longtemps. Un jour, alors que nous étions en randonnée tous ensemble (la chienne comprise), j’étais impatient par rapport au groupe et toujours en train de m’en distancer. Or, la chienne, bien qu’elle ne possédait aucun entrainement spécifique, ne pouvait s’empêcher de me rattraper de me mordiller le petit doigt pour tenter de me ramener dans le groupe.  

L’histoire de notre chienne qui te mordillait est un bon exemple d’information erronée. Ça permet de démontrer comment un système peut rencontrer un comportement en marge de ce qu’il connaît. Notre chienne était le produit d’un élevage sélectif, mais elle n’a pas été entrainée de manière spécifique. Tout comme l’IA, les chiens de berger nécessitent beaucoup de données d’entrainement (à travers l’exposition de scénarios récurrents).

Aussi, considérons un instant notre chienne comme le produit de plusieurs générations d’apprentissage informatique progressivement « codé serré ». La boucle liant l’homme à la machine et à l’environnement s’en retrouve ainsi bouclée : les données environnementales se sont butées à un mécanisme insuffisamment syntonisé avec des données vivantes. Par surcroit, ces données se retrouvaient traduites en un résultat familier, mais erroné. Un débordement décevant pour l’IA, donc.

La « morsure » devient une excellente métaphore des dangers de laisser trop de laisse à l’IA. L’entrainement est tangible dans les strates profondes, mais l’IA ne sait pas comment l’ajuster à la réalité et aux situations ambigües. En marge de ce rapport homme-animal, transposable sur l’IA, il apparaît clair qu’il est essentiel que les données reproduisent la réalité. Quand vous commencez à penser à des petites bribes de données ne le faisant pas, l’altérant, même, les décisions basées sur celles-ci peuvent tendre vers des scénarios dangereux. Extrêmement dangereux si on parle de l’industrie médicale.  

Dans des environnements complexes, les êtres humains vont toujours observer des détails ne se retrouvant pas dans les données. C’est uniquement parce que nous ne vivons pas encore dans un monde où toutes les particules peuvent être auscultées. Ce n’est pas comme si j’avais un drone pouvant capter le niveau d’humidité dans mon appartement et collectant toutes sortes de données au sujet de mes signes vitaux, de l’environnement et de mon état émotif envers celles-ci. Dieu merci que ce n’est pas le cas!

Donc, comment insuffler aux machines toute la richesse de l’expérience sensorielle humaine, leur permettant ainsi de comprendre tout ce que nous comprenons? Et, dans ce scénario utopique que j’esquisse, nous trouverions le moyen de donner cette richesse sans nos faiblesses et notre aveuglement. Pour moi, c’est le Saint Graal. Et c’est de cette manière que je souhaite voir les machines, et les systèmes, prouver véritablement leur valeur.   

////

Cover photograph by Ottomar Anschütz

Drawing by Giovanni Domenico Tiepolo

Interview photograph by Sarah Ouellet

Recevoir les mises à jour
de Cloud&Co

Partagez
cette histoire