Un philosophe des sciences se penche sur l’éthique de l’IA

Lors des révolutions industrielles précédentes, on disposait de décennies pour ajuster l’éducation en fonction de nouvelles forces économiques et technologiques. Aujourd’hui, c’est possible que la moitié de ce que les étudiants apprennent pendant leur première année d’université soit dépassé au moment de leur graduation. Si l’on tient compte de cette réalité, on voit qu’il est important pour nous, au travers de la révolution en intelligence artificielle (IA), d’être en mesure d’acquérir constamment de nouvelles compétences.

Il y a de bons côtés à l’automatisation des emplois par l’IA. Par exemple, ça libère les gens et leur permet de se concentrer sur les relations avec la clientèle. David Deming, professeur de politique publique, d’éducation et d’économie à l’université Harvard, remarque que les compétences que l’on acquiert à la maternelle — le partage, la négociation, l’empathie, la coopération — seront fondamentales dans un marché de l’emploi qui évolue continuellement.

Il y a un autre endroit où l’on s’intéresse aux impacts de l’IA sur la société : l’Université de Montréal (UdeM). On y retrouve plusieurs éminents chercheurs du monde de l’IA. Frédéric Bouchard est un philosophe des sciences à l’UdeM qui travaille entre autres à jumeler les chercheurs en informatique avec d’autres en sciences humaines. « C’est excitant à Montréal, dit-il, parce qu’il y a une masse critique de gens provenant de différents champs de recherche qui s’intéressent aux mêmes enjeux — et ça fonctionne. »

Grâce à son rôle, Bouchard a une vue d’ensemble sur l’évolution de l’IA. « Je ne suis pas futurologue, mais si je me fie aux progrès technologiques et aux différents marchés qui s’intéressent à l’IA, je crois que ça prendra au maximum vingt ans [avant qu’elle soit implantée un peu partout]. » Il croit qu’il ne faut pas attendre que la technologie soit fonctionnelle avant de se poser les bonnes questions. Nous lui avons demandé de nous en dire davantage sur cet enjeu

Comment vous êtes-vous d’abord intéressé à l’IA?

Bouchard : Je m’y suis intéressé quand un de mes étudiants a décidé de rédiger un mémoire sur la robotique évolutive. Il examinait comment certains systèmes « autodéveloppés » suivent les règles de l’évolution.

Puisque j’ai étudié l’écologie et la biologie évolutives, je m’intéresse à tout ce qui évolue, et aux règles qui régissent l’évolution, en quelque sorte. C’est une grande question en ce qui concerne l’IA et les systèmes complexes : se comportent-ils comme des êtres vivants, ou plutôt en suivant leurs propres règles inédites?

Donc d’ici 20 ans seulement, tous les travailleurs manufacturiers seront remplacés par des robots?

Bouchard : Oubliez les robots. Je pense qu’en fait l’IA et les données massives (Big data) vont affecter les emplois des cols blancs. Les gens éduqués croient que leur travail n’est pas remplaçable, et ils ferment les yeux devant la réalité : ce sont les employés les plus coûteux. Ce sont eux que les investisseurs vont chercher à remplacer.

[NLDR : Le Forum économique mondial (FEM) prévoit que l’intelligence artificielle, la robotique, la nanotechnologie et d’autres facteurs socioéconomiques mèneront à la disparition de 5 millions d’emplois d’ici 2020. En revanche, on croit aussi que, pour les mêmes raisons, 2,1 millions d’emplois pourraient être créés. À l’échelle mondiale, 5 millions d’emplois, ce n’est pas énorme, mais il n’est question ici que des emplois qui disparaîtront complètement. De manière plus marquée, dans tous les domaines, en moyenne 35% des emplois seront affectés par un changement important en ce qui concerne les compétences fondamentales requises afin de les effectuer (au plus haut, le secteur financier à 43%).] 

Il n’est pas question d’optimisme ou de pessimisme, parce que ces développements feront disparaître des emplois, mais vont aussi en créer. Ce qu’on veut savoir, c’est de quelle manière il faut transformer le monde du travail. Je vois beaucoup d’occasions de développer ces nouvelles technologies dans le but d’améliorer l’expérience humaine; et je parle d’un point de vue philosophique, pas d’une expérience-utilisateur. Simplement s’opposer au changement — faire de nous des luddites —, c’est un peu ridicule, parce que ces nouvelles technologies seront très utiles et bénéfiques pour tout le monde.

Comment peut-on développer ces technologies pour qu’elles aient un impact positif?

Bouchard : Ce ne sont pas des questions et des réponses technologiques. Ce sont des réponses humaines. On doit trouver des manières de réunir des gens qui étudient les humanités, les sciences sociales, la médecine, l’ingénierie, l’informatique et d’autres disciplines; et on doit s’assurer qu’il est possible pour eux de discuter de ces enjeux.

C’est très spécial et stimulant. C’est aussi troublant, parce que personne ne sait vraiment ce qui va se passer. Comment est-ce que ça affectera les relations sociales? Comment changer les choses correctement? Ensuite, il faut définir ce qu’on considère comme « correct ».

Et ce n’est pas qu’une question légale. C’est en partie économique; pensez au prix des capteurs. L’IA est basée sur les données massives, qui elles dépendent de capteurs. Si les capteurs sont peu coûteux, ça veut dire qu’ils seront partout. Alors les forces économiques vont en partie déterminer ce sur quoi l’IA « réfléchira ». Et les sociologues vont devoir se demander qui est véritablement traqué par ces capteurs. Si on conçoit une politique publique en fonction de certaines données massives, et on se rend compte qu’elles ne reflètent que le comportement de personnes riches et blanches, alors la politique sera biaisée.

C’est pour ça qu’il faut tout un monde d’expertise pour s’assurer que les développements soient faits correctement. Sinon, on joue naïvement avec des couteaux très aiguisés. On doit se demander : « À quoi sert ce couteau? » « À qui devrait-on le donner? » « Qui devrait décider de ce qu’on en fera? »

Si on attend que la technologie soit développée avant de se poser ces questions-là, il sera trop tard pour la développer de manière responsable.

Quel est votre rôle dans l’élaboration d’une réponse à ces questions?

Bouchard : En tant que philosophe des sciences, je suis dans une position unique parce que je suis toujours en contact avec des scientifiques. On essaie de comprendre ce qui leur tient à cœur et on vulgarise leurs inquiétudes. Les philosophes des sciences sont comme les courtiers des différentes expertises. C’est donc à moi de montrer tous les aspects d’une question, qu’ils soient légaux, éthiques, technologiques ou politiques. Ensuite, il s’agit de trouver les bons intervenants pour bien répondre à la question.

Quand on y pense, c’est l’objectif idéal de l’université : permettre un dialogue qui s’attarde à d’importantes questions. C’est un rêve réalisable, cette table de discussion entre les disciplines : un programmeur, un bioéthicien, un expert de l’emploi et un politologue tous en train de considérer les changements en cours. Si l’on développe ces espaces de discussion, il y a de bonnes chances que ça changera nos façons de développer la technologie et son intégration dans nos vies.

Votre rôle est donc d’asseoir tout le monde autour d’une même « table ».

Bouchard : Plutôt de voir si une table est nécessaire, et ensuite de m’intéresser aux gens qu’on doit y inviter. Je peux alors trouver les bons intervenants pour amorcer et maintenir un dialogue entre eux. Ce que je décris, au fond, c’est ce que devrait être l’université. La « promesse sociale » des universités, c’est qu’en leur donnant toutes sortes de structures et d’organisations, elles vont livrer au monde des idées qui ne peuvent pas apparaître ailleurs — les universités ont donc un rôle très particulier à jouer, d’un point de vue institutionnel.

C’est un processus organique. Ça ne peut pas se faire en un seul événement, comme lors d’un sommet ou d’une conférence; ça peut être utile, mais ce n’est pas là que les vraies idées seront générées. C’est plutôt en assurant un dialogue constant entre les intervenants.

C’est pour ça que les percées scientifiques ne se produisent que dans certains environnements. Il faut avoir le bon mélange de gens, les bons objectifs, les bonnes conditions. Il n’y a pas un secteur de la société qui peut régler d’aussi grandes questions par lui-même : ça ne doit pas être géré seulement par le gouvernement ou les universités ou les entreprises. Pourquoi? Parce que ce sont d’énormes questions; il ne s’agit pas de concevoir un grille-pain. Il s’agit de systèmes incroyablement complexes qui doivent être considérés de toutes parts.

Ce n’est peut-être pas aussi pressant que les changements climatiques, parce que dans ce cas il est question de survie, mais ce sont des questions qui ont une portée aussi globale que le climat.

////     

Recevoir les mises à jour
de Cloud&Co

Partagez
cette histoire