Faut-il avoir peur de l’intelligence artificielle?
Mis à jour: Jan. 18, 2022
Nous posons la question à Yoshua Bengio, sommité mondiale en matière d’intelligence artificielle.
Dans le film Terminator, un robot venu du futur prend le contrôle de l’humanité. Y a-t-il des raisons de craindre un pareil scénario?
C’est de la fiction pure. D’abord, on est loin de construire des machines aussi intelligentes. Ensuite, l’intelligence artificielle (IA) demeure programmée par des personnes humaines. Le danger vient plutôt des personnes qui pourraient programmer de tels robots pour leur profit…
Pourtant, vous avez signé en 2015 en compagnie de sommités comme Stephen Hawking une déclaration disant que l’IA pouvait amener une «troisième révolution de la guerre après la poudre à canon et l’arme nucléaire»?
Oui, il y a un danger à ce que l’IA tombe dans les mains d’esprits malveillants capables de faire beaucoup de mal. Déjà, appliquée à l’industrie militaire, elle peut orienter des drones excessivement efficaces pour éliminer des ennemis, voire des populations bien identifiées, grâce à la reconnaissance faciale, par exemple. On appelle ça des robots tueurs, et l’ONU en a rapporté officiellement un premier cas en 2021. Les effets de ces armes peuvent être catastrophiques.
Comment les empêcher?
En se mobilisant et en faisant pression sur les représentants politiques. C’était le but de notre lettre collective signée peu avant la réunion de Buenos Aires, en Argentine. Nous avons cru qu’il fallait alerter l’opinion publique pour faire bouger les choses. Je crois que nous devons insister pour que les organismes internationaux adoptent des traités interdisant l’usage militaire de l’IA.
Y a-t-il eu des retombées?
Pas encore, mais il ne faut pas se décourager. Les décisions, à l’ONU, se prennent par consensus et ça prend du temps. L’adoption de traités sur les mines antipersonnel a pris des années. Les cyniques diront que ça ne fera pas le poids devant l’industrie militaire et la volonté des grandes puissances, mais je ne suis pas de cet avis. Il vaut mieux avoir des traités imparfaits que pas de traités du tout. C’est comme les vaccins, en quelque sorte. On sait qu’ils ne sont pas efficaces à 100% pour se débarrasser d’un virus, mais ils demeurent le meilleur moyen de se protéger!
Qu’est-ce que l’intelligence artificielle peut faire de bien pour l’avenir de l’humanité?
En ce moment, je travaille sur l’utilisation de l’IA pour la découverte de nouveaux médicaments. L’IA peut aussi nous aider à combattre ce qui est actuellement la plus grande menace pour l’espèce humaine: les changements climatiques. On fait par exemple de la recherche sur de nouveaux matériaux pour la capture de carbone ou pour faire des batteries.
J’ai un étudiant qui a lancé une compagnie qui utilise l’IA pour démocratiser l’éducation grâce à des tuteurs intelligents, car tout le monde n’a pas accès à un enseignant. Mais comme je le disais, il faut des balises pour éviter que ces mêmes algorithmes soient utilisés de manière néfaste. Et des incitatifs pour s’assurer que les compagnies vont développer l’IA d’une manière qui soit favorable à la société, que ce soit dans le domaine de la santé, de l’éducation ou de l’environnement.
Yoshua Bengio est l’un des architectes de la Déclaration de Montréal pour le développement responsable de l’IA.
Inscrivez-vous à l’infolettre de Sélection du Reader’s Digest!
