IA : vers la fin de l’humanité ? par Patrice Caine

Au cœur de l’été, la publication d’une lettre ouverte à l’adresse des Nations unies et signée par Elon Musk, Président de Tesla, et une centaine d’entrepreneurs sur les dangers de l’Intelligence Artificielle aura considérablement agité le monde scientifique et médiatique.

 

Le débat aura notamment donné lieu à une passe d’armes digitalisée entre le Président de Tesla et celui de Facebook Mark Zuckerberg.

 

Les signataires alertent la communauté internationale sur les applications au secteur de la Défense des possibilités de l’IA, impliquant armes autonomes et « robots tueurs ».

 

C’est dans ce contexte que j’ai souhaité aborder ce thème de l’Intelligence Artificielle au « Women’s forum for the Economy & Society Global Meeting » organisé à Paris (#WFGM17). Le sujet évolue en permanence et c’est à une femme que nous devons les plus récentes avancées dans ce domaine chez Thales, au sein du centre de recherche CNRS/Thales de Palaiseau (lien).

 

Oui, la réflexion politique doit se poursuivre

 

Si affirmer qu’aujourd’hui l’IA conduise « à la fin de l’humanité » s’apparente à un stimulus médiatique, un débat sur les limites morales et politiques de l’utilisation d’une arme intelligente est légitime. Pourvu qu’il soit dépassionné et sans outrance.

 

Il est évident que l’IA apportera de nouvelles possibilités en matière de reconnaissance, d’identification, dans l’accélération des opérations et potentiellement dans la prise de décision. La décision d’engager le combat dépendra quant à elle, d’une décision politique et donc, d’une volonté humaine de confier ou non cette responsabilité à la machine.

 

Une réponse morale et politique paraît donc nécessaire pour pallier le vide juridique actuel.

 

La réflexion engagée à l’ONU depuis 2016 sur un cadre juridique international doit être poursuivie, à l’instar des réflexions et des limites qui ont été posées aujourd’hui sur l’utilisation d’armes nucléaires ou biologiques.

 

Au-delà du Buzz, une réalité technologique encore limitée

 

Tâchons cependant de rester modestes et lucides sur le niveau de maturité de l’IA. Un réseau neuronal artificiel aussi puissant soit-il, demeure aujourd’hui encore très loin de valoir un cerveau humain, beaucoup plus sophistiqué... et très certainement l'un des objets les plus complexes de l'univers.

 

On distingue en réalité l’Intelligence Artificielle dite « faible », et l’IA dite « forte » qui, à l’instar de l’humain, serait dotée de conscience. Or aujourd’hui, tous les exemples que nous connaissons, aussi avancés soient-ils, sont des exemples d’IA faible et le resteront certainement pour longtemps...

 

Car rien ne prouve que l’augmentation de la taille et de la complexité de l’IA fera spontanément « apparaître » une conscience.

 

Notre vision : l’humain doit demeurer l’élément déterminant de la prise de décision « critique »

 

Or, c’est bien cette conscience de nous-même qui constitue notre humanité et nous différencie des robots. Une conscience qui constitue aussi le facteur déterminant d’une prise de décision.

 

La vision largement fantasmée par Hollywood, d’une IA s’affranchissant de son créateur pour éliminer l’humanité appartient toujours au domaine de la science-fiction.

 

« Embracing our humanity » est par ailleurs l’un des thèmes du Women’s forum. Il suggère qu’une partie des réponses aux disruptions du monde sont à trouver au cœur de nousmêmes. D’une certaine façon, c’est à l’humain de trouver les réponses aux questions soulevées par l’IA et son utilisation.

 

Car en réalité, l’IA reste une machine, et comme toute machine, elle devra être maîtrisée si l’on veut pouvoir lui faire confiance. Cela passera par le contrôle de la qualité des données et de leur intégrité, ou par l’assurance de la pertinence du processus d’apprentissage de la machine. Il s’agira d’éviter des dysfonctionnements récemment observés, par exemple, celle d’une Intelligence Artificielle devenue raciste, simplement parce que certaines données dont elle se nourrissait l’étaient.

 

Notre défi : une complémentarité « parfaite » entre l’humain et la machine

 

Au-delà de la science-fiction, l’Intelligence Artificielle peut répondre à de grandes ambitions. Elle est une formidable opportunité pouvant conduire à des progrès considérables en matière de sécurité, de transport, dans les domaines de la médecine ou encore dans notre compréhension du réchauffement climatique...

 

Des avancées au service de l’humain mais en aucun cas au détriment ou en remplacement de ce dernier, qui doit pouvoir agir par lui-même dans les moments décisifs, au sein d’environnements toujours plus complexes.

 

Car les progrès de l’IA doivent nous permettre de nous concentrer sur ce qui nous est propre, par le biais d’une complémentarité parfaite avec la machine.

 

Et c’est là sans doute que réside aujourd’hui notre principal défi : la parfaite maîtrise des mécanismes et des développements qui animent l’IA d’une part, et l’analyse des comportements humains en interaction avec elle d’autre part.

Thales. Le nom de l’entreprise que nous représentons nous engage.

 

Il n’est pas faux de prétendre que l’IA puise ses racines dans les premières formalisations de la pensée et du raisonnement, développées il y a déjà plus de deux mille ans.

 

Thales de Milet, un des Sept sages de la Grèce antique, mariant les mathématiques et la philosophie en fût un représentant particulièrement illustre. L’association de ces deux disciplines résonne peut-être comme une réponse à la question d’aujourd’hui.

 

L’humain et sa conscience, aussi imprévisibles soient-ils, doivent demeurer les seuls maîtres de leurs décisions et de leur destin.

 

 

Cet article fait partie de la série ‘Daring to lead’, qui met en lumière les voix du Women’s Forum for the Economy & Society Global Meeting, qui aura lieu à Paris les 5 et 6 octobre prochains. Vous pouvez consulter notre programme complet et la liste actuelle des speakers de l'événement sur le site web du Women’s Forum.

© AFNU: ASSOCIATION FRANCAISE POUR LES NATIONS UNIES