Le Premier Ministre vient de confier à Cédric VILLANI, nouveau député et mathématicien brillant (Lauréat 2010 de la Médaille Fields), Président de l’Office Parlementaire d’Evaluation des Choix Scientifiques et Technologiques (OPECST), une mission d’information sur l’Intelligence Artificielle.
Je tiens par cet éditorial à apporter ma modeste contribution à cette réflexion.
------------------------
Tous les cinéphiles et amateurs de science-fiction ont encore à l’esprit cette scène d’anthologie, dans le célèbre film de Stanley Kubrick, « 2001 : odyssée de l’espace », où l’on voit le super ordinateur HAL (son nom est composé des 3 lettres qui précèdent les lettres IBM), qui contrôle la bonne marche du vaisseau spatial d’exploration en route vers Jupiter, refuser brusquement d’obéir aux ordres du commandant de bord et tenter d’éliminer les uns après les autres tous les membres d’équipage. Un demi-siècle après la sortie de ce film prémonitoire, la réalité est en train de rejoindre la fiction et un vif débat s’est fait jour depuis quelques semaines, dans la communauté scientifique mais également dans les milieux économiques, sur les dangers, réels ou supposés, qui pourraient résulter des impressionnantes avancées réalisées récemment dans le domaine de l’intelligence artificielle.
À travers les médias et les réseaux sociaux, plusieurs personnalités scientifiques de premier plan, comme le physicien Stephen Hawking et plusieurs dirigeants d’entreprises numériques de taille planétaire, comme Bill Gates, Éon Musk, Marc Zuckerberg, ou Jeff Bezos, ont exprimé leurs réflexions et leurs préoccupations sur les conséquences de l’utilisation et de la diffusion généralisée de l’intelligence artificielle dans l’ensemble des secteurs d’activités humaines.
Longtemps confinée dans les laboratoires de recherche, l’intelligence artificielle ne cesse, depuis quelques années, d’étendre et de diversifier ses applications avec une efficacité redoutable. Déjà largement présente dans les domaines de la santé, de la recherche, de l’industrie, des transports, l’intelligence artificielle est également en train de s’imposer dans le vaste et protéiforme secteur des services et du commerce.
En France, le secteur bancaire a récemment pris conscience des immenses potentialités de l’I.A en matière d’amélioration de la productivité et du profit. La BNP a ainsi créé, il y a un an, son Lab A.I, dirigé par un polytechnicien, Edouard d'Archimbaud. L’ambition de cette unité de recherche directement connectée sur l’entreprise est claire : fédérer et structurer l’ensemble des données, à l’aide de puissants outils d’I.A, dans le but de décupler la capacité d’analyse cognitive des agents et collaborateurs de la banque, tout en proposant des offres et services totalement personnalisés aux clients de cet établissement bancaire.
Et en seulement un an, les résultats concrets sont déjà impressionnants. Grâce aux nouveaux outils développés par ce laboratoire, la BNP dispose à présent d’un système d'analyse automatique des contrats parmi les plus performants du monde. Cet outil permet de réduire de moitié le temps de lecture et peut par exemple analyser trois contrats de 150 pages chacun en moins d’une minute…
Dans le même esprit, la banque s’est dotée d’un nouveau moteur de traduction intelligent extrêmement performant. En utilisant les nouvelles techniques d’apprentissage profond, la BNP a réussi à se doter en moins de six mois d’un système de traduction automatique remarquable et pleinement opérationnel auprès de sa clientèle.
Outre-Atlantique, Microsoft a présenté, il y a quelques semaines sa dernière mouture de l'HoloLens, son casque de réalité augmentée. Cette interface, qui a été spécialement conçue pour faire fonctionner des programmes d'intelligence artificielle, devrait être commercialisée en 2019. Destinées dans un premier temps à un usage professionnel, ces lunettes de réalité augmentée peuvent afficher des hologrammes dans le champ de vision des utilisateurs. Ce casque présente en outre un autre avantage décisif : grâce à un processeur supplémentaire entièrement dédié à l’I.A, il n’a pas besoin d’être relié à un ordinateur pour fonctionner.
L'HoloLens sera capable, de manière autonome, de reconnaître une image ou comprendre le discours d'une personne en quelques secondes. Cette autonomie de fonctionnement constitue également une avancée majeure en matière de sécurité et de protection des données, celles-ci étant stockées et traitées directement dans l'appareil.
Tout récemment, Microsoft a également annoncé une nouvelle avancée en matière d’intelligence artificielle, et plus particulièrement dans son traitement. Profitant de la tenue du Hot Chips 2017, le géant de Redmond a dévoilé Project Brainwave, une solution matérielle de traitement du deep learning (apprentissage en profondeur ou réseaux de neurones).
Brainwave s’appuie sur des puces FGPA (reprogrammables) d’Intel architecturées pour mettre en œuvre une plate-forme de traitement d’intelligence artificielle en temps réel. Cette architecture de système distribué à haute performance est intégrée directement dans les data centers de Microsoft, Azure en l’occurrence, avec une exploitation en mode DNN (Deep Neural Network).
Microsoft travaille également au développement d’un autre outil d’I.A qui pourrait à terme révolutionner le domaine de la transmission des connaissances et l’ensemble du secteur de l’enseignement et de l’apprentissage. Ce système, baptisé SynNet, se comporte comme un enseignant : après avoir dégagé le sens général d’un texte, il est capable d'apprendre à lire à une autre machine. Mais contrairement à la plupart des systèmes concurrents, l’outil développé par Microsoft n'est pas basé sur l'apprentissage itératif mais cognitif : il peut donc, comme sait le faire l’être humain, « apprendre à apprendre » lui transmettre son savoir à d’autres systèmes intelligents…
Microsoft n’est pas le seul acteur de la sphère IT à avoir recours à des puces spécialisées dans le traitement IA. Google et Amazon occupent également le terrain, tandis qu’Apple a développé le Neural Engine. Une approche différente de celle de Redmond, puisque les traitements ne s’effectuent pas dans le Cloud mais bien localement sur l’appareil qui embarque la puce dédiée à l’IA.
Le chinois Huawei, qu’il faut de plus en plus classer parmi les géants, pensait avoir grillé la politesse à Apple en annonçant récemment que son prochain processeur intégrera une Neural Processing Unit (un réseau neuronal artificiel intégré), ce qui permettra aux futurs smartphones d’Huawei de disposer en interne de puissantes fonctions d'intelligence artificielle, sans être obligés, comme c’est encore le cas pour l’instant sur tous les mobiles concurrents, de déporter les données à traiter sur des serveurs distants. Mais en mettant en vente il y a quelques jours son Iphone X, Apple a su relever le défi et a ouvert la voie en montrant que l’intelligence artificielle serait dorénavant un axe prioritaire dans le développement des smartphones.
L’intelligence artificielle vient également de faire une entrée remarquée dans le vaste et profitable secteur d’activité des services à la personne. L’entreprise HomeServe, en coopération avec Recast.AI, vient ainsi de présenter un assistant virtuel, baptisé TOM, qui propose en temps réel des solutions personnalisées pour résoudre une multitude de problèmes et pannes domestiques.
Concrètement, cet outil se présente sous la forme d’un «chatbot» et s’inspire de messageries comme WhatsApp ou Messenger. L’utilisateur explique à « TOM » son problème par mail ou téléphone. Exploitant ces informations, Tom est capable non seulement d’établir un diagnostic précis mais encore de proposer la prestation la plus pertinente et la plus adaptée au problème rencontré. Mais Tom va encore plus loin et propose également à son client un devis personnalisé avec un prix ferme ainsi qu’une liste de professionnels compétents pouvant réaliser les travaux nécessaires. Pour l’instant Tom limite son champ d’intervention aux problèmes de plomberie mais très prochainement il pourra également être utilisé en cas de panne de chauffage, d’appareils électroménagers ou d’ordinateurs…
Dans le domaine biologique et médical, la jeune entreprise américaine Tomwise, basée à San Francisco, a développé AtomNet, un outil remarquable exploitant toutes les ressources de l’intelligence artificielle pour concevoir très rapidement de nouvelles molécules thérapeutiques destinées à traiter de graves pathologies, comme la sclérose en plaques ou le virus Ebola. Grâce aux outils d’apprentissage profond, AtomNet est capable de répertorier une multitude d’interactions entre molécules et systèmes biologiques. Mais il va plus loin et peut repérer, parmi ces milliards d’interactions, celles susceptibles d’avoir un effet thérapeutique sur les maladies ciblées.
En France, la jeune entreprise Owkin, cofondée par Thomas Clozel, ancien chef de clinique en hématologie et Gilles Wainrib, ancien maître de conférence en informatique appliquée, s’est donné pour but de révolutionner la prise en charge et le parcours médical du patient en exploitant pleinement l’ensemble des données médicales disponibles grâce à l’intelligence artificielle.
En utilisant l’outil logiciel proposé par Owkin, les médecins disposeront d’une vision globale et complète du parcours médical du patient et pourront le dérouler sous forme chronologique ou le visualiser sous forme thématique, en comparant par exemple instantanément l’évolution des bilans sanguins des examens par imagerie médicale. Mais ce n’est pas tout : ce logiciel permettra également aux médecins de réaliser très rapidement des comparaisons entre le dossier de leur patient et ceux d’une multitude d’autres patients atteints de la même pathologie et présentant les mêmes caractéristiques de sexe, d’âge et de particularités génétiques. Cet outil permettra donc non seulement d’affiner très rapidement et de la manière la plus précise possible le diagnostic mais également de proposer au patient la stratégie thérapeutique personnalisée la plus efficace possible.
À Lyon, l’arrivée et l’intégration des outils d’intelligence artificielle a également permis un véritable saut technologique en matière de repérage et d’analyse des mutations génétiques impliquées dans de nombreux cancers. Comme le souligne Stéphane Pinson, responsable de la plate-forme de génétique moléculaire des Hospices civils de Lyon « Quelques jours et parfois même quelques heures suffisent contre deux à trois mois auparavant pour diagnostiquer une mutation génétique ».
Cette plate-forme génétique d’excellence au niveau mondial collabore activement avec le Centre de lutte contre le cancer Léon Bérard et travaille notamment à identifier avec toujours plus de précisions les anomalies et mutations génétiques impliquées dans les cancers les plus fréquents, comme ceux du côlon, du sein et des ovaires. Quels que soient les progrès réalisés en termes de rapidité dans le séquençage du génome, l’analyse rapide de ces milliers de giga-octets d’informations serait tout simplement impossible à réaliser sans le recours aux outils d’apprentissage profond et d’intelligence artificielle.
Mais si ces quelques exemples démontrent à l’évidence à quel point l’utilisation et la diffusion des dernières avancées en matière d’intelligence artificielle peuvent s’avérer bénéfiques pour nos sociétés, cette révolution conceptuelle et technologique présente également des aspects plus inquiétants et une face obscure qu’il ne faut pas occulter.
Une équipe de recherche de Google a par exemple découvert il y a un peu plus d’un an que leur programme Neural Machine Translation avait développé, à partir de trois langues différentes (anglais, japonais, coréen) sa propre langue interne et que ce nouveau langage était utilisé entre deux chatbots pour dialoguer, ce qui n’avait absolument pas été prévu par les concepteurs du système…
Elon Musk, le charismatique patron de Space X, a récemment réitéré ses réserves et ses craintes au sujet d’un développement anarchique et incontrôlé des outils d’intelligence artificielle dans nos sociétés. Exprimant un point de vue proche de celui du physicien Stephen Hawking, Musk imagine comme tout à fait possible un scénario catastrophe dans lequel un système planétaire d’intelligence artificielle déciderait brusquement, à la suite d’un raisonnement autonome ayant échappé à ses concepteurs humains, de déclencher une guerre ou de provoquer une catastrophe biologique ou industrielle pour servir ses propres finalités…
On peut considérer bien sûr qu’une telle perspective relève de la pure science-fiction et c’est d’ailleurs ce que pensent un certain nombre de spécialistes de l’I.A et de l’informatique qui nous expliquent qu’il est structurellement impossible qu’un système d’intelligence artificielle puisse se mettre à agir en dehors du cadre logiciel qui lui a été fixé et décide brusquement, comme l’ordinateur HAL 9000, de poursuivre ses propres buts.
Mais cet avis n’est pas partagé par tous les scientifiques et certains spécialistes considèrent que des machines, de type quantique par exemple, possédant une puissance de calcul phénoménale et exploitant des logiciels d’intelligence artificielle en ayant accès à une masse presque inconcevable de données, pourraient connaître des phénomènes d’émergence de propriétés nouvelles, comme cela a été le cas en matière d’évolution biologique. De telles machines pourraient alors s’affranchir des différents programmes régissant leur fonctionnement et se mettre à réfléchir de manière autonome à la définition de leur propre but et aux moyens d’y parvenir…
Mais sans attendre qu’un tel scénario survienne, Jean-Paul Laumond, chercheur au CNRS, enseignant à l’ENS et spécialiste de l’I.A, considère que les ruptures technologiques en cours en matière d’intelligence artificielle doivent s’accompagner d’un vrai débat démocratique et pose de redoutables questions éthiques, notamment en ce qui concerne la fulgurante montée en puissance des « SALA », les systèmes d’Armes Létales Autonomes ». Ces nouveaux outils militaires, qui peuvent prendre la forme de robots de combat, de drones d’attaque ou encore de munitions intelligentes, seront en effet bientôt en mesure, dans des types de situations de plus en plus nombreuses, de décider seuls, sans en avoir reçu l’ordre formel de la part d’un être humain, de tuer des combattants identifiés, à tort ou à raison comme « ennemis »…
C’est dans ce contexte que, le 3 septembre dernier, le Gouvernement a confié à notre plus brillant mathématicien, Cédric Villani, devenu également député de l’Essonne en juin dernier, une mission de réflexion sur les enjeux économiques et sociétaux de l’I.A. Cédric Villani aura quatre mois pour dégager des pistes de réflexion sur les différentes applications de l’intelligence artificielle, dans le domaine des transports, de l’enseignement, de la santé, de l’énergie ou encore de la robotisation. Il s’agira également, pour le mathématicien, de s’interroger sur les enjeux éthiques, sécuritaires, géopolitiques mais aussi économiques de l’IA.
On ne peut que saluer cette initiative salutaire qui montre que nos responsables politiques semblent avoir pris pleinement conscience de l’ampleur des enjeux scientifiques, économiques et sociétaux liés à la diffusion et à la généralisation des outils et systèmes d’intelligence artificielle. Mais à côté de ces nécessaires réflexions impulsées « d’en haut » par les instances économiques et politiques, il convient également que l’ensemble de nos concitoyens s’emparent de cette question de civilisation absolument majeure et réfléchissent, sans catastrophisme mais avec lucidité, aux garde-fous qu’ils souhaitent instaurer pour que cette extraordinaire révolution technologique ne puisse jamais se transformer en cauchemar et reste au service de l’homme, de sa dignité et de sa liberté.
René TRÉGOUËT
Sénateur honoraire
Fondateur du Groupe de Prospective du Sénat
