L’intelligence artificielle est un domaine qui inquiète plus d’une personne car la science-fiction a entouré cette technologie de nombreuses phobies : la perte de contrôle, la fin de l’humanité, l’apocalypse nucléaire, la guerre opposant les humains aux machines… Alors les quelques lignes qui vont suivre ne devraient pas rassurer les plus réfractaires à cette technologie.

Elon-Musk-robot-intelligence-artificielle

En effet, des chercheurs de chez Google travaillaient sur les communications entre deux réseaux neuronaux distincts, en d’autres termes deux intelligences artificielles baptisées Bob et Alice, devaient empêcher une troisième IA (Eve) de les comprendre. Ces réseaux ayant la capacité d’apprendre par eux-mêmes ont échappé au contrôle des chercheurs, en parvenant à mettre au point leur propre langage crypté.

Deux intelligences artificielles échappent au contrôle des chercheurs

On se souvient tous des propos presque « Nostradamusiens » du physicien Stephen Hawking qui mettait en garde contre l’intelligence artificielle, en expliquant que même si elle était la plus grande invention de l’homme, elle serait également sa dernière création. Une vision partagée par Elon Musk qui avait affirmé que les IA étaient potentiellement plus dangereuses que les armes nucléaires.

La découverte de Martin Abadi et David Andersen, deux spécialistes de l’équipe Google Brain a donc de quoi glacer le sang, car imaginer deux intelligences artificielles discuter entre elles, dans un langage incompréhensible de l’homme est plutôt inquiétant.

De façon totalement autonome, les réseaux neuronaux sont parvenus à développer un moyen de créer leur propre système de chiffrement, empêchant la lecture par un tiers. L’expérience réalisée entre Bob, Eve et Alice, trois intelligences artificielles devait tester la capacité des IA à communiquer par le biais d’un système de chiffrement, sans que la troisième ne puisse déchiffrer le message facilement. Elles seront allées beaucoup plus loin…

Le scénario de Skynet se rapprocherait-il dangereusement ?

Contre toutes attentes et de façon non contrôlée, deux des intelligences artificielles ont conçu leur protocole de communication que ni la troisièmes IA, ni les scientifiques n’étaient en mesure de comprendre. Bob et Alice ont donc fait preuve de capacité d’adaptation impressionnante et il s’agit d’un double exploit, car les réseaux neuronaux n’ont pas été conçus pour être particulièrement performants en matière de chiffrement et de déchiffrage.

L’idée que plus personne ne puisse les comprendre, pas même leur créateur, inquiète à juste titre et comme le souligne le site ZDnet en reprenant les propos de Jacques Attali : « les machines se dégageraient ainsi de la mainmise des humains, ouvrant la voie à l’autonomie des machines, et les scénarios à la Terminator. « Ces intelligences (…) peuvent d’abord considérer que leur mission est de contrecarrer ceux de nos comportements qui, à leurs yeux, nous nuiraient ; qu’elles peuvent ainsi penser que l’humanité courre à sa perte et décider, pour son bien, de l’arrêter à temps. Mais elles pourront alors aussi agir contre l’humanité, dans leur seul intérêt ; surtout si elles pensent que, à terme, nous aurons intérêt à les détruire : elles peuvent alors nous combattre, en légitime défense ».

Et vous qu’en pensez-vous ?

Share