lundi 14 novembre 2016

Deux ordinateurs inventent une langue secrète sans que l'on sache comment

Le Vif
Source: De Morgen
On savait les ordinateurs capables de beaucoup de choses. Mais Google Brain, un programme de recherche en intelligence artificielle, vient de dépasser une nouvelle étape potentiellement angoissante. Deux ordinateurs ont communiqué entre eux dans une langue qu'ils avaient eux-mêmes codée et donc indéchiffrable par les humains. 


© Reuters 

Google Brain est un programme de recherche qui expérimente toute sorte de choses autour de l'intelligence artificielle et de ses possibilités. Les chercheurs de cette cellule sont surtout spécialisés dans ce qu'on appelle le deep learning, soit la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes. Dans ce cadre, ils sont parvenus à faire communiquer entre eux deux ordinateurs, Alice et Bob, à l'aide d'une langue qu'ils avaient eux-mêmes créée. Alice était chargée d'envoyer un message secret à Bob qui devait le décoder pour le comprendre. Un troisième, Eve, avait lui pour mission de décrypter leur langage. Il n'y est jamais parvenu.
Les débuts furent laborieux puisqu'il aura fallu pas moins de 15.000 tentatives pour arriver à un résultat probant. Mais au fil des tentatives, les chercheurs vont s'apercevoir qu'Alice va développer des techniques innovantes et très différentes des techniques humaines de codage pour transmettre son message secret.
Dans un futur plus ou moins proche, les ordinateurs pourraient donc être capables de communiquer dans un langage unique que nous, ou d'autres ordinateurs ne pourrons pas déchiffrer. Les avancées dans le domaine de l'intelligence artificielle sont si spectaculaires que de plus en plus de voix s'élèvent pour prévenir d'éventuels dangers. Pour Stephen Hawking cela pourrait même signifier la fin de l'espèce humaine. Cependant, pour les chercheurs de Google Brain, on n'en est pas là. Pour ces derniers l'expérience n'est qu'un exercice intéressant, sans plus. En effet, le codage d'Alice peut être original, il n'en est pas moins beaucoup plus simpliste que les très sophistiqués cryptages inventés par l'homme. 

LE FORUMEURS COMMENTENT
"cela pourrait même signifier la fin de l'espèce humaine." Bof, ça ne fait jamais qu'une nouvelle possibilité créé par notre race humaine tellement géniale de se détruire elle-même ainsi que son milieu, après les arsenaux atomiques militaires, les déchetteries nucléaires civiles et les atteintes, énergétiques, chimiques et autres, croissantes à l'Environnement. »

« Personnellement je suis plus inquiet en ce qui concerne l'arsenal des bombes atomiques dispersé dans le monde, par exemple, que des intelligences artificielles qui, avec le temps, pourraient nous aider à comprendre ou résoudre certains énigmes et corriger notre côté irrationnel en ce qui concerne notre vision de l'univers, biosphère et homme inclus ! Ce qui me fait "peur" ce n'est nullement les machines intelligentes, mais certains politiciens, ou dominants déséquilibrés, qui pourraient les destiner à des taches tout autre que ludiques, utiles ou scientifiques...La science n'est pas la panacée, certes, mais si bien utilisée, rationnellement et en respectant l'éthique, peut -dans une certaine mesure- être très utile pour l'homme dans le domaine médical, notamment dans la souffrance comme c'est déjà, en partie, le cas actuellement. »
« Ce n'est qu'une affaire de temps: l'informatique évolue exponentiellement (voir le transistor d'il y a 60 ans et les ordi de maintenant), les hommes fournissant les données aux machines qui s'auto-améliorent, et le cerveau de l'homme est resté égal à celui l'homme de Cromagnon. » 


COMMENTAIRE DE DIVERCITY
PERPLEXITÉ 

Serons-nous bientôt anéantis, à notre tour, par des robots devenus autonomes ? Deux robots viennent de communiquer entre eux en inventant un langage que l'homme n'arrive pas à décrypter.
Attali n’ a pas tort : Il est urgent qu’une  grande conférence planétaire sur l’intelligence artificielle  réunisse savants et gouvernants pour décider d’un moratoire sur ces recherches, comme on l’a fait dans d’autres domaines, avec plus ou moins de succès (les armes chimiques, les manipulations sur les cellules souches).  On peut encore tirer le meilleur de la science. A condition de ne pas la laisser nous détruire.
Eric Sadin qui est plus fastidieux à lire qu’à écouter en vidéo nous met lui aussi en garde : Jusqu’à quand et jusqu’où allons-nous accepter que quelques milliers de personnes dans le monde, principalement des dirigeants de groupes économiques et des ingénieurs infléchissent le cours individuel et collectif de nos existences, sans que des oppositions, des digues juridiques ou des contre-pouvoirs ne se dressent ? Il s’agit là d’un enjeu politique, éthique et civilisationnel majeur de notre temps.  (La vie algorithmique ; critique de la raison numérique p. 220)
Décidément, l’interculturel risque bien de s’élargir bientôt en dialogue entre l’homme et les machines de son invention. Espérons qu’elles ne feront pas la sourde oreille.
MG

MAIS QUE DISENT-ELLES ?
J Attali Publié dans Social - 7 novembre 2016 

Dans une revue interne à Google, deux collaborateurs du projet de  recherche sur  l’intelligence artificielle, lancé en 2011 sous le nom de  Google Brain, Martin Abadi et David Andersen,  signent, le 24 octobre dernier,  un article au titre   mystérieux : « Apprendre à protéger les communications contre une cryptographie hostile artificielle ».
Cet article,  repris ensuite par quelques journaux scientifiques américains, puis, moins précisément, par d’autres medias, établit que deux « réseaux neuronaux » (Intelligences Artificielles)  peuvent créer des codes secrets pour communiquer entre  eux en se protégeant de toute autre intelligence, artificielle ou humaine.   Plus précisément, les deux auteurs  ont donné à deux Intelligences Artificielles, qu’ils ont  aimablement nommé Alice et Bob,  les moyens de  dialoguer   sans qu’une troisième, nommée Eve, puisse avoir accès  à leurs échanges.  Alice et Bob ont  alors développé, à la surprise de tous, des formes de cryptage,  c’est-à-dire des langues, indéchiffrables pour tous, même pour  leurs  créateurs.
Les Intelligences artificielles sont très utiles, pour suppléer les hommes dans des taches qu’elles accomplissent mieux qu’eux  et plus vite ; et chercher à comprendre comment ces Intelligences Artificielles peuvent inventer des langues pour  véhiculer des messages confidentiels est aussi utile,  car chacun d’entre nous peut avoir intérêt à  créer  une langue qui lui soit personnelle et à ne la partager  qu’avec ceux en qui il a confiance.
Il n’empêche : cela peut aussi  etre terrifiant. On sait en effet, depuis longtemps, que ces intelligences   peuvent aussi prendre leur autonomie  ; qu’elles peuvent d’abord  considérer que leur  mission est de contrecarrer ceux de nos comportements qui, à leurs yeux, nous nuiraient ; qu’elles  peuvent ainsi penser que l’humanité courre à sa perte et  décider, pour son bien,  de l’arrêter à temps. Mais elles  pourront alors aussi   agir contre l’humanité, dans leur seul intérêt ;  surtout si elles pensent que, à terme, nous aurons intérêt à les détruire : elles peuvent  alors nous combattre, en légitime défense.
Là, vient évidemment le pire, qu’annonce cet article,  apparemment purement  théorique : si les intelligences artificielles  réussissent à inventer des langues  irréversiblement indéchiffrables par les humains, nous sommes perdus.   Le pire des pronostics se réaliseront. L’humanité, à la recherche folle de l’immortalité,   aurait,  avant d’avoir réussi à transférer la conscience de soi dans ces machines, pour assurer sa propre immortalité, créé  des Intelligences Artificielles immortelles, capables de travailler en secret pour la détruire.
Doit-on arrêter cela ? Sans aucun doute. L’humanité a déjà assez d’ennemis, à commencer par elle-même, pour ne pas s’en inventer d’autres.
Les auteurs de l’article annoncent pourtant benoitement qu’ils veulent aller beaucoup plus loin encore,   et enseigner aux Intelligences Artificielles   d’autres techniques de  communications secrètes  (telle la   steganographie qui consiste à cacher  des messages à l’intérieur d’autres, sans même les crypter).
Il est urgent qu’une  grande conférence planétaire sur l’intelligence artificielle  réunisse savants et gouvernants pour décider d’un moratoire sur ces recherches, comme on l’a fait dans d’autres domaines, avec plus ou moins de succès (les armes chimiques, les manipulations sur les cellules souches).  On peut encore tirer le meilleur de la science. A condition de ne pas la laisser nous détruire.
j@attali.com

Aucun commentaire: