Quand les intelligences artificielles font peur…

Alice, Eve et Bob. Trois intelligences artificielles. Un perdant.

Bon… Ce soir, je vais tester votre vocabulaire pour voir si vous avez bien suivi les actus techs de ces derniers mois. Si je vous parle de Google Brain, vous pensez à quoi ? Il fallait répondre Réseaux neuronaux. On pourrait remplacer cette expression par Intelligence Artificielle ici. Google Brain est une initiative lancée par le géant de Montain View pour développer ces intelligences artificielles. Ils en ont donc créé trois : Alice et Bob d’un côté qui devaient déjouer les tentatives de Eve pour comprendre leurs communications. Quels ont été les résultats ?

Posons le postulat du contrat : Alice et Bob avaient carte blanche pour trouver un moyen de communiquer ensemble sans que Eve soit capable de déchiffrer celles-ci. Cette possibilité fait appel aux techniques de machine learning. C’est une expression que vous allez devoir vous habituer à comprendre et à appréhender tant elle va envahir les produits de prochaine génération : beaucoup de messageries instantanées vont inclure des bots qui vont apprendre des habitudes de leur utilisateur pour répondre au mieux à leurs besoins. PowerBI, un outil de rapport d’analyses proposé par Microsoft dans sa suite Office 365, fait lui aussi la part belle au machine learning pour répondre à des questions en langage naturel. Les assistants intégrés à vos téléphones portables – Siri, Google Assistant ou Cortana – ne sont que des applications grand public du machine learning : ils vont apprendre à vous connaître, vous, vos contacts, la façon dont vous écrivez, ce que vous dites, vos habitudes de vie pour s’adapter et répondre à vos demandes parfois avant même que vous les formuliez.

Mais revenons à Google Brain. Alice et Bob sont bel et bien arrivés à déjouer les pièges de Eve et sont arrivés à communiquer ensemble sans que cette dernière ne soit capable de les comprendre. A noter que les techniciens de Google eux-mêmes ont été incapables de déchiffrer ce langage. Alice a commencé à envoyer des messages chiffrés en 16 bits mais a changé ses techniques de communication à chaque message. Cette supercherie associée au fait que seul Bob disposait de la clé de chiffrement a permis de duper l’intelligence artificielle concurrente et de communiquer manière confidentielle au bout de 15.000 messages envoyés.

15.000 çà peut paraître énorme. Toutefois, il convient de remettre ce chiffre dans le contexte : 15.000 messages échangés par des intelligences artificielles évoluées, çà peut aller hyper vite. Au-delà de la prouesse technologiques, même si le but avoué de Google Brain est de faire évoluer la sécurité des communications, il convient de se poser des questions sur la direction que prennent ces recherches. Deux machines qui créent des protocoles de communication et un langage propre pour cacher leurs interactions, çà relevait il y a peu de la science fiction. Aujourd’hui, même si on parle de recherches relativement confidentielles, on sait que ces dernières ne sont pas faites pour faire joli. On est en droit de se demander si les infrastructures humaines qui seraient potentiellement gérées par des intelligences artificielles seraient finalement aussi sécurisées que çà, une fois à la merci d’une machine.

Pour vous faire réfléchir à la question, je vous ai retrouvé un court métrage qui datent d’il y a quelques années et qui ne paraît tout à coup plus aussi farfelue…