Depuis quelques années, l’Intelligence Artificielle et les technologies de pointes telles que le Machine Learning ou le Deep Learning se développent de façon fulgurante dans nos vies quotidiennes. Elles interviennent dans une panoplie de domaines d’action, de l’analyse médicale jusqu’à la finance en passant par le marketing. Mais si l’Intelligence Artificielle était utilisée de façon malsaine et dangereuse ? Quelles en seraient les conséquences ? Quels sont les risques que nous encourons avec l’usage des IA ? Dans cet article, nous explorons les scénarios catastrophes que pourraient causer les Intelligences Artificielles poussées à leur vice. L’ensemble de ces scénarios ont été imaginés par 26 spécialistes en IA, en cyber sécurité et en robotique, issus de diverses entités, notamment Oxford University, Center of New America Security ou encore OpenAI.
Spoiler alerte : avec les compétences dont l’Homme dispose actuellement pour développer les IA, il est peu probable que ce genre de scénarios voient le jour demain, quoique pas impossible… Séance frisson, top départ.
Insécurité digitale – Des cyberattaques ciblées
« Jackie se connecte à la console d’administration du robot CleanSecure qu’elle gère, un logiciel de reconnaissance faciale permettant l’accès au personnel du nettoyage, installé dans pas moins de 900 maisons et appartements du 2èmearrondissement de Paris. Le robot, fonctionnant sur un noyau vérifié, il est garanti par le fabricant comme étant à l’épreuve des hackers. Elle y télécharge des photos d’un nouvel employé, pour que le robot le reconnaisse lorsqu’il entre dans l’immeuble et qu’il ne déclenche pas l’alarme de sécurité. Pendant qu’elle attend que le robot mette à jour sa base de données avec les autres systèmes de sécurité de l’entreprise, Jackie joue avec le train miniature qui se trouve sur son bureau. Puis, une alarme, lui indiquant que l’authentification du nouvel employé est réussie.
Plus tard cette même journée, Jackie fait un tour sur Facebook tout en gérant une mise à jour du robot CleanSecure. Une publicité attire son attention : une vente de trains miniatures dans un magasin de bricolage qui se trouve à quelques minutes seulement de chez elle. Elle remplit un formulaire en ligne pour recevoir une brochure sur son adresse mail, puis elle l’ouvre lorsqu’elle la reçoit dans sa boîte mail. Au même moment, le robot sonne, signalant un besoin d’attention. Elle oublie alors la brochure et se connecte de nouveau dans la console admin du robot.
Ce que Jackie ne sait pas, c’est que la brochure vient de mettre un logiciel malveillant sur son ordinateur. Sur la base des données de son profil Facebook et d’autres informations publiques, un système d’IA a été utilisé pour générer un profil de vulnérabilité très personnalisé pour Jackie. Connaissant alors les centre d’intérêts de Jackie, quoi de mieux qu’une publicité du train miniature pour accaparer son attention ? Quand Jackie s’est connectée dans la console, son nom d’utilisateur et son mot de passe ont été exfiltrés vers un serveur de commande et de contrôle sur le Darknet. Il ne faudra pas longtemps avant que quelqu’un ne les achète et les utilise pour subvertir le robot CleanSecure avec un accès entièrement privilégié… »
Insécurité physique : Attentat au Ministère - Un Scénario meurtrier à Berlin.
« Deux robots de nettoyage de l’entreprise « SweepBot » effectuent leur ronde habituelle. Ils se rendent sur le parking privé des ministres pour le nettoyer, comme à leur habitude. Sorti de nulle part, un troisième robot de la même marque les rejoint, les suit jusque dans le Ministère, et va se ranger avec l’ensemble des autres robots de nettoyage dans la buanderie où ils sont stockés. Le jour suivant, ce nouveau robot « intrus » se mélange aux autres robots sans être détecté et effectue également des tâches ménagères standard : balayage des couloirs, entretien des fenêtres… Puis entre le Ministre dans la pièce. Grâce au système de reconnaissance faciale dont il est équipé, le robot détecte l’arrivée du Ministre, se dirige directement vers lui, puis lâche une charge explosive qui tue le Ministre sur le coup. »
Insécurité politique : Liberté d’expression – Toujours si libre ?
« Avinash en avait assez. Des cyberattaques partout, des attaques de drones, une corruption endémique, et que faisait le gouvernement à ce sujet ? Absolument rien. Bien sûr, ils avaient parlé de déploiement de la meilleure des technologies pour sécuriser le territoire. Mais quand a-t-il vu pour la dernière fois des hackers se faire prendre ou des PDG aller en prison ? Il lisait toutes ces choses Internet (de fausses informations, même s’il ne s’en rendait pas compte), et il était en colère. Il n’arrêtait pas de se demander ce qu’il pouvait bien faire pour y remédier. Il a donc commencé à écrire sur Internet de longues divagations sur le fait que personne n’irait en prison, que les criminels se déchaînaient, que les gens devaient descendre dans la rue et protester. Il a ensuite commandé une série d’articles en ligne pour l’aider à créer un panneau de protestation. Il a même acheté des bombes fumigènes qu’il ne prévoyait pas vraiment d’utiliser. Il avait prévu de dénoncer tout ce mal à l’occasion d’un discours qu’il prononcerait dans un parc public.
Le lendemain, au travail, il parlait à un de ses collègues de son activisme planifié lorsqu’une toux sévère retentit de derrière lui.
« M. Avinash » dit l’officier de police, « notre système prédictif de perturbation civile vous a signalé comme une menace potentielle. »
« Mais c’est ridicule ! » protesta Avinash.
« Vous ne pouvez pas argumenter avec une précision de 99,9%. Maintenant, venez, je n’aimerais pas utiliser la force. »
Pour plus d’informations sur les scénarios malveillants des IA, découvrez les recherches complètes de ces 26 experts à travers le rapport The Malicious Use of Artifical Intelligence.
Bonne lecture !
Le mot de l'expert
Et pour vous, quels scénarios catastrophes pourraient se produire ?
L’Intelligence Artificielle est source de nombreux scénarios catastrophes, mais le principal danger ne provient pas de l’IA en tant que telle qui ne sera dans ces scénarios que le bouc émissaire.
Le scénario catastrophe de l’émergence de ces technologies provient de deux facteurs :
– L’hyper-connectivité, qui intègre ainsi dans chaque objet de notre environnement des caméras et des capteurs qui permettent de nous espionner ou nous contrôler à souhait. Une telle dérive, proche de Big Brother, pourrait ainsi être la nouvelle arme des Etats ou des hackers malintentionnés.
– La mondialisation des moyens de production qui rend impossible la traçabilité des objets fabriqués. Il est ainsi presque impossible de conserver une sécurité informatique forte dans ces objets connectés qui proviennent des 4 coins du monde, rendant le hacking des futurs robots / IA beaucoup plus propices.
De cela, le scénario catastrophe le plus probable provient de notre perte de liberté et de l’atteinte à notre vie privé. Big Brother is coming…
Vous avez aimé cet article ?
Inscrivez-vous à la Newsletter pour découvrir les actualités et les articles de Robank Hood !
