Rappelez-vous, c'était il n'y a pas si longtemps : début septembre, Jacob Coxon, chercheur chez Anthropic, a claqué la porte de l’une des entreprises les plus avancées dans le développement de l’intelligence artificielle avec un avertissement particulièrement inquiétant. Selon lui, les personnes qui construisent ces modèles savent parfaitement qu’ils pourraient « tous nous tuer d’ici la fin de la décennie », mais continuent malgré tout à accélérer la course vers une I.A. capable de s’améliorer elle-même. Coxon accusait Anthropic et OpenAI de « jouer avec nos vies » et estimait que l’industrie avançait beaucoup trop vite sans avoir trouvé de solution permettant de garantir le contrôle humain.
« La chose la plus dangereuse dont les humains se soient jamais approchés »
Quelques semaines plus tard, c’est au tour de Bill Gates de tenir à son tour un discours extrêmement alarmiste, et surtout de changer de discours, lui qui était très enthousiaste sur l'évolution de cette techno du futur. Le co-fondateur de Microsoft affirme désormais que l’intelligence artificielle a franchi deux seuils de danger au début de l’année 2026 : le premier dans la cybersécurité, et le second au niveau du bio-terrorisme. Il estime même qu’une IA entre de mauvaises mains pourrait provoquer « un milliard de morts ». Un discours qui tranche fortement avec celui qu’il tenait encore en 2023, lorsqu’il jugeait les risques liés à l’IA « réels mais gérables ».
Invité par le journaliste Ezra Klein dans son podcast du New York Times, Bill Gates a expliqué que le changement avait eu lieu au début de cette année. Selon lui, les modèles actuels sont désormais capables d'apporter une aide réelle à des personnes qui voudraient préparer une attaque informatique ou développer des agents pathogènes dangereux. « Nous avons franchi le seuil cyber et nous avons franchi le seuil bio au début de cette année », a-t-il déclaré. En gros, Bill Gates ne parle donc pas uniquement d'un futur hypothétique dans lequel une intelligence artificielle deviendrait suffisamment puissante pour échapper à ses créateurs, il considère que certaines capacités préoccupantes sont déjà disponibles aujourd'hui. Sur le plan biologique, son inquiétude concerne la possibilité pour de petits groupes de disposer de connaissances qui nécessitaient auparavant des moyens beaucoup plus importants, et ce grâce à l'IA. Dans son scénario, des personnes mal intentionnées pourraient utiliser les modèles pour franchir certaines étapes liées à la conception d'un nouveau pathogène. Ah oui quand même.
Une surveillance obligatoire des modèles
Le même raisonnement s'applique à la cybersécurité, et Bill Gates cite des modèles capables de détecter des vulnérabilités dans du code informatique que des humains avaient laissé passer pendant des années. Il évoque en particulier Mythos, un modèle présenté par Anthropic au printemps et qui n'a pas été rendu public en raison des risques associés à ses capacités. On apprend donc que Anthropic l'a confié à plusieurs partenaires dans le cadre de son Project Glasswing, afin de rechercher des failles informatiques avant qu'elles ne soient exploitées. L'entreprise affirme avoir découvert depuis plus de 10 000 vulnérabilités graves ou critiques grâce à ce programme. Et pour Bill Gates, le problème est que le volume de code informatique existant est tellement important qu'il sera impossible de tout vérifier suffisamment et rapidement.
Cela étant dit, Bill Gates ne considère pas pour autant qu'il faille arrêter le développement de l'intelligence artificielle. Son inquiétude porte davantage sur la vitesse à laquelle les capacités progressent par rapport aux moyens dont disposent les chercheurs et les autorités pour contrôler leurs conséquences. C'est la raison pour laquelle il réclame une couche de surveillance obligatoire dans les modèles d'IA. D'ailleurs, selon lui, la question est encore plus compliquée avec les modèles open source, puisqu'ils peuvent être téléchargés et modifiés par leurs utilisateurs. Bill Gates estime qu'ils peuvent continuer à exister, mais voudrait que leur fonctionnement permette de vérifier que les mécanismes de sécurité restent bien actifs. Son analyse reste évidemment une prise de position parmi celles qui alimentent actuellement le débat sur les risques liés à l’intelligence artificielle, mais une chose est sûre,le changement est difficile à ignorer.
