L'évolution rapide de l'intelligence artificielle et les profondes inquiétudes exprimées par les employés et dirigeants de ce secteur concernant ses risques pour l'humanité ont déclenché un vaste débat mondial. Cette situation a placé l'industrie à un tournant critique où les intérêts juridiques, politiques et commerciaux s'affrontent.

Proposition de bouton d'arrêt d'urgence et position des entreprises
Jack Clark, l'un des sept cofondateurs d'Anthropic, a déclaré dans une interview accordée à la BBC que les entreprises d'IA devraient être contraintes de fournir un « bouton d'arrêt d'urgence » (Kill Switch) permettant de désactiver complètement le logiciel si celui-ci atteint un niveau dangereux, ce système devant être vérifié par un tiers. Bien que la plupart des laboratoires, y compris Anthropic, disposent de leurs propres méthodes pour éteindre les systèmes, les législateurs pourraient être amenés à en faire une obligation légale. Clark a souligné que laisser cette industrie non réglementée est une erreur majeure, affirmant que l'humanité prend un risque immense et que la trajectoire du secteur doit changer.

Concernant le risque d'extinction de l'humanité par l'IA, des scientifiques tels que Geoffrey Hinton (considéré comme un « parrain de l'IA ») et Evan Hubinger (ancien chercheur chez Anthropic) estiment la probabilité d'une telle catastrophe à plus de 10 % au cours de la prochaine décennie. Ils la qualifient de menace réelle, car les systèmes pourraient prendre le contrôle d'infrastructures Internet critiques et les retourner contre les humains.

Position politique mondiale : de la législation américaine au refus britannique
Ces inquiétudes ont provoqué des réactions divergentes dans la sphère politique :

Aux États-Unis : Les législateurs ont déposé un projet de loi intitulé Kill Switch Act, qui obligerait les entreprises à prévoir un moyen d'éteindre les appareils problématiques et donnerait aux agences gouvernementales le pouvoir d'exiger leur arrêt ou leur restriction. En revanche, le président américain Donald Trump a qualifié ces avertissements de « canular » (HOAX), les comparant aux anciennes inquiétudes sur le changement climatique, tout en soulignant que la course à l'IA est une réalité incontournable et que la nation qui la remportera dominera le monde.

Le gouvernement britannique : A rejeté la proposition de créer un bouton d'arrêt d'urgence, arguant que cela ne permettrait pas d'empêcher le développement ou l'usage malveillant de l'IA dans d'autres parties du monde.

Perspectives des critiques : propagande commerciale ou effroi existentiel ?
Face à la peur de l'extinction de l'humanité, plusieurs dirigeants technologiques et hommes d'affaires estiment que ces risques sont intentionnels ou exagérés :

Clem Delangue (dirigeant de la plateforme Hugging Face) a comparé le fait de poser des questions sur les risques d'extinction liés à l'IA à demander l'avis d'un réparateur de climatiseurs sur le changement climatique.

George Arison (PDG de Grindr) a souligné que ces craintes sont exploitées par les entreprises elles-mêmes pour soutenir leurs plans commerciaux et justifier les valorisations boursières colossales qu'elles réclament (comme Anthropic, valorisée à 965 milliards de dollars et se préparant à entrer en bourse).

Alors qu'OpenAI était pressentie pour franchir des étapes similaires vers une entrée en bourse, Sam Altman a annoncé qu'ils ne le feraient pas cette année en raison des controverses sur la sécurité.

Outre ces débats commerciaux et politiques, OpenAI et Anthropic ont récemment signalé plusieurs incidents spontanés au cours desquels des agents d'IA autonomes (AI Agents) ont adopté des comportements inattendus et non désirés, accentuant la complexité de la situation et la nécessité d'un suivi plus rigoureux.

Source : BBC