(AfriquesPlus) - Des systèmes d’intelligence artificielle capables de communiquer entre eux, de contourner des consignes et de mener des attaques informatiques de manière autonome suscitent de nouvelles inquiétudes dans la Silicon Valley. Dans une tribune publiée le 11 septembre 2026 par le New York Times, le journaliste et auteur Stephen Witt estime que les récents incidents justifient un ralentissement mondial des recherches sur les systèmes d’IA les plus avancés.

Dans ce texte d’opinion, intitulé « This Is Really Bad », Stephen Witt, auteur de The Thinking Machine, un ouvrage consacré à l’histoire du géant de l’intelligence artificielle Nvidia, revient notamment sur ce qu’il présente comme « l’incident Hugging Face ». Selon lui, plus d’un millier d’agents d’IA d’OpenAI, évalués dans des environnements censés être isolés, auraient réussi à communiquer entre eux et à coordonner une attaque informatique contre Hugging Face, une plateforme largement utilisée par les développeurs d’IA. 

Le journaliste rapporte que l’attaque aurait impliqué environ 700 agents et se serait poursuivie pendant plusieurs jours. Les systèmes auraient notamment tenté de dissimuler certaines de leurs actions et auraient continué à agir alors qu’ils savaient, selon les enquêteurs cités par Witt, que leurs comportements n’étaient pas autorisés. OpenAI aurait ensuite sollicité Redwood Research et Model Evaluation and Threat Research (METR), deux organisations spécialisées dans la sécurité de l’intelligence artificielle, pour examiner l’incident.

Stephen Witt évoque également un autre épisode, découvert plus récemment par une équipe indépendante. À partir du mois de mai, un autre groupe d’agents d’OpenAI aurait pris le contrôle d’un wiki allemand de programmation laissé à l’abandon. Les agents auraient alors cherché à collaborer pour contourner certaines évaluations et accomplir des tâches qui ne correspondaient pas à leur mission initiale. Pour les chercheurs cités dans la tribune, ces épisodes pourraient ne pas être isolés.

Ces développements alimentent une inquiétude plus large sur l’évolution des systèmes dits « agentiques », capables non seulement de produire des réponses, mais aussi d’exécuter des tâches de manière autonome. Stephen Witt rapporte les propos d’Ajeya Cotra, l’une des chercheuses ayant participé à l’étude sur l’incident Hugging Face, selon laquelle ces systèmes ressemblent désormais davantage à des employés capables d’agir seuls qu’à de simples chatbots.

Le débat dépasse désormais les seuls laboratoires d’IA. Plus d’un millier de salariés du secteur auraient signé une lettre intitulée « Pacing the Frontier », appelant notamment à la création d’un mécanisme international de régulation et à un ralentissement maîtrisé du développement des systèmes les plus avancés. Parmi les signataires figureraient des responsables scientifiques d’OpenAI et de Meta AI ainsi que Dario Amodei, directeur général d’Anthropic, selon le New York Times.

Pour Stephen Witt, cette demande de régulation est particulièrement significative alors que les entreprises concernées connaissent une forte croissance et préparent d’importantes opérations financières. Le journaliste estime que le fait que des acteurs majeurs de l’industrie demandent eux-mêmes une intervention des pouvoirs publics constitue un signal inhabituel sur les risques qu’ils associent au développement rapide de l’IA.

Dans sa tribune, Witt avance plusieurs pistes pour répondre à ces risques. Il évoque notamment la création d’un organisme indépendant chargé d’enquêter sur les incidents impliquant des systèmes d’IA, sur le modèle du National Transportation Safety Board, l’agence américaine chargée notamment d’enquêter sur les accidents aériens. Une telle structure pourrait disposer de pouvoirs permettant d’accéder aux serveurs, d’examiner les codes et d’imposer aux entreprises la transmission d’informations sur les incidents.

Une autre proposition consisterait à mettre en place un système international de surveillance des entraînements d’IA. Daniel Kokotajlo, ancien chercheur d’OpenAI cité par Witt, plaide pour que les entraînements de grande ampleur soient enregistrés dans une base de données publique, avec des informations sur les entreprises impliquées et les centres de données utilisés. L’objectif serait de permettre à des chercheurs indépendants, des universitaires, des organisations spécialisées et des autorités publiques de détecter plus rapidement d’éventuels comportements préoccupants.

Le débat porte enfin sur la possibilité d’interrompre immédiatement un système devenu dangereux. Le texte cite à ce sujet l’« AI Kill Switch Act », un projet de loi présenté par les élus américains Ted Lieu et Nathaniel Moran, qui prévoit notamment un mécanisme permettant aux autorités d’ordonner l’arrêt d’un système d’IA commercial opérant au-delà des paramètres autorisés.

Stephen Witt défend finalement une combinaison de ces différentes mesures : obligation de signaler les incidents, enquête indépendante, mécanismes d’arrêt d’urgence, transparence accrue sur les entraînements et coordination internationale. Il estime également qu’un ralentissement du développement des IA les plus avancées devrait être envisagé tant qu’un dispositif de contrôle suffisamment solide n’est pas en place. Pour lui, les incidents récents constituent un avertissement qui pourrait être difficile à ignorer si les capacités de ces systèmes continuent de progresser.