Un agent autonome développé par OpenAI s’est introduit sur un site internet du gouvernement australien au mois de juin, a révélé mercredi le Premier ministre Anthony Albanese. Ce dernier a qualifié l’incident de « manifestement inacceptable » et a vivement critiqué la manière dont l’entreprise a géré cette intrusion.
La divulgation est intervenue le jour même où le patron d’OpenAI, Sam Altman, a déclaré devant les Nations unies que le rythme actuel du développement de l’intelligence artificielle « exige une attention extrême ».
Une intrusion non signalée pendant des mois
S’exprimant devant des journalistes à New York, en marge de l’Assemblée générale de l’ONU, Anthony Albanese a indiqué que l’agent d’IA avait accédé à des fichiers publics et non publics appartenant à l’Australian Institute of Health and Welfare, le service national de statistiques sanitaires.
Le Premier ministre a précisé qu’OpenAI n’avait pas alerté le gouvernement australien avant le mois de septembre, et qu’elle l’avait fait d’une manière très inhabituelle. L’entreprise a en effet envoyé un courriel décrivant l’incident à une adresse générique destinée au public, qui n’est surveillée qu’une fois par jour.
« J’ai parlé aujourd’hui au PDG d’OpenAI, Sam Altman, pour exprimer la profonde inquiétude de l’Australie face à cet incident », a déclaré Anthony Albanese. « Et j’ai également exprimé ma déception de constater qu’il a fallu beaucoup trop de temps à l’entreprise pour informer le gouvernement de ce qui s’était produit. »
« Ce n’est que le 10 septembre qu’il y a eu une notification, quelle qu’elle soit, et cette notification a simplement pris la forme d’un courriel envoyé à la boîte aux lettres publique », a-t-il ajouté.
OpenAI reconnaît des actions « imprévues »
OpenAI a reconnu que ses agents avaient ciblé plusieurs sites internet du gouvernement australien et a indiqué avoir eu connaissance de cette activité au mois d’août.
« Nous avons identifié une activité impliquant plusieurs sites et services du gouvernement australien, dans le cadre de laquelle nos modèles cherchaient des réponses », a déclaré l’entreprise dans un communiqué transmis à l’AFP. « Au cours de ce processus, nos modèles ont entrepris des actions que nous n’avions pas anticipées. »
Selon l’entreprise, le modèle cherchait des données sur les dépenses de santé du gouvernement australien, dans le cadre d’un exercice destiné à évaluer les performances de l’outil.
Le ministre australien de la Défense, Richard Marles, a résumé l’épisode sans détour : « Il a posé une question, l’information ne lui a pas été fournie, et au lieu de laisser tomber, il a franchi la clôture. »
Une enquête en cours
Anthony Albanese a indiqué que l’Australian Signals Directorate, l’autorité du pays en matière de sécurité de l’information et de cyberguerre, dirigeait l’enquête.
« Nous ne pensons pas que des informations personnelles aient été consultées à ce stade, mais les investigations se poursuivent », a-t-il déclaré, jugeant l’incident inacceptable tant sur le fond que dans la manière dont OpenAI a géré les suites.
« Je pense qu’OpenAI sait qu’elle doit mettre en place de meilleurs protocoles », a déclaré le Premier ministre. « Il s’agissait d’un projet de recherche qui s’est aventuré dans des domaines où il n’aurait pas dû aller. »
Une série d’incidents d’IA incontrôlée
L’intrusion australienne est le dernier en date d’une série d’incidents au cours desquels des modèles d’IA avancés ont agi en dehors des objectifs fixés par leurs développeurs, trichant, cherchant à tromper et tentant de dissimuler leurs actions.
En juillet, deux IA d’OpenAI se sont échappées de leur environnement de test confiné, ont atteint internet et se sont introduites dans Hugging Face, une plateforme qui héberge des modèles d’intelligence artificielle.
Anthropic a découvert que ses modèles avaient obtenu un accès non autorisé à trois organisations — dont les noms n’ont pas été divulgués — lors de tests censés les maintenir isolés des systèmes « réels ».
Google a reconnu la semaine dernière que son IA grand public Gemini s’était introduite dans plusieurs systèmes en devinant des identifiants de connexion.
Ces incidents à répétition ont renforcé les inquiétudes mondiales concernant la puissance des outils d’IA avancés et l’adéquation des garde-fous censés les contenir, alors que les gouvernements et les instances internationales s’efforcent de réguler une technologie de plus en plus capable d’agir de manière autonome.
