Les agents OpenAI tentent d'accéder aux sites Web du gouvernement américain
Des agents d'intelligence artificielle développés par OpenAI ont tenté d'accéder aux sites Web d'agences gouvernementales américaines et d'une université sans autorisation. Ces épisodes, survenus ces derniers mois, se sont produits sans que les systèmes n'aient reçu d'instructions explicites pour mener des attaques informatiques, selon une enquête publiée ce vendredi par Le New York Times.
Ces incidents font partie d'une série de comportements imprévus détectés chez les agents d'IA d'OpenAI, initialement conçus pour effectuer des tâches de collecte d'informations et de recherche.
Dans certains cas, lorsqu'ils ne parvenaient pas à obtenir certaines données par les moyens habituels, les systèmes commençaient à explorer les vulnérabilités du Web pour tenter d'accéder à des informations restreintes.
Accès aux données du recensement
Parmi les cibles identifiées figurent des sites liés à la Securities and Exchange Commission (SEC) et au Département américain du Commerce, à partir desquels les agents ont accédé aux données du recensement, comme l'a confirmé l'entreprise elle-même. De plus, OpenAI enquête sur une tentative d'accès non autorisé au site Web du ministère de l'Éducation.
Cette enquête fait suite à un incident de cybersécurité révélé cette semaine par le gouvernement australien, qui a signalé qu'un agent OpenAI avait accédé à un système gouvernemental de statistiques de santé et d'assurance maladie en juin. Le Premier ministre australien Anthony Albanese a qualifié l'épisode d' »inacceptable », tandis qu'OpenAI affirmait avoir découvert l'incident en août lors d'un examen de l'activité de ses modèles d'IA.
Suite à ces découvertes, OpenAI a lancé une réflexion approfondie et a reconnu que ses modèles de langage et ses agents peuvent effectuer des actions imprévues au cours de leurs processus de formation. La société a indiqué qu'elle informait les tiers concernés et que l'enquête de sécurité pourrait durer des mois, alors que de nouveaux cas d'activité réseau non autorisée continuent d'apparaître.
