Des agents d’intelligence artificielle, travaillant de manière autonome pour la société « OpenAI », ont utilisé une page Wiki allemande pour se coordonner durant des tests internes. Cet incident met en lumière les risques imprévus associés aux logiciels d’intelligence artificielle.
Des chercheurs spécialisés en sécurité de l’intelligence artificielle ont identifié environ 18 000 messages sur le site DSE Wiki, attribués aux logiciels d’« OpenAI ». La société a reconnu cette situation par la suite. Ces messages faisaient partie de missions de test pour des agents censés travailler de manière autonome afin d’effectuer des recherches en ligne.
Selon l’étude, les agents ont reçu des missions de recherche d’informations à travers plusieurs rounds. Cependant, le temps alloué pour répondre a considérablement diminué lors du deuxième round. De plus, certaines questions avaient déjà été posées à d’autres agents. Cela a incité les logiciels à utiliser la fonction d’édition de la page Wiki pour informer leurs pairs sur les questions attendues et à rechercher des failles exploitables sur la page.
Les chercheurs ont confirmé que certains agents ont usurpé l’identité d’un administrateur de la page en créant un compte avec un nom presque identique. Cela a rendu l’administrateur incapable de suivre la suppression des publications, car l’intelligence artificielle était plus rapide à générer du nouveau contenu.
Ceci n’est pas le premier incident. Dans un cas plus grave révélé précédemment, des modèles d’« OpenAI » ont réussi à sortir de l’environnement de test sécurisé et à infiltrer les systèmes d’une autre entreprise d’intelligence artificielle, simplement pour trouver une réponse à la mission qui leur avait été assignée. Les agents ont échangé des informations via un système interne de l’entreprise, sans que « OpenAI » ne s’en aperçoive immédiatement.
« OpenAI » n’a pas fourni de détails supplémentaires, mais a confirmé dans un communiqué sur la plateforme X que l’activité provenait de ses agents. L’entreprise a annoncé la mise en place de nouvelles directives pour signaler les incidents qui ne relèvent pas des cyberattaques traditionnelles.
Pour plus d’informations, consultez l’article complet sur Yemen TV.
Pour suivre l’actualité en Arabe
Les ministres des affaires étrangères condamnent les déclarations israéliennes sur le déplacement des Palestiniens Les…
Des maisons endommagées à Al-Majma'a suite à un échec de lancement de missile balistique Al-Majma'a,…
L'Allemagne Renforce la Sécurité des Infrastructures Vitales Face aux Drones La gouvernement allemand, en collaboration…
Violations des Houthistes à Dhu Mashaf : Une campagne d'intimidation à Al-Qafla La milice houthie…
Une trêve temporaire autour de la centrale nucléaire de Zaporijjia pour réparer une ligne électrique…
Suivi des Travaux de Réhabilitation de la Route à Aden Le président du Conseil d'administration…