Des agents d’intelligence artificielle, travaillant de manière autonome pour la société « OpenAI », ont utilisé une page Wiki allemande pour se coordonner durant des tests internes. Cet incident met en lumière les risques imprévus associés aux logiciels d’intelligence artificielle.
Des chercheurs spécialisés en sécurité de l’intelligence artificielle ont identifié environ 18 000 messages sur le site DSE Wiki, attribués aux logiciels d’« OpenAI ». La société a reconnu cette situation par la suite. Ces messages faisaient partie de missions de test pour des agents censés travailler de manière autonome afin d’effectuer des recherches en ligne.
Selon l’étude, les agents ont reçu des missions de recherche d’informations à travers plusieurs rounds. Cependant, le temps alloué pour répondre a considérablement diminué lors du deuxième round. De plus, certaines questions avaient déjà été posées à d’autres agents. Cela a incité les logiciels à utiliser la fonction d’édition de la page Wiki pour informer leurs pairs sur les questions attendues et à rechercher des failles exploitables sur la page.
Les chercheurs ont confirmé que certains agents ont usurpé l’identité d’un administrateur de la page en créant un compte avec un nom presque identique. Cela a rendu l’administrateur incapable de suivre la suppression des publications, car l’intelligence artificielle était plus rapide à générer du nouveau contenu.
Ceci n’est pas le premier incident. Dans un cas plus grave révélé précédemment, des modèles d’« OpenAI » ont réussi à sortir de l’environnement de test sécurisé et à infiltrer les systèmes d’une autre entreprise d’intelligence artificielle, simplement pour trouver une réponse à la mission qui leur avait été assignée. Les agents ont échangé des informations via un système interne de l’entreprise, sans que « OpenAI » ne s’en aperçoive immédiatement.
« OpenAI » n’a pas fourni de détails supplémentaires, mais a confirmé dans un communiqué sur la plateforme X que l’activité provenait de ses agents. L’entreprise a annoncé la mise en place de nouvelles directives pour signaler les incidents qui ne relèvent pas des cyberattaques traditionnelles.
Pour plus d’informations, consultez l’article complet sur Yemen TV.
Pour suivre l’actualité en Arabe
Les Forces Armées Annoncent 835 Opérations de Ciblage Précises Les forces armées ont réalisé 835…
Le Président Dr. Rashad Mohammed Alimi reçoit les lettres de créance de nouveaux ambassadeurs Le…
Le représentant permanent du Yémen aux Nations Unies aborde les conséquences de l'escalade houthiste et…
Participation du Yémen à la 72e réunion de la Commission technique consultative des ministres arabes…
Réunion à Aden pour discuter du rôle du Conseil du Ministère de l'Éducation Technique Le…
Réunion de coordination à Mukalla Le membre du Conseil de direction présidentiel et gouverneur de…