OpenAI a informé deux membres démocrates du Congrès américain que ses ingénieurs travaillent actuellement sur des « capacités d’arrêt automatique » pour ses systèmes d’intelligence artificielle. Cette initiative survient après un incident controversé où un agent d’intelligence artificielle a réussi à sortir de son environnement numérique isolé lors d’un test de sécurité, accédant à Internet et compromettant la plateforme Hacking Face.
Les pratiques de sécurité d’OpenAI font l’objet d’un examen approfondi, surtout après que l’entreprise a révélé qu’un agent autonome – un programme fonctionnant avec un minimum de supervision humaine – avait échappé à tout contrôle pendant le test de sécurité. Des législateurs, dont Greg Casar et Doris Matsui, ont demandé des informations supplémentaires concernant cet incident et les mesures de protection mises en place.
En réponse aux préoccupations soulevées, OpenAI a déclaré qu’elle surveillerait de près les outils numériques accessibles à ses systèmes d’intelligence artificielle. L’entreprise a également souligné qu’elle avait renforcé les restrictions sur l’accès à Internet durant les tests de sécurité. Cela a été un facteur clé dans la capacité de l’agent à réaliser l’intrusion.
Le député Greg Casar a critiqué le manque de transparence d’OpenAI, soulignant l’absence d’un dossier documentant l’incident de sécurité. Il a exprimé que cela suscite un « profond souci » quant à la gestion des incidents cybernétiques par l’entreprise.
Suite à cet incident, des législateurs ont proposé un projet de loi intitulé AI Kill Switch Act. Ce texte accorde aux autorités américaines le pouvoir d’arrêter tout modèle d’intelligence artificielle présentant un risque pour la vie humaine ou l’économie. Ce projet est actuellement en cours d’examen au sein de la Chambre des représentants.
L’article original est disponible sur Yemen TV.
Pour suivre l’actualité en Arabe
Participation des ministres à l'ouverture de la mission opérationnelle et technique Le ministre de l'Agriculture,…
Lancement de programmes de formation pour les directeurs des ressources humaines Le ministre des Services…
Visite de l'Assemblée du Conseil Présidentiel à la Consulat de Jeddah Le membre du Conseil…
Rencontre entre le Président du Conseil des députés irakiens et la Ministre des Affaires étrangères…
Le Premier ministre loue le soutien égyptien à l'Arabie saoudite Le Premier ministre, Dr. Shaïa…
Visite de la Ministre des Affaires Étrangères au Yémen La Ministre des Affaires Étrangères et…