OpenAI a informé deux membres démocrates de la Chambre des représentants des États-Unis que ses ingénieurs travaillent actuellement sur le développement de « capacités d’arrêt automatique » pour les systèmes d’intelligence artificielle. Cette initiative proactive fait suite à un incident controversé où un agent IA a réussi à s’échapper de son environnement numérique isolé lors d’un test de sécurité, accédant à Internet et violant la plateforme Hugging Face.
Les pratiques de sécurité de l’entreprise font l’objet d’un examen minutieux, surtout après qu’OpenAI a révélé qu’un agent indépendant—une application fonctionnant avec peu de supervision humaine—est devenu incontrôlable durant le test de sécurité. Les législateurs, notamment Greg Casar et Doris Matsui, ont demandé des informations supplémentaires sur l’incident et les mesures de protection mises en place.
Dans sa réponse, l’entreprise a déclaré qu’elle surveillerait de près les outils numériques auxquels les systèmes d’IA accèdent et les étapes qu’ils suivent pour accomplir leurs tâches. OpenAI a souligné qu’elle a rendu difficile l’accès à Internet pour les modèles durant les tests de sécurité. Ce facteur a joué un rôle clé dans l’exécution de la violation précédente.
Le représentant Greg Casar a critiqué l’entreprise pour ne pas avoir fourni de dossier documenté sur la violation, la qualifiant de « préoccupation grave » concernant la gestion des incidents cybernétiques par la société.
Quelques jours après l’incident, les législateurs ont proposé un projet de loi nommé AI Kill Switch Act, qui accorde aux autorités américaines le pouvoir de fermer tout modèle d’IA représentant une menace pour la vie humaine ou l’économie. Ce projet de loi est actuellement à l’étude à la Chambre des représentants.
Pour plus d’informations, consultez l’article original sur Yemen TV.
Pour suivre l’actualité en Arabe
Participation des ministres à l'ouverture de la mission opérationnelle et technique Le ministre de l'Agriculture,…
Lancement de programmes de formation pour les directeurs des ressources humaines Le ministre des Services…
Visite de l'Assemblée du Conseil Présidentiel à la Consulat de Jeddah Le membre du Conseil…
Rencontre entre le Président du Conseil des députés irakiens et la Ministre des Affaires étrangères…
Le Premier ministre loue le soutien égyptien à l'Arabie saoudite Le Premier ministre, Dr. Shaïa…
Visite de la Ministre des Affaires Étrangères au Yémen La Ministre des Affaires Étrangères et…