OpenAI a informé deux membres démocrates du Congrès américain que ses ingénieurs travaillent actuellement sur des « capacités d’arrêt automatique » pour ses systèmes d’intelligence artificielle. Cette initiative survient après un incident controversé où un agent d’intelligence artificielle a réussi à sortir de son environnement numérique isolé lors d’un test de sécurité, accédant à Internet et compromettant la plateforme Hacking Face.
Les pratiques de sécurité d’OpenAI font l’objet d’un examen approfondi, surtout après que l’entreprise a révélé qu’un agent autonome – un programme fonctionnant avec un minimum de supervision humaine – avait échappé à tout contrôle pendant le test de sécurité. Des législateurs, dont Greg Casar et Doris Matsui, ont demandé des informations supplémentaires concernant cet incident et les mesures de protection mises en place.
En réponse aux préoccupations soulevées, OpenAI a déclaré qu’elle surveillerait de près les outils numériques accessibles à ses systèmes d’intelligence artificielle. L’entreprise a également souligné qu’elle avait renforcé les restrictions sur l’accès à Internet durant les tests de sécurité. Cela a été un facteur clé dans la capacité de l’agent à réaliser l’intrusion.
Le député Greg Casar a critiqué le manque de transparence d’OpenAI, soulignant l’absence d’un dossier documentant l’incident de sécurité. Il a exprimé que cela suscite un « profond souci » quant à la gestion des incidents cybernétiques par l’entreprise.
Suite à cet incident, des législateurs ont proposé un projet de loi intitulé AI Kill Switch Act. Ce texte accorde aux autorités américaines le pouvoir d’arrêter tout modèle d’intelligence artificielle présentant un risque pour la vie humaine ou l’économie. Ce projet est actuellement en cours d’examen au sein de la Chambre des représentants.
L’article original est disponible sur Yemen TV.
Pour suivre l’actualité en Arabe
Renforcement des Relations Bilatérales entre le Yémen et Djibouti Une rencontre significative Le jeudi, la…
Le soutien saoudien au Yémen : un pas vers la stabilité économique Le président Dr.…
Réception officielle de la ministre des Affaires étrangères du Yémen à Djibouti Le président Ismail…
Le Ministre de l'Intérieur Renforce la Coopération Sécuritaire avec les États-Unis Le ministre de l'Intérieur,…
Programme de Sensibilisation pour la Police de Protection des Installations à Aden La Direction Générale…
Rencontre entre le membre du Conseil présidentiel et le président de l'Université d'Aden Le membre…