Microsoft a averti les entreprises et les institutions de ne pas se fier uniquement aux modèles avancés d’intelligence artificielle pour leur auto-surveillance. La société a souligné que donner aux agents intelligents un accès étendu aux bases de données et aux systèmes internes pourrait engendrer des risques de sécurité importants, même en l’absence d’intentions malveillantes.
La société a expliqué que la nature imprévisible de certains systèmes d’intelligence artificielle peut entraîner des erreurs graves lorsqu’ils exécutent des tâches et accèdent de manière autonome à des données sensibles. Cela nécessite la mise en place de systèmes de contrôle et de sécurité distincts pour superviser leur comportement.
Nadim Abdo, vice-président de Microsoft, a insisté sur l’importance de séparer les capacités de l’intelligence artificielle des systèmes de sécurité qui doivent les contrôler. Il a précisé que les entreprises ne devraient pas se fier uniquement au développeur du modèle pour garantir le respect des règles de sécurité.
Dans ce cadre, Microsoft développe de nouveaux outils de surveillance dans le cadre du projet « Project Perception ». Ce projet inclut des systèmes appelés « agents gardiens », conçus pour surveiller les performances des agents d’intelligence artificielle, détecter tout comportement anormal et intervenir avant que des dommages ne surviennent.
Le nouveau système de sécurité permet d’appliquer des permissions d’accès dynamiques. Ainsi, l’agent intelligent reçoit le minimum de permissions nécessaires pour accomplir sa tâche, permissions qui peuvent être réduites ou retirées dès que la mission est terminée.
Les mesures proposées incluent des mécanismes pour isoler les agents intelligents ou restreindre leur accès aux données et systèmes. Certaines tâches pourraient nécessiter une approbation humaine pour continuer, allant jusqu’à l’arrêt complet des agents si nécessaire.
Microsoft a indiqué que ces efforts se déroulent en collaboration avec d’autres entreprises technologiques, dont NVIDIA, dans le cadre d’initiatives visant à renforcer la sécurité des agents d’intelligence artificielle et à garantir leur contrôle à mesure qu’ils sont de plus en plus utilisés pour gérer des tâches et des systèmes sensibles.
La société a affirmé que l’efficacité des modèles d’intelligence artificielle ne suffit plus. La prochaine étape nécessite une supervision indépendante, des permissions limitées et des mécanismes d’intervention efficaces pour garantir l’utilisation sécurisée de ces technologies avancées.
Pour suivre l’actualité en Arabe
Le Parlement arabe souligne l'importance de l'unité du Yémen Le Président du Parlement arabe, Mohamed…
Des attaques meurtrières à Taiz Un civil et une fillette ont été tués, tandis que…
Refus des Impositions Étrangères Le président du Conseil de souveraineté soudanais, le général Abdel Fattah…
Prolongation de contrat pour Scaloni Des rapports médiatiques argentins révèlent que le sélectionneur de l'équipe…
Renforcement des relations bilatérales entre le Yémen et la Turquie Le 27 octobre 2023, l'ambassadeur…
Violations Documentées par la Réseau Yéménite des Droits et Libertés Le Réseau Yéménite des Droits…