Microsoft met en garde contre l’octroi de pouvoirs étendus aux agents d’intelligence artificielle sans contrôle indépendant.

Microsoft met en garde contre l’octroi de larges pouvoirs aux agents d’intelligence artificielle

Microsoft a averti les entreprises et les institutions de ne pas se fier uniquement aux modèles avancés d’intelligence artificielle pour leur auto-surveillance. La société a souligné que donner aux agents intelligents un accès étendu aux bases de données et aux systèmes internes pourrait engendrer des risques de sécurité importants, même en l’absence d’intentions malveillantes.

Les risques liés à l’autonomie des systèmes d’IA

La société a expliqué que la nature imprévisible de certains systèmes d’intelligence artificielle peut entraîner des erreurs graves lorsqu’ils exécutent des tâches et accèdent de manière autonome à des données sensibles. Cela nécessite la mise en place de systèmes de contrôle et de sécurité distincts pour superviser leur comportement.

La nécessité d’une séparation des fonctions

Nadim Abdo, vice-président de Microsoft, a insisté sur l’importance de séparer les capacités de l’intelligence artificielle des systèmes de sécurité qui doivent les contrôler. Il a précisé que les entreprises ne devraient pas se fier uniquement au développeur du modèle pour garantir le respect des règles de sécurité.

Le projet « Project Perception »

Dans ce cadre, Microsoft développe de nouveaux outils de surveillance dans le cadre du projet « Project Perception ». Ce projet inclut des systèmes appelés « agents gardiens », conçus pour surveiller les performances des agents d’intelligence artificielle, détecter tout comportement anormal et intervenir avant que des dommages ne surviennent.

Des permissions d’accès dynamiques

Le nouveau système de sécurité permet d’appliquer des permissions d’accès dynamiques. Ainsi, l’agent intelligent reçoit le minimum de permissions nécessaires pour accomplir sa tâche, permissions qui peuvent être réduites ou retirées dès que la mission est terminée.

Mécanismes de contrôle des agents intelligents

Les mesures proposées incluent des mécanismes pour isoler les agents intelligents ou restreindre leur accès aux données et systèmes. Certaines tâches pourraient nécessiter une approbation humaine pour continuer, allant jusqu’à l’arrêt complet des agents si nécessaire.

Collaboration avec d’autres entreprises technologiques

Microsoft a indiqué que ces efforts se déroulent en collaboration avec d’autres entreprises technologiques, dont NVIDIA, dans le cadre d’initiatives visant à renforcer la sécurité des agents d’intelligence artificielle et à garantir leur contrôle à mesure qu’ils sont de plus en plus utilisés pour gérer des tâches et des systèmes sensibles.

L’importance de la supervision indépendante

La société a affirmé que l’efficacité des modèles d’intelligence artificielle ne suffit plus. La prochaine étape nécessite une supervision indépendante, des permissions limitées et des mécanismes d’intervention efficaces pour garantir l’utilisation sécurisée de ces technologies avancées.

Pour suivre l’actualité en Arabe