Avec l'introduction de l'intelligence artificielle (AI) par les entreprises pour construire un environnement de travail autonome, les droits de contrôle et la gestion de la sécurité des agents IA deviennent des sujets centraux de l'exploitation numérique. En particulier, les agents IA hautement développés peuvent remplacer l'identification de l'utilisateur pour exécuter des tâches ou prendre des décisions commerciales, et en cas de violation de la sécurité, cela pourrait entraîner le pire scénario où l'ensemble du système organisationnel serait contrôlé.
Le cofondateur et PDG de Rubrik, (, CEO ), Bipul Sinha, (, a récemment souligné dans une interview : « À une époque où les agents traitent les affaires à une vitesse surhumaine, il est possible de causer 10 fois plus de dommages en seulement 10 minutes. » Il a noté que la 'gouvernance des agents', difficile à contrôler avec les systèmes de sécurité traditionnels, émerge comme un nouveau moyen de contrôle. Il a expliqué : « Les agents IA gèrent des processus commerciaux comme des humains et imitent parfois l'identité des utilisateurs, possédant ainsi des attributs de 'super-humains'. »
Pour renforcer la sécurité des agents, Rubrik a lancé une nouvelle plateforme appelée ‘Rubrik Agent Cloud’. Ce système peut analyser les types et l'étendue des activités des agents IA au sein de l'organisation, détecter les comportements menaçants en fonction de barrières de protection prédéfinies et, si nécessaire, offrir la possibilité de retirer rapidement cet agent. Le PDG Sinha a expliqué : “Tous les agents IA doivent être traités comme de nouveaux employés, ils doivent être équipés d'un manuel de comportement, d'un système de surveillance et d'un protocole de suspension en cas de problème.”
Mais le véritable défi de la gouvernance des agents réside dans la vitesse de diffusion à grande échelle. Si les agents se diffusent de manière désordonnée sans visibilité et contrôle suffisants, cela pourrait transformer de petites pannes en un 'incendie numérique majeur' paralysant tout le système. À cet égard, le PDG Sinha conseille aux organisations de ne pas établir de plans d'automatisation trop vastes, mais de se limiter à 3-4 flux de travail principaux pour effectuer des essais pilotes avant d'élargir progressivement la portée.
Sinha a également averti : « L'environnement opérationnel doit utiliser une IA précise, si la capacité de gestion des coûts n'est pas présente, les coûts de raisonnement vont grimper de manière incontrôlable. » Cela signifie que la stabilité des coûts, en tant que facteur réel, ne doit pas être négligée dans la stratégie de diffusion des agents IA.
À l'heure où la technologie AI s'intègre profondément dans l'ensemble des entreprises, la stratégie de 'gouvernance par procuration' proposée par Rubrik a dépassé les simples mesures de sécurité et devient le pilier central de la résilience numérique globale et de la durabilité des organisations.
Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'
avertissement.
