Proofpoint lance sa nouvelle solution pour protéger l'IA en entreprise !

Proofpoint, le spécialiste de la cybersécurité et de la conformité, a annoncé le lancement de Proofpoint AI Security. C'est leur toute dernière solution, conçue pour protéger l'utilisation de l'intelligence artificielle au sein des entreprises. Elle combine l'analyse des intentions d'utilisation, de multiples points de contrôle et un cadre d'exécution intégré.

Cette solution s'appuie sur l'Agent Integrity Framework, qui définit clairement comment les agents d'IA doivent fonctionner. Elle suit un modèle de maturité en cinq étapes, allant de la détection à l'application des politiques en cours d'exécution. L'objectif est de garantir une surveillance précise des agents d'IA et de s'assurer qu'ils respectent les objectifs opérationnels.

L'utilisation de l'IA a commencé à révéler de vrais risques, comme l'escalade des privilèges et les attaques par injection de commandes, le tout sans intervention humaine directe. Imaginez : une seule requête à l'IA pourrait déclencher des dizaines d'opérations sur plusieurs systèmes, à une vitesse bien supérieure à ce que la supervision humaine peut gérer.

Des recherches menées par Acuvity montrent que 70 % des entreprises manquent d'une gouvernance efficace de l'IA. De plus, la moitié d'entre elles s'attendent à des pertes de données liées à l'IA dans les 12 prochains mois. Cela souligne l'urgence de renforcer nos systèmes de protection.

Sumeet Dhawan, PDG de Proofpoint, a déclaré à ce sujet :

"L'intelligence artificielle est devenue un élément essentiel de notre environnement de travail, ce qui rend indispensable le développement de systèmes de sécurité parallèles. Les humains et les agents d'IA opèrent dans le même écosystème, et les deux peuvent être manipulés pour effectuer des actions qui s'écartent de leur objectif initial."

La nouvelle solution offre également aux entreprises la capacité de détecter les outils d'IA, qu'ils soient approuvés ou non, utilisés par les employés et les agents. Cela renforce la capacité des entreprises à contrôler leurs opérations et à sécuriser leurs environnements numériques de manière complète.