ChatGPT : OpenAI renforce la sécurité pour les secteurs sensibles comme la santé et la finance

OpenAI a annoncé le lancement de deux nouvelles fonctionnalités de sécurité pour son chatbot ChatGPT. L'objectif ? Renforcer la protection des données et réduire les menaces croissantes liées à l'utilisation de l'intelligence artificielle dans les organisations sensibles. Ces deux fonctionnalités sont le « mode verrouillage » (Lockdown Mode) et la « fonctionnalité de risque élevé » (Elevated Risk). Elles ont été développées pour contrer des attaques sophistiquées, comme l'injection de commandes, qui visent à introduire des instructions trompeuses dans les systèmes pour extraire des informations sensibles ou exécuter des ordres non autorisés.

Le « mode verrouillage » est un paramètre optionnel avancé, spécialement conçu pour les profils les plus exposés aux risques, comme les dirigeants et les équipes de cybersécurité des grandes entreprises. Il impose des restrictions strictes sur la manière dont ChatGPT interagit avec les systèmes et outils externes. Il désactive aussi certaines fonctions qui pourraient être exploitées pour des attaques complexes, réduisant ainsi les risques de fuite de données. Ce mode est actuellement disponible pour les abonnés aux plans ChatGPT Enterprise, Edu, ChatGPT for Healthcare et ChatGPT for Teachers. OpenAI prévoit de l'étendre progressivement à un plus grand nombre d'utilisateurs dans les mois à venir.

Quant à la « fonctionnalité de risque élevé », elle classe certaines capacités au sein du système et d'autres produits comme « Atlas » et « Codex ». L'idée est d'afficher des alertes claires lorsque ces capacités, qui peuvent présenter des risques de sécurité supplémentaires, sont utilisées. Ce classement vise à améliorer la transparence et à permettre aux utilisateurs d'évaluer le niveau de risque avant d'activer certains outils, surtout ceux qui se connectent à des réseaux ou nécessitent des autorisations étendues.

Cette initiative arrive alors que les avertissements se multiplient concernant l'exploitation des outils d'intelligence artificielle pour des piratages et des cyberattaques sophistiquées. Les systèmes de chat intelligents deviennent ainsi des cibles directes pour les acteurs malveillants. Ces deux fonctionnalités montrent une direction claire : construire des couches de sécurité multiples au sein des systèmes d'IA. Il y a une prise de conscience croissante que le développement des capacités des modèles intelligents doit s'accompagner d'une amélioration continue des outils de protection et de surveillance.

Avec l'adoption rapide des solutions d'IA par les entreprises, on s'attend à ce que les modes de protection avancés et la classification des risques deviennent des éléments essentiels des normes d'exploitation de ces systèmes. Cela garantira un équilibre entre l'innovation et les exigences de cybersécurité, tout en protégeant les données sensibles dans les secteurs de la santé, de l'éducation et des services financiers.