شات جي بي تي في المؤسسات الحساسة: حماية إضافية للقطاع الصحي والتعليم والخدمات المالية

أعلنت شركة أوبن إيه آي عن إطلاق ميزتين أمنيّتين جديدتين ضمن منظومة روبوت الدردشة شات جي بي تي، بهدف تعزيز حماية البيانات والحد من التهديدات المتزايدة المرتبطة باستخدام الذكاء الاصطناعي في المؤسسات الحساسة. وتشمل الميزتان “وضع القفل” (Lockdown Mode)  وميزة “الخطر المرتفع” (Elevated Risk)، اللتين تم تطويرهما للتعامل مع هجمات متقدمة مثل ما يُعرف بـ”حقن الأوامر”، والتي تستهدف إدخال تعليمات مضللة داخل الأنظمة لاستخراج معلومات حساسة أو تنفيذ أوامر غير مصرح بها.

وضع القفل يمثل إعداداً اختيارياً متقدماً، مخصصاً للفئات الأكثر عرضة للمخاطر مثل القيادات التنفيذية وفرق الأمن السيبراني في المؤسسات الكبرى. ويعمل على فرض قيود صارمة على تفاعل شات جي بي تي مع الأنظمة والأدوات الخارجية، ويعطل بعض الخصائص التي يمكن أن تُستغل في تنفيذ هجمات معقدة، ما يقلل احتمالات تسريب البيانات. هذا الوضع متاح حالياً لمشتركي خطط ChatGPT Enterprise وEdu وChatGPT for Healthcare وChatGPT for Teachers، مع خطط لتوسيع نطاقه تدريجياً ليشمل شريحة أوسع من المستخدمين خلال الأشهر المقبلة.

أما ميزة الخطر المرتفع، فتعمل على تصنيف بعض القدرات داخل المنظومة ومنتجات أخرى مثل “أطلس” و”كودكس”، لتظهر إشارات تنبيه واضحة عند استخدام هذه القدرات التي قد تنطوي على مخاطر أمنية إضافية. ويهدف هذا التصنيف إلى تعزيز الشفافية وتمكين المستخدمين من تقييم مستوى المخاطر قبل تفعيل أدوات معينة، خصوصاً تلك التي تتصل بالشبكات أو تتطلب صلاحيات موسعة.

تأتي هذه الخطوة في ظل تصاعد التحذيرات من استغلال أدوات الذكاء الاصطناعي في عمليات اختراق وهجمات سيبرانية متطورة، ما يجعل أنظمة الدردشة الذكية هدفاً مباشراً للجهات الخبيثة. وتعكس الميزتان توجهاً واضحاً نحو بناء طبقات أمان متعددة داخل أنظمة الذكاء الاصطناعي، مع إدراك متنامٍ بأن تطور قدرات النماذج الذكية يجب أن يوازيه تطوير مستمر في أدوات الحماية والرقابة.

مع تسارع اعتماد المؤسسات على حلول الذكاء الاصطناعي، من المتوقع أن تصبح أوضاع الحماية المتقدمة وتصنيف المخاطر جزءاً أساسياً من معايير تشغيل هذه الأنظمة، بما يضمن توازن الابتكار مع متطلبات الأمن السيبراني وحماية البيانات الحساسة في القطاعات الصحية والتعليمية والخدمات المالية.