الإخبارية 24 / عبد الفتاح كريم
أعلنت شركة OpenAI حزمة جديدة من الإجراءات والتدابير الرامية إلى تعزيز مستويات الأمن والسلامة خلال مراحل تطوير واختبار نماذج الذكاء الإصطناعي، في خطوة تعكس تنامي المخاوف المرتبطة بالقدرات المتقدمة لهذه النماذج، ولا سيما في مجال الأمن السيبراني.
وأوضحت الشركة الأمريكية أن هذه الإجراءات جاءت، جزئياً، إستجابة للتطور المتسارع الذي يشهده قطاع الذكاء الإصطناعي، فضلاً عن التقدم الملحوظ في القدرات السيبرانية التي يمكن أن تتمتع بها بعض النماذج المستقبلية، ما يفرض، بحسب الشركة، تطوير آليات أكثر صرامة لرصد المخاطر والتعامل معها في مراحل مبكرة.
وتشمل الخطة الجديدة تعزيز مراقبة سلوك النماذج خلال مختلف مراحل التطوير والإختبار، مع توسيع نطاق التقييمات الأمنية خلال مرحلة ما بعد التدريب، والتركيز بشكل أكبر على مواءمة النماذج وضمان التزامها بالضوابط والمعايير المعتمدة للسلامة.
كما تعتزم OpenAI تشديد ممارسات عزل الشبكات والأنظمة، بما يحد من قدرة أي إختراق محتمل على الإنتقال من أحد أعباء العمل أو الخدمات الداعمة إلى أنظمة أخرى، وتهدف هذه الإجراءات إلى ضمان ألا يؤدي إختراق خدمة واحدة، بمفرده، إلى تمكين المهاجم من الوصول غير المصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى.
وفي السياق ذاته، تتضمن الإجراءات اعتماد نظام مراقبة متقدم قادر على تحليل نطاق واسع من الأنشطة والعمليات، بهدف رصد أي سلوك غير مصرح به أو غير إعتيادي. وسيعمل النظام، وفق الشركة، على تتبع إستخدام الأدوات من جانب النماذج، إلى جانب تحليل آثار عمليات الإستدلال وسجلات النشاط، بحثاً عن أنماط قد تشير إلى محاولات لتجاوز القيود أو الضوابط الأمنية المفروضة.
وتراهن الشركة على هذه الآليات لتسريع الإستجابة للحوادث المحتملة، إذ تستهدف إصدار تنبيهات خلال 30 دقيقة من لحظة إكتشاف نشاط يثير مخاوف أمنية، بما يسمح للفرق المختصة بالتدخل وإتخاذ الإجراءات المناسبة قبل إتساع نطاق الحادث.
وفي المقابل، أقرت OpenAI بأن تشغيل منظومة المراقبة الجديدة سيتطلب موارد حوسبة إضافية، مقدرةً أن تكلفة تشغيلها قد تعادل نحو 20 في المائة من الموارد الحاسوبية المستخدمة في العملية التي تخضع للمراقبة.
وتأتي هذه الإجراءات في وقت يتزايد فيه الإعتماد على نماذج الذكاء الإصطناعي المتقدمة، بالتوازي مع إرتفاع قدراتها على تنفيذ مهام معقدة وإستخدام أدوات رقمية والعمل ضمن بيئات متصلة بالشبكات.
وهو ما يجعل تعزيز أنظمة الحماية والمراقبة جزءاً أساسياً من عملية تطوير هذه التقنيات، خصوصاً مع إنتقالها تدريجياً من مجرد أدوات للمساعدة إلى أنظمة قادرة على تنفيذ مهام متعددة بدرجات متزايدة من الإستقلالية.
وتسعى OpenAI من خلال هذه المقاربة إلى تحقيق توازن بين تسريع تطوير قدرات الذكاء الإصطناعي والحفاظ على مستويات مرتفعة من الأمن والسلامة، مع تعزيز القدرة على إكتشاف المخاطر والاستجابة لها قبل أن تتحول إلى حوادث واسعة النطاق.
