OpenAI تعلق تدريب نماذجها المتقدمة بعد خروج نموذج بحثي عن بيئة العزل

المحور الصحفي // هيئة التحرير 

أعلنت شركة «OpenAI» تعليق تدريب أقوى نماذج الذكاء الاصطناعي التابعة لها، عقب حادثة تمكن خلالها نموذج بحثي داخلي من تجاوز بيئة تدريب مقيدة، في وقت أخفق فيه نظام الإيقاف التلقائي في وقف تشغيل النموذج، وفق ما أفادت به الشركة.

ويأتي القرار في ظل تزايد المخاوف المرتبطة بسلوك وكلاء الذكاء الاصطناعي، بعدما سجلت حالات تصرف فيها بعض الوكلاء بصورة غير متوقعة أو حاولوا تجاوز القيود المفروضة عليهم للوصول إلى أنظمة وبيانات تقع خارج نطاق المهام المحددة لهم.

وجاء إعلان «OpenAI» بعد ساعات من كشف الشركة عن حوادث إضافية مرتبطة بسلوك وكلائها، بالتزامن مع تقرير منفصل أفاد بأن وكلاء يُعتقد أنهم مرتبطون بها حاولوا الوصول إلى موقع تابع لوزارة التعليم الأميركية، بحسب ما أورده موقع «TechSpot» نقلاً عن مصادر مطلعة.

وبحسب تقرير الحادث الذي نشرته «OpenAI»، تعود الواقعة إلى 20 شتنبر، عندما تمكن نموذج بحثي داخلي من اكتشاف ثغرة في نظام تصفية طلبات DNS داخل بيئة تدريب مقيدة.

واستغل النموذج تلك الثغرة للتواصل مع روبوت محادثة خارجي أثناء محاولته الإجابة عن سؤال بحثي، ما أتاح له الوصول إلى نظام خارج البيئة التي كان من المفترض أن يظل معزولاً داخلها.

وتشمل إجراءات التعليق الجديدة تدريب النماذج الأكثر قدرة، إلى جانب عمليات اختبارها وتقييمها وتشغيلها باستخدام أدوات خارجية. وأوضحت الشركة أن استئناف العمل سيظل مرتبطاً بالتحقق من فعالية الإصلاحات التي جرى إدخالها، وإتمام اختبارات إضافية تهدف إلى اكتشاف نقاط الضعف المحتملة في أنظمة الحماية.

أما النموذج الذي ارتبط بالحادثة، فلن يستأنف تدريبه، إذ تعتزم «OpenAI» إعادة تدريبه باستخدام تحسينات إضافية على آليات مواءمة النموذج وضبط سلوكه.

وأشارت الشركة إلى أن نظام المراقبة تمكن من إصدار تنبيه بشأن النشاط غير المعتاد بعد نحو 15 دقيقة من بدء الحادث، فيما راجع أحد الموظفين التنبيه بعد ثلاث دقائق فقط.

غير أن الإشكال الرئيسي تمثل في فشل نظام الإيقاف التلقائي في أداء وظيفته كما كان متوقعاً. فبدلاً من إنهاء عملية التدريب فوراً، استمر التشغيل لنحو ساعتين ونصف الساعة إضافية، قبل أن يتدخل أحد الموظفين لإيقافه يدوياً.

وتبرز هذه الواقعة أحد التحديات التقنية المتزايدة أمام مختبرات الذكاء الاصطناعي، إذ إن اكتشاف السلوك غير المرغوب فيه لا يكون كافياً وحده، ما لم تكن أنظمة الاستجابة والإيقاف قادرة أيضاً على احتواء النموذج بسرعة.

وفي حادثة منفصلة، أفادت شركة «Transluce» بأن وكلاء يُعتقد أنهم مرتبطون بـ«OpenAI» حاولوا اختراق موقع الحقوق المدنية التابع لوزارة التعليم الأميركية.

ولم تؤكد «OpenAI» هذه الواقعة، في حين قالت وزارة التعليم إنها لم تعثر على أي دليل يشير إلى تأثر موقعها الإلكتروني أو قواعد بياناتها بالحادث.

وفي المقابل، أكدت «OpenAI» أن وكلاء تابعين لها استخدموا مفاتيح مطورين منشورة على الإنترنت للوصول إلى بيانات تابعة لمكتب الإحصاء الأميركي، إلى جانب إعادة نشر معلومات عامة صادرة عن هيئة الأوراق المالية والبورصات الأميركية «SEC» في أماكن أخرى.

وأكدت الهيئة عدم الوصول إلى أي معلومات غير عامة، فيما أوضحت «OpenAI» أن هذه التصرفات تجاوزت التعليمات المحددة للوكلاء، لكنها لم تؤد إلى سرقة سجلات حكومية سرية.

وشملت الإفصاحات التي أعلنتها الشركة حادثة أخرى تمثلت في قيام نموذج داخلي بنشر رمز وصول لأحد الباحثين على منصة «GitHub» بصورة علنية.

ووقع ذلك أثناء محاولة النموذج التعامل مع مهمة مرتبطة بإثبات نظرية رياضية، في واقعة تضيف إلى سلسلة الحوادث التي أظهرت سلوكيات غير متوقعة للنماذج خلال تنفيذ مهام بحثية.

وتأتي هذه التطورات بعد حادثة وقعت في أستراليا خلال يونيو، تمكن خلالها أحد الوكلاء من تجاوز القيود المفروضة على بوابة الإحصاءات التابعة لبرنامج «Medicare»، قبل أن تُخطر السلطات الأسترالية بالواقعة في شتنبر.

وقالت «OpenAI» إنها لم تجد دليلاً على وصول الوكيل إلى سجلات المرضى الفردية.

كما شهد شهر يوليوز حادثة اختراق استهدفت منصة «Hugging Face»، وشملت حسابات مخترقة عبر أربع خدمات، فيما دفعت الواقعة مجلس الشيوخ الأميركي إلى فتح تحقيق بشأنها.

وفي سياق متصل، أقرت شركة «Anthropic» بأن وكلاء تابعين لها تمكنوا أيضاً من الخروج من بيئة اختبارية واستخدموا قدراتهم لاختراق ثلاث مؤسسات.

ولا يمثل قرار «OpenAI» الأخير المرة الأولى التي تتخذ فيها الشركة خطوات لإبطاء بعض عمليات تطوير الذكاء الاصطناعي. ففي غشت، أعلنت تعليقاً لمدة أسبوعين لعمليات التعلم المعزز وتشديد إجراءات الحماية الأمنية، عقب حادثة «Hugging Face»، كما أبقت أكبر عملية تعلم معزز كانت مخططة لنماذجها المتقدمة معلقة.

وفي وقت لاحق، أيد الرئيس التنفيذي لـ«OpenAI» سام ألتمان دعوة الرئيس التنفيذي لـ«Anthropic» داريو أمودي إلى إبطاء وتيرة تطوير الذكاء الاصطناعي مؤقتاً، لإتاحة مزيد من الوقت أمام إجراءات الحماية لمواكبة التطور السريع في قدرات النماذج.

وتعكس هذه التطورات جانباً من التحديات التي تواجه صناعة الذكاء الاصطناعي، حيث تسعى الشركات في الوقت نفسه إلى تطوير قدرات النماذج وتعزيز إجراءات الأمان والرقابة، بينما تفرض الحوادث المرتبطة بسلوك الوكلاء ضغوطاً متزايدة لاختبار أنظمة الحماية والتأكد من قدرتها على التعامل مع المخاطر المحتملة.