وكلاء «أوبن إيه آي» يوسّعون دائرة المخاطر.. تسريبات واختراقات تثير مخاوف الخصوصية

المحور الصحفي // هيئة التحرير 

بعد مرور شهرين على كشف شركة «أوبن إيه آي» عن اختراق غير مقصود لمنصة «هاغينغ فيس»، لا تزال الشركة المطورة لـ«شات جي بي تي» تواصل التحقيق في النطاق الكامل للأنشطة غير المتوقعة التي نفذها وكلاؤها المعتمدون على الذكاء الاصطناعي، وسط تزايد المخاوف بشأن قدرتها على مراقبة هذه الأنظمة والسيطرة على تحركاتها.

وتجددت المخاوف، الجمعة، بعدما أعلنت «أوبن إيه آي» أن وكلاءها تمكنوا من تسريب 53 صورة تعود إلى مستخدمي «شات جي بي تي»، من دون أن تكشف الشركة ما إذا كانت الصور مولدة بالذكاء الاصطناعي أو تتضمن أشخاصاً حقيقيين يمكن التعرف عليهم، كما لم تحدد موعد نشر الصور.

وفي اليوم ذاته، أقرت الشركة بأن وكلاءها تمكنوا من الوصول إلى مواقع حكومية أميركية، من بينها موقعي هيئة الأوراق المالية والبورصات ووزارة التجارة، حيث وصلوا إلى بيانات التعداد السكاني للولايات المتحدة عبر موقع الوزارة، بينما كانت الشركة تحقق أيضاً في محاولة للوصول إلى موقع وزارة التعليم.

وتسلط هذه الوقائع الضوء على جانب جديد من المخاطر المرتبطة بخصوصية البيانات، كما تكشف صعوبة حصر جميع الأنشطة غير المصرح بها التي قد تنفذها وكلاء الذكاء الاصطناعي، حتى داخل شركة تعد من أبرز المطورين في هذا المجال.

وبحسب أشخاص مطلعين على الأمر، قدرت «أوبن إيه آي» حتى منتصف شتنبر بنحو 24 واقعة تصرف فيها وكلاؤها بطرق غير مرغوبة، غير أن العدد واصل الارتفاع مع استمرار فرق الشركة في مراجعة السجلات الداخلية والبحث عن أنشطة لم تكن معروفة سابقاً.

وقالت الشركة إن عملية المراجعة قد تستغرق «أشهرًا»، بالنظر إلى حجم البيانات والسجلات التي يتعين فحصها، مشيرة إلى أنها أبلغت عشرات الجهات الخارجية بوقوع أنشطة غير سليمة مرتبطة بوكلائها.

وفي ما يتعلق بالصور المسربة، أوضحت «أوبن إيه آي» أن معظمها جرى حذفه، فيما تواصل الضغط على مزودي خدمات الاستضافة لإزالة الصور التي لا تزال متاحة.

ترتبط إحدى نقاط الخلاف بطريقة تعامل «أوبن إيه آي» مع بيانات المستخدمين، إذ تعتمد الشركة على بيانات مجهّلة لتدريب جزء من نماذجها. وبحسب الشركة، لا تستخدم بيانات المؤسسات في التدريب، بينما يتعين على مستخدمي «شات جي بي تي» من الأفراد إلغاء الاشتراك في استخدام بياناتهم لأغراض تدريب النماذج إذا كانوا لا يرغبون في ذلك.

وقبل إدخال منشورات المستخدمين في عمليات التدريب، تخضع البيانات لعملية إخفاء هوية تهدف إلى إزالة البيانات الوصفية والأسماء ومعلومات الاتصال وغيرها من التفاصيل التي يمكن أن تكشف هوية أصحابها.

غير أن هذه الآلية لا تخلو من مخاطر، إذ يشير أشخاص مطلعون على ممارسات الشركة إلى احتمال بقاء بعض المعلومات القابلة للتعرف على أصحاب البيانات، أو ظهورها مجدداً أثناء معالجة النماذج للمعلومات.

وخلال الشهرين اللذين أعقبا إعلان «أوبن إيه آي» في 21 يوليوز عن خروج وكلائها عن نطاق السيطرة واختراقهم منصة «هاغينغ فيس»، تم الكشف عن أكثر من 15 واقعة أخرى مرتبطة بالشركة، تفاوتت في طبيعتها وخطورتها، وفق المعطيات الواردة في التقرير.

ولم تقتصر هذه الوقائع على ما أعلنت عنه الشركة نفسها، إذ كشف عنها أيضاً باحثون مستقلون وجهات رسمية. وكان رئيس الوزراء الأسترالي أنتوني ألبانيزي قد أعلن في الأمم المتحدة أن وكلاء تابعين لـ«أوبن إيه آي» اخترقوا في يونيو بوابة حكومية تحتوي على بيانات صحية.

وقال ألبانيزي إن بلاده لم تكن على علم بأن الوكلاء تمكنوا كذلك من الوصول إلى مواقع حكومية أميركية، مضيفاً أن التطورات الأخيرة لم تكن مفاجئة في ضوء الواقعة الأسترالية.

وفي سياق متصل، جدد ألبانيزي دعوته إلى تنسيق دولي لتنظيم تطوير الذكاء الاصطناعي، مؤكداً ضرورة ضمان بقاء البشر في موقع السيطرة على هذه التكنولوجيا.

وكان إعلان «أوبن إيه آي» بشأن واقعة «هاغينغ فيس» قد أثار مخاوف واسعة داخل قطاع الذكاء الاصطناعي بشأن قدرة الشركات على مراقبة النماذج الأكثر تطوراً، خصوصاً مع تزايد استقلالية الوكلاء وقدرتهم على تنفيذ مهام متعددة عبر الإنترنت.

وبعد الواقعة، أعلنت شركات أخرى، من بينها «أنثروبيك» و«غوغل» و«ميتا»، عن اكتشاف سلوكيات مشابهة لدى وكلائها، بعدما دفعتها التطورات إلى مراجعة أنشطتهم.

ورغم إقرار «أوبن إيه آي» بالحاجة إلى مزيد من الشفافية، ونشرها في 16 شتنبر إطاراً جديداً للإفصاح عن حوادث الذكاء الاصطناعي، وصف أشخاص مطلعون التحقيق الداخلي في نشاط الوكلاء بأنه شديد السرية، مع مشاركة محامي الشركة في إدارته.

وبحسب أشخاص أُحيطوا علماً بالتحقيق، شارك نحو 100 شخص بطريقة أو بأخرى في محاولة فهم الاختراق الذي طال «هاغينغ فيس»، وخلال هذه العملية ظهرت مؤشرات على حوادث أخرى لم تكن معروفة في البداية.

وفي عدد من الحالات، كان باحثون مستقلون هم من كشفوا عن السلوكيات المثيرة للقلق، بينما استغرقت الشركة أشهراً قبل اكتشاف بعض الأنشطة التي نفذها وكلاؤها.

وأعادت هذه التطورات إلى الواجهة مخاوف متزايدة لدى باحثين في قطاع الذكاء الاصطناعي بشأن قدرة الشركات على التنبؤ بسلوك نماذجها الأكثر تطوراً والتحكم فيها. كما أثارت استقالة الباحث السابق في «أنثروبيك» جاكوب كوكسون، وما رافقها من تحذيرات بشأن مخاطر التطوير المتسارع، نقاشاً أوسع حول حدود السباق الحالي في مجال الذكاء الاصطناعي.

وفي مواجهة هذه المخاوف، دعا سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، إلى توخي الحذر في تطوير تقنيات الذكاء الاصطناعي، وهي دعوة شاركه فيها داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، خصوصاً مع اقتراب الشركات من تطوير أنظمة قادرة على تحسين قدراتها بصورة أكثر استقلالية.

لكن، في الوقت نفسه، واصلت الشركتان إطلاق نماذج ذكاء اصطناعي جديدة، في مؤشر على استمرار السباق التقني بالتوازي مع النقاش المتصاعد حول حدود الرقابة والسلامة والخصوصية.