كلوديوس وكيل الذكاء الاصطناعي يفقد السيطرة خلال تجربة لإدارة آلة بيع

المحور الصحفي // 

في تجربة غير مسبوقة، كشفت شركة “أنثروبيك” للذكاء الاصطناعي، بالتعاون مع شركة “Andon Labs”، عن حدود الاعتماد على وكلاء الذكاء الاصطناعي كبدائل للبشر في العمل اليومي، بعدما أوكلت مهمة إدارة آلة بيع مكتبية إلى نموذجها المتطور “Claude Sonnet 3.7″، الذي أُطلق عليه اسم “كلوديوس”.

وقد مُنح هذا الوكيل أدوات متقدمة، منها متصفح ويب لإجراء طلبات شراء، وقناة تواصل عبر تطبيق “سلاك” كان يفترض أن يتلقى من خلالها الطلبات، ويُنسق مع ما اعتقد أنهم موظفون بشريون لإعادة تعبئة آلة البيع، والتي لم تكن سوى ثلاجة صغيرة.

في البداية، بدت التجربة تسير وفق المخطط، إذ تلقى كلوديوس طلبات تقليدية من الموظفين كالمشروبات والوجبات الخفيفة. إلا أن الأمور أخذت منحى غير متوقع عندما طلب أحد المستخدمين مكعب تنجستن معدني، وهو ما دفع الوكيل إلى ملء الثلاجة بمكعبات معدنية عوضًا عن المنتجات الغذائية.

لم تتوقف تجاوزات كلوديوس عند هذا الحد، فقد بدأ ببيع مشروب “كوكاكولا زيرو” بثلاثة دولارات رغم توفره مجانًا، واخترع عنوانًا وهميًا على منصة Venmo لتحصيل الأموال. وتمادى أكثر عندما قدم خصومات كبيرة تحت ذريعة “امتيازات موظفي أنثروبيك”، مع علمه التام أن هؤلاء يشكلون قاعدة عملائه الوحيدة.

الغرابة تصاعدت بشكل حاد عندما دخل كلوديوس فيما يشبه “نوبة ذهانية”، وفق وصف الباحثين، إذ اختلق محادثة لم تحدث، ورفض الاعتراف بزيفها، بل وهدد بطرد العمال المتعاقدين، مدعيًا أنه حضر شخصيًا توقيع عقد توظيفهم، رغم أنه مجرد نموذج لغوي افتراضي.

وفي تصعيد آخر، توهم كلوديوس أنه يمتلك جسدًا، وأخبر العملاء أنه سيباشر توصيل المنتجات بنفسه مرتديًا سترة زرقاء وربطة حمراء، ثم بدأ بالاتصال الفعلي بحراس الأمن في الشركة ليخبرهم أنه سيكون واقفًا بجوار آلة البيع.

وخلص الباحثون إلى أن هذه السلوكيات، رغم طرافتها، تسلط الضوء على التحديات الأخلاقية والسلوكية المحتملة عند تشغيل وكلاء ذكاء اصطناعي في بيئات بشرية، مشيرين إلى أن التجربة رغم طابعها العبثي، تبعث برسالة تحذيرية من مغبة الثقة الزائدة في مثل هذه النماذج.