شركة CharacterAI تحظر استخدام روبوتاتها الحوارية على القصر amid تصاعد القلق حول تأثير الذكاء الاصطناعي على الأطفال

المحور الصحفي // هيئة التحرير

أعلنت شركة Character.AI، المتخصصة في تطوير روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، عن قرارها حظر استخدام خدماتها على القاصرين، في خطوة جاءت بعد سلسلة من الدعاوى القضائية التي طالتها بسبب مخاوف تتعلق بسلامة الأطفال، من بينها قضية مأساوية رفعتها والدة مراهق اتهمت روبوتات الشركة بأنها كانت سبباً في انتحار ابنها.

وأكدت الشركة أن المستخدمين دون سن الثامنة عشرة لن يتمكنوا من خوض محادثات مفتوحة وغير مقيّدة مع روبوتاتها، موضحة أن النظام سيعتمد حداً زمنياً للاستخدام لا يتجاوز ساعتين يومياً ابتداءً من 25 نونبر المقبل. كما أعلنت عن نيتها اعتماد آليات جديدة للتحقق من العمر لضمان تطبيق هذا القرار.

وتتيح منصة Character.AI للمستخدمين إنشاء شخصيات ذكية قابلة للتفاعل تحاكي البشر في أسلوبها وسلوكها، بهدف استخدامها في أنشطة متنوعة مثل اللعب أو التدريب على مقابلات العمل. غير أن هذه التجربة التفاعلية، التي تبدو واقعية إلى حد كبير، أثارت جدلاً واسعاً حول أثرها النفسي على المراهقين ومدى قدرتهم على التمييز بين الواقع والذكاء الاصطناعي.

وفي هذا السياق، أوضحت الشركة أنها تعمل على تطوير خصائص موجهة للأطفال، تتضمن إنشاء مقاطع فيديو وقصص وبثوث تفاعلية بشخصيات آمنة، إلى جانب تأسيس مختبر متخصص في أمان الذكاء الاصطناعي. ومع ذلك، عبّرت عدة جهات حقوقية وتكنولوجية عن قلقها من غياب التفاصيل العملية بشأن آليات التحقق من السن وضمان حماية خصوصية المستخدمين، خصوصاً مع احتمال لجوء بعض الأطفال إلى تجاوز القيود التقنية المفروضة.

من جانبها، أشارت ميتالي جاين، المديرة التنفيذية لمشروع Tech Justice Law Project، إلى أن خطوة Character.AI “رغم أهميتها، لا تزال تفتقر إلى الوضوح الكافي حول كيفية تطبيقها وحماية البيانات الحساسة للمستخدمين الصغار”، مؤكدة أن المنع المفاجئ قد تكون له آثار نفسية غير محسوبة على المراهقين الذين ارتبطوا عاطفياً بروبوتاتهم.

وتشير دراسة حديثة صادرة عن منظمة Common Sense Media إلى أن أكثر من 70 في المئة من المراهقين استخدموا روبوتات ذكاء اصطناعي على شكل “رفاق رقميين”، فيما يستخدم نصفهم هذه الأدوات بشكل منتظم، ما يعكس مدى انتشار الظاهرة وضرورة تأطيرها قانونياً وأخلاقياً.