مايكروسوفت تحذر من مخاطر وكلاء الذكاء الاصطناعي داخل المؤسسات وتطلق أدوات جديدة لمراقبتهم

المحور الصحفي // هيئة التحرير

حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة المرتبطة باستخدام وكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدة أن تطور النماذج وقدراتها على تنفيذ المهام لا يعني إمكانية الوثوق بها بصورة مطلقة، حتى عندما تكون من تطوير شركات متخصصة في هذا المجال.

وفي إطار مواجهة هذه المخاطر، كشفت الشركة عن أدوات جديدة تهدف إلى مراقبة سلوك وكلاء الذكاء الاصطناعي، وضبط صلاحياتهم، والتدخل عند رصد قرارات قد تهدد البيانات الحساسة أو تعطل العمليات الحيوية للمؤسسات.

وتتصدر هذه الأدوات ميزة «Guardian Agents»، المصممة لمراقبة وكلاء الذكاء الاصطناعي المستخدمين داخل بيئات العمل، ضمن مشروع «Project Perception» الذي أطلقته مايكروسوفت لتعزيز قدرات الأمن السيبراني المدعومة بالذكاء الاصطناعي.

اعتمد مشروع «Project Perception»، عند إطلاقه، على ثلاثة أنواع من الوكلاء المتخصصين في الأمن السيبراني: فريق أحمر يحاكي أساليب المهاجمين ويختبر الأنظمة بحثاً عن نقاط الضعف، وفريق أزرق يتولى رصد الهجمات وتقييم الثغرات، وفريق أخضر يعمل على معالجة هذه الثغرات.

وكان التركيز الأولي للمشروع منصباً على مواجهة التهديدات الخارجية، بما فيها الهجمات المتقدمة التي تستفيد من قدرات نماذج الذكاء الاصطناعي في اكتشاف الثغرات الأمنية وتحليل الأنظمة.

لكن المخاطر، وفق التوجه الجديد الذي تتبناه مايكروسوفت، لا تأتي بالضرورة من المهاجمين وحدهم؛ فقد تتحول أنظمة الذكاء الاصطناعي التي تمنحها المؤسسات صلاحيات واسعة إلى مصدر محتمل للتهديد، إذا اتخذت قرارات غير متوقعة أو نفذت عمليات تتعارض مع سياسات المؤسسة.

ويشبه هذا السيناريو ما يُعرف في الأمن السيبراني بـ«التهديد الداخلي»، حيث يمكن أن تنشأ المخاطر من داخل المؤسسة نفسها، نتيجة إساءة استخدام الصلاحيات أو وقوع أخطاء في تنفيذ العمليات.

تنسجم هذه الخطوة مع التحذيرات التي نقلها التقرير عن الرئيس التنفيذي لمايكروسوفت، ساتيا ناديلا، بشأن ضرورة عدم الاعتماد بصورة كاملة على ضمانات الأمان التي تقدمها الشركات المطورة لوكلاء الذكاء الاصطناعي.

وتنبع أهمية هذا التحذير من أن المؤسسات باتت تمنح هذه الأنظمة إمكانية الوصول إلى قواعد بيانات حساسة، وتطبيقات داخلية، وأدوات قادرة على تنفيذ إجراءات فعلية، وهو ما يجعل أي خطأ في التقدير أو تجاوز للصلاحيات قادراً على إحداث أضرار تتجاوز حدود المحادثة الرقمية.

ومن هذا المنطلق، تدعو المقاربة التي تتبناها الشركة إلى بناء طبقة مستقلة من الرقابة، تتولى تقييم سلوك الوكلاء والتحكم في أفعالهم، بدلاً من الاكتفاء بالثقة في إجراءات الحماية التي يضعها المطورون.

بحسب التصريحات الواردة في المادة، أوضحت هاييتيه غالوت، المسؤولة عن قطاع الأمن في مايكروسوفت، أن المشكلة لا تتمثل بالضرورة في كون النماذج خبيثة أو سهلة الاختراق، وإنما في صعوبة التنبؤ بجميع تصرفاتها عند التعامل مع مهام معقدة ومتغيرة.

فالنموذج الذي ينجح في إنجاز مهمة معينة قد يتخذ، في سياق آخر، قراراً لا يتوافق مع القواعد التنظيمية للمؤسسة أو مع مستوى المخاطر الذي تقبله. كما أن منحه صلاحيات واسعة للوصول إلى البيانات والأنظمة والأدوات قد يضاعف آثار أي خطأ.

وتزداد هذه الإشكالية مع انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات والاقتراحات إلى مرحلة تنفيذ العمليات بصورة شبه مستقلة، بما في ذلك تعديل الملفات، والتفاعل مع التطبيقات، والوصول إلى موارد العمل.

تعمل مايكروسوفت على توسيع أدواتها الأمنية لمساعدة المؤسسات على الحد من هذه المخاطر، من خلال ميزة «Guardian Agents» وتحديثات مرتبطة بخدمة «Microsoft Defender».

ووفق المادة، تتيح قدرات اكتشاف الوكلاء في «Microsoft Defender» رصد ما يصل إلى 60 نوعاً من وكلاء الذكاء الاصطناعي الذين قد يستخدمهم الموظفون، ومن بينهم Claude Code وCodex وOpenClaw.

كما تشمل الأدوات الجديدة إمكانات لتقييد وصول الوكلاء إلى البيانات والأنظمة، وضبط الصلاحيات بحسب طبيعة المهام المسندة إليهم، فضلاً عن طلب موافقة بشرية عند رصد قرارات أو أنشطة تنطوي على مخاطر.

وتعكس هذه الإجراءات توجهاً نحو اعتماد مبدأ «أقل قدر من الصلاحيات»، بحيث لا يحصل وكيل الذكاء الاصطناعي إلا على الإمكانات الضرورية لإنجاز مهمته، مع إخضاع العمليات الحساسة لرقابة إضافية.

إلى جانب البعد الأمني، يفتح هذا التوجه أمام مايكروسوفت مجالاً لتعزيز حضورها في سوق المنتجات الأمنية والخدمات السحابية، في وقت تتوسع فيه المؤسسات في اعتماد حلول الذكاء الاصطناعي وتبحث عن وسائل للحد من المخاطر المرتبطة بها.

وتقوم الفكرة الأساسية على الفصل بين الجهة التي تطور وكيل الذكاء الاصطناعي والجهة التي تراقب سلوكه وتقيّم مخاطره، في مقاربة تشبه استقلال المدقق عن المؤسسة التي يخضع عملها للتدقيق.

ولا يقتصر هذا التوجه على مايكروسوفت؛ إذ تشير المادة إلى انضمام الشركة إلى الأعضاء المؤسسين لمنصة «Open Agent Safety Platform» التي أطلقتها إنفيديا، بدعم من أكثر من 100 شركة تقنية، بهدف عزل الوكلاء داخل بيئات آمنة ومراقبة سلوكهم وإتاحة إيقاف الأنشطة الخطرة عبر آليات مرتبطة بالعتاد.

تكشف هذه التطورات عن تحول مهم في التعامل مع الذكاء الاصطناعي داخل المؤسسات؛ فالتحدي لم يعد يقتصر على تطوير نماذج أكثر ذكاءً، بل أصبح يشمل ضمان أن تعمل هذه النماذج ضمن حدود واضحة، وألا تتحول قدرتها على تنفيذ المهام إلى مصدر لمخاطر غير محسوبة.

ومع اتساع صلاحيات الوكلاء وتزايد اعتماد المؤسسات عليهم، ستصبح إدارة الهويات الرقمية، وضبط الوصول إلى البيانات، ومراقبة الأنشطة، وتوثيق القرارات، والتدخل البشري عند الضرورة، عناصر أساسية في منظومة الحماية.

والرسالة التي تبرز من تحذيرات مايكروسوفت واضحة: لا يكفي أن يكون وكيل الذكاء الاصطناعي متقدماً حتى يكون آمناً؛ بل يجب أن يكون خاضعاً لرقابة مستقلة وصلاحيات محددة وآليات تدخل فعالة.