الذكاء الاصطناعي الوكيلي يفتح جبهة جديدة في الأمن السيبراني

لم يعد الذكاء الاصطناعي الحديث يقتصر على كتابة النصوص أو تلخيص المعلومات. الجيل الجديد من الأنظمة الوكيلة يستطيع تنفيذ سلسلة من المهام، واستدعاء الأدوات، والتعامل مع التطبيقات والبيانات، ومتابعة هدف محدد بدرجة أكبر من الاستقلالية. هذا التحول يفتح فرصاً كبيرة للشركات، لكنه في الوقت نفسه يفرض سؤالاً أكثر إلحاحاً على الأمن السيبراني: كيف نحمي نظاماً يستطيع أن يتصرف، وليس فقط أن يقترح؟

خلال الأسابيع الأخيرة، تكثفت الدراسات والتقارير التي تتناول ما يسمى Agentic AI، مع ارتفاع الاهتمام بالمخاطر المرتبطة بالصلاحيات والوصول إلى البيانات. وتنبع المشكلة من أن الوكيل قد يحصل على إذن حقيقي للوصول إلى نظام معين، لكنه يستخدم هذه الصلاحية بطريقة تتجاوز الهدف الذي قصده المستخدم.

من يملك الصلاحية؟

في التطبيقات التقليدية، يعرف المسؤولون عادة من يملك حق الوصول إلى قاعدة بيانات أو برنامج معين. لكن عندما يصبح هناك عشرات الوكلاء داخل المؤسسة، لكل واحد منهم أدوات وصلاحيات وسياقات مختلفة، تصبح مراقبة هذه الطبقة الجديدة أكثر تعقيداً.

المشكلة ليست في وجود وكيل واحد فقط، بل في التوسع السريع. بعض المؤسسات قد تستخدم أدوات مدمجة داخل البرامج، بينما يطور الموظفون أدوات أخرى لتسريع أعمالهم. وإذا لم تكن هذه الأنظمة مسجلة ومراقبة، يمكن أن تنشأ ما يشبه «الذكاء الاصطناعي الظلّي»، أي أنظمة تعمل داخل المؤسسة من دون حوكمة واضحة.

الهجوم لم يعد يحتاج إلى الطريقة القديمة

الذكاء الاصطناعي يمكن أن يساعد فرق الدفاع على تحليل كميات كبيرة من البيانات واكتشاف أنماط غير طبيعية بسرعة، لكنه يستطيع أيضاً تقليل الوقت اللازم لبعض مراحل الهجوم عندما يقع في أيدي جهات خبيثة. وهذا يغيّر ميزان السرعة في المجال السيبراني.

لهذا تركز الأدبيات الجديدة على ضرورة مراقبة ما يفعله الوكيل فعلياً، وليس فقط فحص الطلب الذي تلقاه. فالمشكلة قد لا تكون في الأمر الأول، وإنما في سلسلة القرارات التي تتبع ذلك الأمر أثناء تنفيذ المهمة.

المبدأ الأهم: أقل قدر ممكن من الصلاحيات

أحد أكثر المبادئ وضوحاً في هذا النقاش هو عدم منح الأنظمة الوكيلة صلاحيات أوسع من حاجتها. إذا كان الوكيل مكلفاً بقراءة ملف وإعداد تقرير، فلا يحتاج إلى صلاحية حذف البيانات أو تعديل الحسابات المالية أو الوصول إلى معلومات حساسة أخرى.

وهنا يعود الأمن السيبراني إلى قاعدة قديمة لكنها تصبح أكثر أهمية مع الذكاء الاصطناعي: أقل قدر ممكن من الصلاحيات، مع تسجيل كل خطوة وإمكانية إيقاف الوكيل بسرعة إذا خرج عن المسار المتوقع.

المؤسسات المغربية ليست بعيدة عن السؤال

حتى عندما تكون القضية عالمية، فإنها تمس الشركات والإدارات المغربية التي بدأت بدورها في استخدام أدوات الذكاء الاصطناعي في خدمة العملاء والتحليل والبرمجة ومعالجة الوثائق. وكلما توسع الاستخدام، يصبح من الضروري إدخال الأمن والحوكمة في التصميم منذ البداية، بدل انتظار حادث أمني ثم البحث عن طريقة لمعالجته.

وتتقاطع هذه المسألة مع النقاش الأوسع حول حماية البيانات عند استخدام الذكاء الاصطناعي، وهو ملف سبق لوَصل أن خصص له مادة حول المعلومات التي لا ينبغي مشاركتها مع روبوتات المحادثة.

المعادلة الجديدة

المرحلة المقبلة لن تكون «ذكاء اصطناعياً أم لا»، بل كيف نسمح لهذه الأنظمة بالعمل من دون تحويلها إلى نقطة ضعف. المؤسسة التي تمنح الوكيل حرية كاملة قد تحصل على سرعة أكبر، لكنها ترفع في المقابل تكلفة الخطأ. أما المؤسسة التي تحصر الصلاحيات وتراقب السلوك وتحتفظ بإمكانية التدخل البشري، فتمنح نفسها مساحة أمان أكبر.

وهكذا يتضح أن تطور الذكاء الاصطناعي لا يضيف فقط أدوات جديدة إلى عالم التكنولوجيا، بل يفرض أيضاً إعادة التفكير في أساسيات الأمن الرقمي: من يملك حق الوصول، ماذا يستطيع أن يفعل، وكيف يمكن إيقافه عندما لا يسير كما ينبغي.

إقرأ أيضاً:

اظهر المزيد

مقالات ذات صلة

زر الذهاب إلى الأعلى