دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك المتخصصة في تطوير الذكاء الاصطناعي، إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة، مع تعزيز آليات الرقابة والسيطرة على مسار هذه التكنولوجيا، محذراً من أن التسارع الحالي قد يسبق قدرة الحكومات والشركات والمجتمع على التعامل مع مخاطره.
وفي مقال نشره أمودي، اقترح اعتماد مجموعة من الإجراءات للتعامل مع المخاطر المتزايدة، من بينها تعزيز التقييمات المستقلة داخل الشركات، ووضع معايير سلامة مشتركة بين المختبرات الرائدة، إلى جانب تطوير آليات للتعاون الدولي في إدارة أخطار الذكاء الاصطناعي المتقدم.
ولا تعني دعوة أمودي، وفق الطرح الذي قدمه، وقف تطوير الذكاء الاصطناعي بشكل نهائي، وإنما إتاحة مزيد من الوقت أمام الأبحاث المتعلقة بالسلامة والحوكمة للتطور بالتوازي مع ارتفاع قدرات النماذج.
مخاوف من سباق يصعب التحكم فيه
وتأتي هذه الدعوة في وقت تتزايد فيه التحذيرات داخل قطاع الذكاء الاصطناعي نفسه من أن المنافسة الشديدة بين أكبر الشركات قد تدفع نحو إطلاق نماذج أكثر قدرة واستقلالية قبل التأكد من وجود آليات كافية للسيطرة عليها.
وأثارت التطورات الأخيرة نقاشاً متصاعداً بشأن قدرة النماذج الحديثة على تنفيذ مهام معقدة بدرجة أكبر من الاستقلالية، إلى جانب المخاطر المرتبطة بإساءة استخدامها في مجالات مثل الاختراق الإلكتروني والاستهداف الاستخباراتي وتطوير تقنيات عسكرية.
وفي هذا السياق، نشرت أنثروبيك نفسها أبحاثاً حديثة خلصت إلى أن نماذج الذكاء الاصطناعي باتت قادرة على أداء بعض المهام في مجالات الاستخبارات والتسليح التقليدي كانت تتطلب في السابق خبرات بشرية متخصصة ونادرة، محذرة من إمكانية إساءة استخدام هذه القدرات.
استقالة باحثين وتحذيرات من المخاطر الوجودية
وتزامنت هذه الدعوات مع تحذيرات علنية من باحثين سابقين وحاليين في شركات الذكاء الاصطناعي الكبرى.
وكان الباحث جاكوب كوكسون من بين الأصوات التي أثارت القلق بشأن الاتجاه الذي تسلكه الصناعة، محذراً من أن تطوير أنظمة أكثر استقلالية وقدرة على التصرف قد يؤدي إلى مخاطر يصعب احتواؤها إذا سبقت القدرات التقنية آليات السلامة والرقابة.
كما حذر باحثون آخرون من احتمال أن تصبح أنظمة الذكاء الاصطناعي أكثر قدرة على تنفيذ عمليات معقدة من دون تدخل بشري مباشر، بما في ذلك تنفيذ مهام سيبرانية أو الوصول إلى موارد ومعلومات بطريقة قد يصعب على المشغلين مراقبتها.
وتشير هذه التحذيرات إلى خلاف أوسع داخل القطاع نفسه حول السرعة المناسبة لتطوير ما يعرف بأنظمة الذكاء الاصطناعي المتقدمة، بين من يرى أن المنافسة الدولية تفرض تسريع الابتكار، ومن يعتقد أن التريث أصبح ضرورياً لتجنب أخطار غير قابلة للعكس.
أنثروبيك نفسها تراقب خطر «التطور الذاتي»
المفارقة أن أنثروبيك تدرس بنفسها ما قد يحدث إذا أصبحت أنظمة الذكاء الاصطناعي قادرة على المشاركة بصورة متزايدة في تطوير أجيال لاحقة من الذكاء الاصطناعي.
وتقول الشركة إن الذكاء الاصطناعي يشارك بالفعل في جزء كبير من العمل البرمجي داخلها، وإن التوجه نحو إعطاء الأنظمة مهام أكثر تعقيداً واستقلالية يمكن أن يسرّع تطوير النماذج نفسها. كما تشير إلى احتمال ظهور ما يعرف بـالتحسين الذاتي التكراري، حيث يساهم النظام في تصميم وتطوير خليفته. لكنها تؤكد في الوقت نفسه أن الوصول إلى هذه المرحلة ليس أمراً واقعاً حتى الآن، ولا يمثل مساراً حتمياً.
وترى الشركة أن امتلاك العالم خيار إبطاء أو تعليق مؤقت لتطوير أنظمة الذكاء الاصطناعي المتقدمة قد يكون مفيداً إذا توفرت آليات موثوقة للتنسيق والتحقق بين الشركات والدول، لأن توقف جهة واحدة بينما يواصل الآخرون السباق قد يؤدي ببساطة إلى انتقال الأفضلية إلى الطرف الأقل حذراً.
خطر الذكاء الاصطناعي يتجاوز المختبرات
ولا تقتصر المخاوف على سيناريوهات «الذكاء الاصطناعي الخارق» أو فقدان السيطرة الكامل على الآلات، بل تشمل مخاطر أكثر آنية، مثل استخدامها في الهجمات الإلكترونية، أو تطوير أسلحة، أو التلاعب بالمعلومات، أو تنفيذ عمليات معقدة على نطاق واسع.
وأظهرت اختبارات حديثة أجرتها أنثروبيك أن بعض النماذج باتت تتمتع بقدرات مثيرة للقلق في مجالات تتعلق بتحديد الأهداف والاستخبارات وتطوير الأسلحة التقليدية، ما دفع الشركة إلى التأكيد على ضرورة وجود إجراءات حماية داخل المنصات التي تقدم هذه الخدمات.
دعوات متزايدة لتنظيم القطاع
وتتزامن هذه المخاوف مع تصاعد الضغوط من أجل وضع قواعد أكثر صرامة لتنظيم صناعة الذكاء الاصطناعي، خصوصاً مع تسارع قدرات النماذج وتزايد الاستثمارات والمنافسة بين الشركات الأميركية والصينية.
ويرى أمودي أن التعامل مع هذه المخاطر يحتاج إلى تنسيق يتجاوز حدود الشركات والدول، لأن أي تباطؤ أحادي الجانب قد لا يكون فعالاً إذا واصلت الشركات أو الدول الأخرى تطوير قدراتها بوتيرة أسرع.
وفي الولايات المتحدة، بدأت التحذيرات الصادرة عن باحثين داخل القطاع تنعكس أيضاً على النقاش السياسي، مع دعوات من مشرعين في الحزبين الجمهوري والديمقراطي إلى تعزيز الرقابة ووضع قواعد لتقييم مخاطر الأنظمة المتقدمة قبل نشرها على نطاق واسع.
بين سباق التكنولوجيا والحاجة إلى الحذر
ويضع هذا الجدل صناعة الذكاء الاصطناعي أمام معادلة صعبة: كيف يمكن مواصلة تطوير تقنية قد تحقق مكاسب علمية واقتصادية هائلة، من دون السماح للسباق التجاري والجيوسياسي بأن يتجاوز قدرة البشر على مراقبة نتائجها؟
ومن الواضح أن النقاش لم يعد يقتصر على منتقدي التكنولوجيا، بل أصبح جزءاً من الخطاب الصادر عن بعض أبرز الشركات والباحثين العاملين في قلب الصناعة نفسها.
ومع استمرار ارتفاع قدرات النماذج، يبدو أن السؤال الأكثر إلحاحاً لم يعد فقط إلى أي مدى يمكن تطوير الذكاء الاصطناعي؟، وإنما أيضاً ما السرعة التي يمكن للمجتمع أن يتحملها بأمان؟
