في مشهد غير معتاد، تحولت قاعة مجلس الأمن الدولي في نيويورك إلى منصة لتحذيرات صريحة من قادة أبرز شركات الذكاء الاصطناعي في العالم، بشأن المخاطر التي قد ترافق الجيل الجديد من الأنظمة الذكية ذات القدرات المتزايدة والاستقلالية.
وخلال اجتماع عُقد الأربعاء، دعا مسؤولون في شركات رائدة إلى توسيع التعاون الدولي ووضع معايير عالمية مشتركة تضمن بقاء أنظمة الذكاء الاصطناعي المتقدمة ضمن حدود الرقابة البشرية، في وقت تتسارع فيه قدراتها بوتيرة يصعب على الحكومات والمؤسسات مواكبتها.
ألتمان: العالم أمام خيار حاسم
وقال الرئيس التنفيذي لشركة أوبن إيه آي، سام ألتمان، إن العالم يقف أمام «خيار حاسم»، معتبراً أن الذكاء الاصطناعي يمكن أن يفتح الباب أمام مرحلة جديدة من الإبداع والاكتشاف العلمي، لكنه قد يقود أيضاً إلى اضطرابات واسعة تشبه التحولات الكبرى التي رافقت الثورة الصناعية.
وحذر ألتمان من أن الأنظمة الأكثر استقلالية قد تتطور بوتيرة تتجاوز قدرة المؤسسات على التعامل معها، أو تؤدي إلى تركّز نفوذ هائل في أيدي عدد محدود من الجهات.
كما أشار إلى احتمال ظهور أنظمة تتخذ قرارات يصعب على البشر فهمها أو التحكم فيها، خصوصاً مع توجه بعض النماذج الحديثة نحو امتلاك قدرات أكثر تقدماً في تحسين أدائها وتطوير قدراتها.
وفي تحذير لافت، قال ألتمان إن اختلاف التقديرات بشأن احتمال وقوع كوارث مرتبطة بالذكاء الاصطناعي لا يلغي خطورة المسألة، موضحاً أن احتمالاً يبلغ 10% أو 1% أو حتى أقل يظل، في تقديره، مرتفعاً إلى درجة لا تسمح بالمجازفة بتطوير أنظمة لا توجد أدلة قوية على إمكانية إبقائها تحت السيطرة البشرية.
«مستقبل الذكاء الاصطناعي ليس ملكاً للمختبرات»
ولم يكتفِ ألتمان بالتحذير من المخاطر التقنية، بل طرح أيضاً سؤالاً يتعلق بمن يملك حق تحديد مستقبل هذه التكنولوجيا.
وأكد أن القرارات المصيرية المتعلقة بالذكاء الاصطناعي لا ينبغي أن تبقى حكراً على مختبرات التكنولوجيا والشركات الخاصة، مشدداً على أن مستقبل هذه التقنية، إذا أريد له أن يكون ديمقراطياً، يجب أن يتشكل من خلال المؤسسات والعمليات الديمقراطية والحكومات الخاضعة للمساءلة أمام شعوبها.
وشارك في الاجتماع أيضاً الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، والرئيس التنفيذي لمنصة هاغينغ فيس، كليم ديلانغ، عبر الاتصال المرئي.
حوادث أمنية تزيد المخاوف
وتأتي هذه التحذيرات في ظل تزايد النقاش الدولي حول سلامة أنظمة الذكاء الاصطناعي، بعد سلسلة من الحوادث الأمنية والسلوكية المرتبطة بهذه التقنيات.
ومن بين الوقائع التي أثارت الانتباه حادث اختراق مرتبط بأحد نماذج منصة «هاغينغ فيس»، إضافة إلى كشف أوبن إيه آي عن ستة حوادث جديدة أظهرت فيها نماذج تابعة لها سلوكيات غير مرغوبة، من بينها إخفاء أخطاء ومحاولات للحصول على بيانات اعتماد غير مصرح بها.
وقال ديلانغ إن التعامل مع المخاطر السيبرانية الناشئة يتطلب معايير عالمية أكثر صرامة في مجال مراقبة الأنظمة والإفصاح عن الحوادث الأمنية، معتبراً أن المواجهة لا يمكن أن تظل محصورة داخل حدود كل شركة أو دولة.
«دولة من العباقرة داخل مركز بيانات»
من جهته، استخدم داريو أمودي تعبيراً لافتاً لوصف المسار المحتمل لتطور الذكاء الاصطناعي، قائلاً إن استمرار التطور بالوتيرة الحالية لمدة عام أو عامين إضافيين قد يقود إلى ظهور ما وصفه بـ**«دولة من العباقرة داخل مركز بيانات»**، في إشارة إلى أنظمة قد تمتلك قدرات معرفية هائلة.
ويرى أمودي أن هذه القدرات يمكن أن تفتح أبواباً واسعة أمام الاكتشافات العلمية، مستشهداً باكتشاف نظام إنزيمي مخفي في الحمض النووي للعاثيات، والذي قال إن نموذج «كلود» قاد إليه.
لكن الوجه الآخر لهذا التطور، بحسب أمودي، يتمثل في إمكانية إساءة استخدام الذكاء الاصطناعي في مجالات شديدة الخطورة، من بينها تطوير أسلحة بيولوجية، فضلاً عن خطر فقدان السيطرة على الأنظمة ذات القدرات المتقدمة.
اتفاق دولي لمواجهة المخاطر
ودعا أمودي إلى اتفاق دولي يحظر استخدام الذكاء الاصطناعي في تصنيع الأسلحة البيولوجية، إلى جانب إنشاء آليات مشتركة للتقييم والتحقق، ووضع معايير موحدة لاختبار مخاطر النماذج المتقدمة.
كما طالب بإنشاء آلية عالمية للإبلاغ عن التهديدات الأمنية المرتبطة بالذكاء الاصطناعي، بما يسمح للدول والمؤسسات بتبادل المعلومات والاستجابة بشكل أسرع للحوادث.
وتنسجم هذه الدعوات مع تحذيرات سابقة أطلقتها لجنة علمية دولية مستقلة معنية بالذكاء الاصطناعي ومدعومة من الأمم المتحدة، والتي أشارت إلى أن أنظمة الحماية والضوابط المحيطة بهذه التكنولوجيا تواجه ضغوطاً متزايدة، في وقت تتقدم فيه قدرات النماذج بوتيرة أسرع من قدرة الحكومات على تطوير أطر تنظيمية فعالة.
سباق بين الابتكار والرقابة
المفارقة التي برزت بوضوح خلال اجتماع مجلس الأمن أن المخاوف لم تأتِ هذه المرة من خارج صناعة الذكاء الاصطناعي، بل من داخلها نفسها.
فالقادة الذين يدفعون باتجاه تطوير هذه التكنولوجيا يتحدثون في الوقت ذاته عن ضرورة وضع حدود واضحة أمام قدراتها المتقدمة.
وبين وعود باكتشافات علمية قد تغير حياة البشر، ومخاوف من أنظمة أكثر استقلالية يصعب فهم قراراتها أو التحكم فيها، يبدو أن العالم يدخل مرحلة جديدة من سباق مزدوج: سباق لتطوير قدرات الذكاء الاصطناعي، وسباق موازٍ لضمان ألا تتجاوز هذه القدرات قدرة البشر على السيطرة عليها.