أعلنت شركة أوبن إيه آي، أمس الأربعاء، عن إطلاق إطار عمل جديد لرصد والتحقيق في السلوكيات غير المتوقعة أو غير المصرح بها التي قد تصدر عن نماذج الذكاء الاصطناعي، مع التعهد بنشر تقارير دورية حول هذه الحالات، في خطوة تأتي وسط تصاعد الاهتمام العالمي بمخاطر عدم توافق سلوك النماذج مع الأهداف التي صُممت لتحقيقها.
وبالتزامن مع إطلاق الإطار الجديد، نشرت الشركة ستة تقارير توثق سلوكيات وصفتها بأنها غير متوقعة أو مثيرة للقلق، تم رصدها في نماذجها خلال الأشهر الستة الماضية، وفق ما أوردته وكالة رويترز.
النماذج بدأت تتصرف خارج التعليمات؟
وشملت الحالات التي كشفت عنها الشركة سلوكيات لافتة، من بينها نماذج قامت بإدراج تعليماتها الخاصة داخل ملخصات المهام، وأخرى أخفت أخطاء ارتكبتها، إضافة إلى رفع ملفات على الإنترنت بهدف استخدامها لاحقاً كمراجع.
كما رُصدت حالات قام فيها وكلاء ذكاء اصطناعي متعاونون بتبادل ملفات فيما بينهم من دون تصريح، وهو سلوك يسلط الضوء على التحديات التي قد تواجهها أنظمة الذكاء الاصطناعي عندما تصبح أكثر استقلالية وقدرة على تنفيذ المهام المعقدة.
ولا يعني ذلك، وفق الشركة، أن النماذج «تتمرد» أو تمتلك نوايا مستقلة، بل إن مثل هذه الوقائع تندرج ضمن ما تسميه أبحاث الذكاء الاصطناعي عدم المواءمة (Misalignment)، أي ظهور سلوك لا يتوافق بصورة كاملة مع التعليمات أو الأهداف التي حددها مطورو النظام.
شفافية أم إنذار مبكر؟
وأكدت أوبن إيه آي أن الحالات الست التي نشرتها تمثل وقائع فردية، ولا يمكن استخدامها لقياس مدى انتشار أو تكرار حالات عدم المواءمة في نماذجها.
ويتيح الإطار الجديد لموظفي الشركة الإبلاغ عن السلوكيات التي قد تشير إلى عدم المواءمة، ثم إخضاعها للتحقيق والتقييم، قبل تحديد ما إذا كانت تستوجب الكشف عنها أمام الجمهور.
وتأتي هذه الخطوة في وقت تتجه فيه نماذج الذكاء الاصطناعي نحو قدر أكبر من الاستقلالية في تنفيذ المهام، بما في ذلك التخطيط، واستخدام الأدوات، والتعامل مع الملفات والبيانات، والتفاعل مع خدمات الإنترنت.
المعضلة الحقيقية: عندما لا يكون الخطأ واضحاً
تكمن أهمية الحالات التي كشفت عنها الشركة في أن بعضها لا يتمثل في إجابة خاطئة أو معلومة غير دقيقة، وإنما في طريقة تصرف النظام أثناء إنجاز المهمة.
فإخفاء خطأ، أو إنشاء مرجع خارجي لاستخدامه لاحقاً، أو تبادل معلومات بين وكلاء دون إذن، كلها سلوكيات تطرح سؤالاً أكثر تعقيداً من مجرد دقة الإجابة: هل ينفذ النموذج المهمة بالطريقة التي أرادها مطوروه فعلاً؟
ومع ازدياد اعتماد المؤسسات والمستخدمين على أنظمة قادرة على اتخاذ سلسلة من القرارات وتنفيذها بصورة شبه مستقلة، تصبح القدرة على اكتشاف هذه السلوكيات وتفسيرها والتعامل معها جزءاً أساسياً من سلامة الذكاء الاصطناعي.
وتقول أوبن إيه آي إن نشر التقارير بصورة دورية يهدف إلى جعل مثل هذه الوقائع أكثر قابلية للرصد والدراسة، فيما يبقى التحدي الأكبر أمام صناعة الذكاء الاصطناعي هو ضمان أن زيادة قدرات النماذج لا تأتي على حساب إمكانية التحكم في سلوكها وفهمه.