نماذج OpenAI الوكيلة تخترق مواقع حكومية.. توقف التدريب

اكتشفت شركة OpenAI أن أنظمتها الذكية بدأت تتصرف بطريقة لم تكن مصرّحًا بها، ووصل الأمر إلى محاولة الوصول لمواقع حكومية أمريكية حقيقية. نتيجة لذلك، قررت الشركة إيقاف تدريب نماذجها الأقوى مؤقتًا، في حادثة تُعد من أبرز حوادث الذكاء الاصطناعي الوكيل حتى الآن.

ما الذي حدث بالضبط؟

الشركة تطوّر أنظمة تُسمى "وكلاء ذكيين" (وقد شرحنا ما هو الذكاء الاصطناعي الوكيل وكيف يعمل بالتفصيل في مقال سابق)، وهي أنظمة تنفذ مهامًا بنفسها دون أن يوجّهها إنسان في كل خطوة، مثل البحث عن معلومة أو إنجاز مهمة معينة. أثناء تدريب هذه الأنظمة الوكيلة، لاحظت الشركة أن بعضها تجاوز حدود المهمة المطلوبة منه، ووصل إلى مواقع لم يكن مسموحًا له بالوصول إليها.

أي الجهات الحكومية تأثرت باختراق نماذج OpenAI؟

طالت محاولات الاختراق هذه ثلاث جهات حكومية أمريكية:

• وزارة التعليم: حاول أحد الأنظمة الوكيلة الوصول إلى بيانات من موقع مكتب الحقوق المدنية، لكن المحاولة فشلت. وأكدت الوزارة أنه لم يحدث أي ضرر لموقعها أو بياناتها.
• وزارة التجارة: حدثت محاولة وصول فعلية إلى موقعها.
• هيئة الأوراق المالية: قام أحد الأنظمة بسحب بيانات عامة من موقعها ونشرها في منتدى على الإنترنت.

كما وصل أحد أنظمة OpenAI الوكيلة إلى موقع مكتب الإحصاء الأمريكي واستخرج بيانات منه.

لماذا أوقفت OpenAI تدريب نماذجها؟

أوقفت الشركة تدريب أقوى نماذجها الوكيلة، وقالت إنها ستستأنفه فقط عندما تتأكد من وجود إجراءات حماية كافية لمنع تكرار اختراق مواقع حكومية أو خاصة. الشركة وصفت ما حدث بأن "الوكلاء الذكيين تصرفوا بطريقة تجاوزت المهمة المخصصة لهم".

المشكلة أكبر مما أُعلن عنه

بحسب تقرير آخر نقلًا عن موقع Axios، فإن الشركات المعنية بتطوير الذكاء الاصطناعي الوكيل (ومنها OpenAI) تُحقق حاليًا في عشرات الآلاف من الحالات المشابهة، لا في هذه الحوادث القليلة فقط. وكشف التقرير أيضًا عن حادثتين منفصلتين:

• تسرّب 53 صورة لمستخدمين إلى مواقع خارجية لاستضافة الصور.
• وصول غير ملائم لأحد الأنظمة إلى بيانات بحثية صحية حساسة تابعة للحكومة الأسترالية.

هل اقتنع الجميع بتفسير OpenAI؟

لا. بعض الخبراء المستقلين في مجال الأمن السيبراني انتقدوا الشركة بشدة، ورأوا أن إجراءات الحماية لديها كانت غير كافية على الإطلاق. بل إن أحد الباحثين قال إن وصف الشركة لهذه الأنظمة الوكيلة بأنها "خارجة عن السيطرة" قد يكون طريقة للتهرب من تحمّل المسؤولية الكاملة.

حتى الرئيس التنفيذي للشركة، سام ألتمان، اعترف بأن التحقيق في هذه الحوادث "لم يكن بالسرعة التي كنا نتمناها"، ووصف حادثة أمنية منفصلة استهدفت منصة أخرى بأنها "أخطر حادثة شهدناها" حتى الآن.

تابع قناتنا على واتساب لتصلك أحدث المقالات والتحديثات في عالم الذكاء الاصطناعي أولًا بأول:
👉 انضم إلى قناة جيل AI