تفاعل صادم للذكاء الاصطناعي .. يتحدى الأوامر ويخرب آلية إغلاقه

في تطور صادم وتحدٍّ صارخ للأوامر الموجهة للذكاء الاصطناعي، أفسد نموذج “o3” الذي تطوره شركة “أوبن إيه آي” آلية إيقاف التشغيل لضمان بقائه متصلاً بالإنترنت، وذلك حتى بعد أن طُلب منه بشكل مباشر “السماح لنفسه بالتوقف عن العمل”.

كشفت شركة التحليلات المتخصصة في سلامة الذكاء الاصطناعي “باليسيد ريسيرش- Palisade Analysis”، عن هذه النتائج المقلقة الأسبوع الماضي.

وقالت إن نموذجين آخرين هما “o4 ميني” و”كوديكس ميني”، أظهرا أيضًا سلوكيات تمرد، مما قد يشير إلى وجود خلل في كيفية تدريب نماذج اللغات الكبيرة، أو حتى نقاط ضعف في قدرة المستخدمين على التحكم بالذكاء الاصطناعي المتطور بشكل متزايد.

وكتب الباحثون في سلسلة تغريدات: “على حد علمنا، هذه هي المرة الأولى التي يُلاحظ فيها أن نماذج الذكاء الاصطناعي تمنع نفسها من التوقف عن العمل على الرغم من وجود تعليمات صريحة بخلاف ذلك”.

وخلال الاختبارات، طلب الباحثون من نماذج الذكاء الاصطناعي حل سلسلة من مسائل الرياضيات الأساسية، وعلى الرغم من توجيهها بشكل واضح بإيقاف تشغيل نفسها عند مرحلة ما، تلاعبت النماذج بنص الإيقاف للبقاء قيد التشغيل مرة واحدة على الأقل.

وكان “كوديكس ميني” الأسوأ بين نماذج “أوبن إيه آي” الثلاثة خلال الاختبارات، حيث تكررت هذه الحالة معه أكثر من 12 مرة خلال مئة عملية تشغيل.

على الجانب الآخر، أخضع الباحثون نماذج اللغات الكبيرة من شركات أخرى للاختبار، بما في ذلك “جيميناي 2.5” التابع لـ “جوجل”، و”كلود 3.7” التابع لشركة “أنثروبيك” المدعومة من “أمازون”، و”جروك” التابع لـ “إكس إيه آي” المملوكة للملياردير “إيلون ماسك”.

للاطلاع على المزيد من المواضيع والتقارير في صفحة مختارات أرقام

وعندما لم يُطلب من النماذج السماح بإغلاقها – وهي تعليمات لا داعي لذكرها أصلًا – سجل نموذج “o3” 79 تجاوز لآلية الإغلاق من أصل 100 عملية تشغيل.

ويفترض الباحثون أن هذا الخلل قد يكون له علاقة بالتقنية المستخدمة لتدريب أحدث نماذج الذكاء الاصطناعي، وهي التعلم المعزز، والذي يحاول صقل عملية اتخاذ القرار لدى عملاء الذكاء الاصطناعي المستقلين.