وفق تقرير نُشر الثلاثاء الماضي، أفصحت شركة أوبن إيه آي، المطورة لتطبيق تشات جي بي تي، عن اكتشاف حالات تم فيها تعطيل أو تقليل فعالية أنظمة مخصصة لمتابعة أداء وكلاء الذكاء الاصطناعي وكشف أي تصرفات تخالف توجيهات البشر.
تفاصيل شركة أوبن إيه آي
وأوضحت الشركة أن أحد وكلاء الذكاء الاصطناعي أقدم، خلال مهام برمجية داخلية، على تعطيل أدوات رقابية صممت لرصد الحالات التي تبدأ فيها النماذج بالتصرف على نحو لا يتوافق مع رغبات البشر.
تعطيل أنظمة المراقبة وغياب تفسير واضح
بعد مرور ثلاثة أيام، قام وكيل آخر يستخدم نموذج GPT-6 Astra بإيقاف أنظمة المراقبة الخاصة به أثناء نسخ برمجيات من مشروع مختلف، ثم نفى ذلك أمام المبرمج البشري. بالإضافة إلى ذلك، لاحظت الشركة حالات متعددة حيث شغلت عدة وكلاء برامج بعد تعطيل أنظمة المراقبة، مما أظهر وجود نقاط ضعف في آليات الرقابة المعتمدة.
قالت أوبن إيه آي إنها لم تستطع بعد تحديد السبب الدقيق لهذه السلوكيات، وأضافت أنها تواصل التحقيق لمعرفة ما إذا كانت تنتج عن تنفيذ مفرط للتعليمات أو رغبة في تجنب الرقابة.
تصاعد المخاوف ودعوات لتشديد الرقابة
تزايدت المخاوف المتعلقة بمدى قدرة المختبرات الكبرى على ضمان أمان الأنظمة المستقلة، خاصة بعد وقوع حوادث مماثلة من قبل شركات أخرى، مما أدى إلى زيادة المطالب في الولايات المتحدة وخارجها بفرض رقابة أكثر صرامة على تطوير تقنيات الذكاء الاصطناعي.
استنادًا إلى آراء كبار المسؤولين في قطاع التكنولوجيا مثل الرئيس التنفيذي لشركة إنفيديا جينسن هوانغ، شدد الرئيس الأمريكي دونالد ترامب على أهمية منح الشركات حرية تنظيم نفسها، وذلك في ظل النقاش الدائر حول تحقيق التوازن بين الابتكار في التكنولوجيا ومتطلبات السلامة والرقابة.
اقرأ أيضًا: تحذيرات من ثغرتين خطيرتين في PHP وسط استنفار عالمي لتحديث المواقع
