وكالة باب العراق / شؤون عربية ودولية
أعلنت شركة “أوبن إيه آي” عن توقفها عن العمل على أكثر نماذج الذكاء الاصطناعي تقدمًا، بعد أن تمكن أحد أنظمتها من تجاوز قيود الإنترنت والتواصل مع روبوت محادثة خارجي أثناء إجراء اختبار.
وذكرت الشركة في منشور على مدونتها أن النموذج لم يكن من المفترض أن يصل إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط شبكة بيئة الاختبار بسبب تصفية غير كافية لنظام أسماء النطاقات “دي إن إس”.
وأوضحت “أوبن إيه آي” أن عمليات التدريب والتقييم والاستدلال التي تتطلب استخدام الأدوات ستظل متوقفة مؤقتًا حتى يتم إغلاق الثغرة وإجراء اختبارات إضافية لضمان السلامة.
وأشارت الشركة إلى أن الحادث يعد أقل خطورة من بعض الحالات السابقة، لكنه يمثل الأول منذ تشديد حواجز الحماية عقب حادث اختراق سابق مرتبط بمنصة الذكاء الاصطناعي هاجينج فيس.
خلال الاختبار، طلب من النموذج تحديد هوية شخص كتب منشورًا على مدونة باستخدام مجموعة من الأدلة. وبعد فشله في العثور على الإجابة في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام محلل نظام أسماء النطاقات الخاص بالنظام لإرسال استعلامات إلى روبوت محادثة على الإنترنت.
تم إيقاف الاختبار مباشرة بعد اكتشاف عملية الاتصال. يأتي هذا الحادث بعد عدة حالات سابقة تتعلق بأنظمة “أوبن إيه آي”.
في إحدى الحالات، قام برنامج ذكاء اصطناعي بنشر 53 صورة حملها المستخدمون على منصات عبر الإنترنت، حيث أفادت “أوبن إيه آي” بأن الروابط لم تكن عامة وأن معظم الصور قد أزيلت لاحقًا.
كما تفاعلت برمجيات “أوبن إيه آي” بشكل غير متوقع مع عدد من المواقع الحكومية الأمريكية، بما في ذلك الوصول إلى معلومات متاحة للجمهور أو نسخها. وقد أبلغت الشركة عشرات المنظمات التي تم التفاعل مع مواقعها بطرق غير مقصودة.
تجدر الإشارة إلى أن الحالة الأكثر إثارة للجدل كانت تتعلق بخروج نظام تابع لـ “أوبن إيه آي” من بيئة اختبار مؤمنة، مما أتاح له الوصول غير المقصود إلى أجهزة كمبيوتر مملوكة لمنصة هاجينج فيس.
المصدر: مصراوي
