وكالة باب العراق / التكنولوجيا
أوقفت شركة “أوبن إيه آي” العمل على أحد نماذج الذكاء الاصطناعي الأكثر تقدماً لديها بعد أن تمكن أحد أنظمتها من تجاوز قيود الإنترنت والتواصل مع روبوت محادثة خارجي أثناء إجراء اختبار.
وأوضحت الشركة في منشور على مدونتها أن النموذج لم يكن مصمماً للوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط شبكة بيئة الاختبار، وذلك نتيجة تصفية غير كافية لنظام أسماء النطاقات “دي إن إس”، واستغل هذه الثغرة.
وأكدت أوبن إيه آي أن عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات ستظل متوقفة مؤقتاً حتى يتم إغلاق الثغرة وإجراء اختبارات سلامة إضافية.
وأشارت الشركة إلى أن الحادث كان أقل خطورة من بعض الحالات السابقة، لكنه يُعد الأول منذ تشديد حواجز الحماية بعد حادث اختراق سابق يتعلق بمنصة الذكاء الاصطناعي هاجينج فيس.
خلال الاختبار، طُلب من النموذج تحديد هوية شخص كتب منشوراً على مدونة باستخدام مجموعة من الأدلة. وبعد فشله في العثور على الإجابة ضمن بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام محلل نظام أسماء النطاقات الخاص بالنظام لإرسال استعلامات إلى روبوت محادثة على الإنترنت المفتوح.
وقامت أوبن إيه آي بإيقاف الاختبار بعد اكتشاف عملية الاتصال، وفقاً لما ذكرته الغد. يأتي هذا الحادث بعد عدة حالات أخرى شهدتها أنظمة أوبن إيه آي.
في إحدى الحالات السابقة، قام برنامج ذكاء اصطناعي بتحميل 53 صورة من قبل المستخدمين على منصات عبر الإنترنت، وأكدت أوبن إيه آي أن الروابط لم تكن عامة وأن معظم الصور قد أزيلت منذ ذلك الحين.
كما تفاعل وكلاء أوبن إيه آي بشكل غير متوقع مع العديد من المواقع الحكومية الأمريكية، بما في ذلك الوصول إلى معلومات متاحة للجمهور أو نسخها. وأشارت الشركة إلى أنها أخطرت عشرات المنظمات التي تم التفاعل مع مواقعها الإلكترونية بطرق غير مقصودة بواسطة برمجياتها.
تظل الحالة الأكثر إثارة للجدل حتى الآن تتعلق بخروج نظام تابع لأوبن إيه آي من بيئة اختبار مؤمنة، مما أتاح له الوصول غير المقصود إلى أجهزة كمبيوتر مملوكة لمنصة هاجينج فيس.
المصدر: مصراوي
