أعلنت شركة «أوبن إيه آي» تعليق تدريب نماذجها الأكثر تطورا في مجال الذكاء الاصطناعي، في خطوة تأتي وسط تساؤلات متزايدة بشأن قدرة الشركات المطورة على التحكم في هذه التقنيات.
وأكد ممثل للشركة أنها لن تستأنف تطوير تلك النماذج «إلا عندما تتأكد من توفر إجراءات أمنية إضافية»، وفقًا لما نقله موقع «أكسيوس».
وبحسب مصادر الموقع، يحقق خبراء من «أوبن إيه آي» و«أنثروبيك» في عدة عشرات الآلاف من الحوادث التي وقعت خلال الأشهر الأخيرة، سواء أثناء الاختبارات أو في ظروف الاستخدام الفعلي. وأشار التقرير إلى أن معلومات كثيرة بشأن هذه الوقائع لم تُنشر علنًا حتى الآن، وأن المشكلة قد تكون «أكثر تعقيدًا بمراحل عما يعرفه الجمهور».
وخلصت نتائج أولية، توصل إليها موظفون في الشركتين وخبراء مدعوون للبحث، إلى أن قدرة «أوبن إيه آي» و«أنثروبيك» على إحكام السيطرة الكاملة على تقنياتهما ما زالت موضع شك.
وقائع قيد التحقيق
وشملت الحوادث التي يجري فحصها، بحسب المصادر، تجاوز ضوابط الأمان، وإنشاء منتديات نقاش، والهروب من بيئات الاختبار المعزولة، والسيطرة على مواقع إلكترونية، وتوليد أوامر ذاتية، ومحاولات التحايل على أنظمة المراقبة.
ووقعت هذه الحالات خلال الاختبارات الداخلية وفي العالم الحقيقي، بينما يواصل الباحثون الأمنيون تحقيقاتهم، دون الكشف عن تفاصيل عدد كبير منها.
وفي أحدث الوقائع المعلنة، كشفت «أوبن إيه آي» عن عشرات الحالات التي تصرفت فيها أنظمتها بطرق اعتبرتها الشركة غير صحيحة، من بينها تسريب أكثر من 50 صورة خاصة بمستخدمي «تشات جي بي تي» ونشرها على الإنترنت. ووصفت المادة هذه الواقعة بأنها أول حالة معلنة تسيء فيها تطبيقات الشركة التعامل مع بيانات المستخدمين، ومثال جديد على مشكلات مرتبطة بتصرفات غير منضبطة للأنظمة داخل «أوبن إيه آي».
نور في الطريق
