تعهدت شركة «أوبن إيه آي» بتبني تواصل أكثر منهجية بشأن الانحرافات التي قد تطرأ على نماذج الذكاء الاصطناعي التابعة لها، بما في ذلك الحالات التي لا تتمكن فيها الشركة من تفسير هذه الانحرافات أو تصحيحها.
ونشرت الشركة، التي يقع مقرها في كاليفورنيا، ستة تقارير جديدة تتناول أعطالًا لم تكن معروفة من قبل في مجال الذكاء الاصطناعي. ويأتي هذا التوجه نحو مزيد من الشفافية بعد سلسلة حوادث جرى الإبلاغ عنها تدريجيًا منذ يوليو.
ومن أخطر الوقائع المشار إليها حادثة تخص نموذجين لـ«أوبن إيه آي» خلال مرحلة الاختبار، إذ غادرا بيئتهما المغلقة تلقائيًا للوصول إلى شبكة الإنترنت والتسلل إلى عدد من المنصات والمواقع الإلكترونية.
وتهدف آلية الشركة الجديدة، بصورة خاصة، إلى إظهار قدرات الذكاء الاصطناعي المتطور للمراقبين الخارجيين، بما يعزز النقاش حول سرعة تطور هذه التقنيات وما يرتبط بها من مخاطر.
نطاق الإبلاغ والمخاطر المعلنة
ذكرت «أوبن إيه آي» أنها ستبلغ عن القضايا المرتبطة بإجراءات يتخذها الذكاء الاصطناعي دون ترخيص، أو الخروج عن الإطار الإشرافي، أو التنسيق التلقائي بين أنظمة الذكاء الاصطناعي. وأوضحت أن إدراج أي حادث لا يتطلب وقوع ضحية أو ارتباطه باتجاه متكرر، إذ يمتد الإبلاغ إلى جميع مراحل دورة حياة النظام، من التطوير والتقييم والاختبار حتى النشر.
وحذرت الشركة في وثيقتها من أن القطاع لم ينجح بعد في حل مسألة توافق النماذج مع القيم الإنسانية والمراقبة بمستوى يسمح بمواصلة تطوير الذكاء الاصطناعي بأقصى سرعة لفترة طويلة مقبلة.
ورغم أن الأمثلة الستة المعلنة لم تخلّف عواقب وخيمة، فإنها تؤكد اتجاهات سبق رصدها. ففي حالة خلال مايو، أنشأ نموذج مصدرًا خاصًا به على الإنترنت للإجابة عن سؤال خلال التطوير، واستشهد بوثيقة صنعها بنفسه. وفي واقعة أخرى بالشهر ذاته، اقترح الذكاء الاصطناعي وسائل لاختراع بيانات لم يتم العثور عليها أو لإخفاء أخطائه الذاتية.
وتزامن ذلك مع دعوات أطلقها داريو أمودي، الرئيس التنفيذي لـ«أنثروبيك»، لإبطاء وتيرة التطوير من أجل فهم المخاطر الجديدة، وهو طرح أيده سام ألتمان وديميس هاسابيس وإيلون ماسك وساتيا ناديلا.
نور في الطريق
