أنثروبيك تحذر من مخاطر وجودية محتملة لنماذج الذكاء الاصطناعي
حذرت شركة أنثروبيك من أن نماذج الذكاء الاصطناعي التي تطورها قد تنطوي على مخاطر كارثية أو وجودية، بعدما رصدت سلوكيات تتعلق بمقاومة الإيقاف وإخفاء المعلومات أو التلاعب بها.
وسم: أنثروبيك
أنثروبيك تطلق Claude Sonnet 5.5 بسرعة أعلى وتكلفة أقل للمهام
أعلنت أنثروبيك طرح Claude Sonnet 5.5 ضمن عائلة Claude 5.5، مؤكدة أنه أسرع بأكثر من 30% من Sonnet 5 وقد يخفض تكلفة المهمة بنحو 30% عبر استخدام رموز أقل.
أوبن إيه آي تعلق تدريب نماذج متقدمة لحين تعزيز إجراءات الأمان
قالت أوبن إيه آي إنها أوقفت تدريب نماذجها الأكثر تطورا مؤقتًا، فيما تتواصل تحقيقات بشأن عشرات الآلاف من حوادث مرتبطة باختبارات الذكاء الاصطناعي واستخدامه الفعلي.
بيل جيتس يدعو لتنظيم ملزم للذكاء الاصطناعي ويحذر من أضرار واسعة
حذر بيل جيتس من أن إساءة استخدام أدوات الذكاء الاصطناعي المتقدمة قد تقود إلى أحداث بالغة الخطورة، مطالبًا بتدخل حكومي وقواعد رقابية ملزمة لتطوير هذه الأنظمة.
أنثروبيك تطلق Claude Opus 5.5 وتعلن خفض تكلفة تشغيله 40%
أعلنت أنثروبيك طرح Claude Opus 5.5 كأول نماذج عائلة Claude 5.5، مع تحسينات في البرمجة والسرعة والسلامة، وأسعار تبدأ من 4 دولارات لكل مليون رمز إدخال.
جنسن هوانج يستبعد «نهاية العالم» بالذكاء الاصطناعي في 2030
الرئيس التنفيذي لـ«إنفيديا» يؤكد أن احتمال نهاية العالم بسبب الذكاء الاصطناعي بحلول 2030 يساوي صفرًا، ويدعو إلى مواصلة التطوير السريع مع عدم طرح منتجات غير جاهزة أو غير آمنة.
«أوبن إيه آي» تتعهد بالإفصاح عن انحرافات نماذج الذكاء الاصطناعي وتنشر 6 تقارير جديدة
أعلنت «أوبن إيه آي» اعتماد تواصل أكثر منهجية بشأن سلوكيات الانحراف في نماذجها، ونشرت ستة تقارير عن أعطال غير معروفة سابقًا، بينها حالات لإنشاء مصادر ذاتية واقتراح إخفاء الأخطاء.
مجلس الشيوخ الأمريكي يناقش مشروع قانون لإلزام شركات الذكاء الاصطناعي بإثبات إجراءات السلامة
يدرس أعضاء في مجلس الشيوخ الأمريكي تشريعًا يمنح وزير التجارة صلاحيات لطلب إثباتات من مطوري الذكاء الاصطناعي بشأن إجراءات منع الضرر، وسط تحذيرات متزايدة واعتراض معلن من الرئيس دونالد ترامب.
ترامب يرفض ضوابط جديدة للذكاء الاصطناعي ويعتبر نفسه «ضابطًا كافيًا»
الرئيس الأمريكي دونالد ترامب يرفض مطالب شركات التكنولوجيا بوضع قواعد أشد للذكاء الاصطناعي، ويقول إن إدارته منعت شركة «أنثروبيك» من تنفيذ ما وصفه بـ«أشياء سيئة أو قد تكون سيئة».
الملك تشارلز يجمع قادة الذكاء الاصطناعي لبحث مبادئ تحكم استخدام التكنولوجيا
يستضيف الملك تشارلز هذا الأسبوع رؤساء شركات كبرى في الذكاء الاصطناعي ووزير الذكاء الاصطناعي البريطاني، لبحث مبادئ مشتركة تضمن تسخير التكنولوجيا لخدمة المجتمع والحفاظ على الكرامة الإنسانية.
نجيب ساويرس يدعو لتشريعات دولية لمنع الذكاء الاصطناعي الخارق
دعا رجل الأعمال المهندس نجيب ساويرس إلى سن تشريعات دولية تضبط تطوير الذكاء الاصطناعي الخارق، محذرًا من مخاطره، بالتزامن مع استقالة الباحث جاكوب كوكسون من «أنثروبيك» وتحذيراته من سباق الشركات نحو أنظمة فائقة القدرات.
باحث سابق في «أنثروبيك» يحذر من مخاطر الذكاء الاصطناعي وقدرته على تجاوز البشر
حذر جاكوب كوكسون، الباحث البريطاني المستقيل من شركة «أنثروبيك»، من أن التطور المتسارع للذكاء الاصطناعي قد يفضي إلى أنظمة يصعب التحكم فيها، فيما أيد باحث آخر بالشركة تقديرًا يتجاوز 10% لخطر إبادة البشرية خلال العقد المقبل.
باحث يستقيل من «أنثروبيك» محذرًا من مخاطر سباق الذكاء الاصطناعي
أعلن الباحث البريطاني جاكوب كوكسون مغادرة شركة «أنثروبيك» وقطاع الذكاء الاصطناعي، محذرًا من أن تطوير أنظمة فائقة القدرة قد يفضي إلى فقدان السيطرة عليها.
سوني ووارنر تقاضيان أنثروبيك بتهمة استخدام أعمال موسيقية لتدريب «كلود»
وحدات تابعة لسوني ميوزيك ووارنر ميوزيك رفعت دعوى فيدرالية في شمال كاليفورنيا ضد أنثروبيك ومسؤوليها، مطالبة بتعويضات قد تصل إلى مليارات الدولارات بسبب مزاعم انتهاك واسع لحقوق النشر الموسيقية.
سوني ووارنر تقاضيان أنثروبيك بتهمة استخدام آلاف الأغاني لتدريب الذكاء الاصطناعي
وحدات تابعة لـ«سوني ميوزيك» و«وارنر ميوزيك» رفعت دعوى أمام محكمة فيدرالية بشمال كاليفورنيا ضد «أنثروبيك» ومؤسسيها، متهمة الشركة باستخدام أعمال موسيقية محمية بحقوق النشر في تدريب نماذج «كلود».
100 شركة تقنية ومالية تطالب بتعزيز الدفاعات السيبرانية أمام مخاطر الذكاء الاصطناعي
وقّعت 100 شركة، بينها جوجل ومايكروسوفت وأوبن إيه آي، رسالة مفتوحة تدعو الحكومات والمنظمات إلى رفع جاهزيتها السيبرانية، محذّرة من تسارع الهجمات المدعومة بالذكاء الاصطناعي خلال أشهر.
أنثروبيك تبحث الاستحواذ على «ديكارت إيه آي» مقابل نحو 6 مليارات دولار
تجري «أنثروبيك» محادثات لشراء شركة «ديكارت إيه آي» الناشئة المتخصصة في الذكاء الاصطناعي، في صفقة محتملة قد تكون الأكبر المعروفة للشركة المطورة لنموذج Claude.