حادثة اختراق محتملة تكشف هشاشة حماية أدوات الذكاء الاصطناعي

تجري شركة الذكاء الاصطناعي أنثروبيك، تحقيقًا بشأن مزاعم تفيد بوصول مجموعة صغيرة من الأفراد إلى نموذجها المتقدم Claude Mythos، والذي تصفه الشركة بأنه قوي للغاية ولا يمكن طرحه للاستخدام العام. وأوضحت الشركة، في بيان رسمي، أنها تحقق في تقارير عن وصول غير مصرح به إلى نسخة تجريبية من النموذج عبر بيئة أحد مزودي الخدمات الخارجيين، وذلك ردًا على تقارير إعلامية أفادت بأن مستخدمين في منتدى خاص تمكنوا من استخدام النموذج دون الحصول على التصاريح اللازمة. ورغم عدم وجود مؤشرات حتى الآن على وصول جهات خبيثة إلى النظام، أكدت الشركة أنها لا تملك أدلة على تعرض أنظمتها للاختراق. إلا أن الواقعة تثير تساؤلات بشأن قدرة شركات الذكاء الاصطناعي الكبرى على حماية نماذجها المتقدمة من الوصول غير المصرح به. وتشير تقديرات خبراء إلى أن الحادثة قد تكون ناتجة عن سوء استخدام صلاحيات الوصول، وليس اختراقًا تقنيًا تقليديًا، وفقًا للرئيسة التنفيذية لشركة SmartTech رالوكا ساشيانو. وكانت أنثروبيك قد أتاحت نموذج Mythos لعدد محدود من شركات التكنولوجيا والقطاع المالي، بهدف مساعدتها على اختبار أنظمتها الأمنية، نظرًا لقدرات النموذج على اكتشاف الثغرات واستغلالها، إلا أن ذلك يعتمد بشكل كبير على مدى التزام هذه الشركات بتأمين صلاحيات الوصول داخليًا. ووفق التقرير، فإن الشخص الذي يُعتقد أنه وراء الوصول غير المصرح به كان يمتلك بالفعل صلاحية الاطلاع على نماذج الشركة عبر عمله مع جهة متعاقدة، ما أتاح له استغلال تلك الصلاحيات. كما أشار التقرير إلى أن المجموعة استخدمت النموذج بالفعل، لكنها امتنعت عن تنفيذ هجمات إلكترونية لتجنب اكتشافها. …