ما بعد السلامة المطلقة.. لماذا تخلت أنثروبيك عن نهجها الأكثر تحفظا؟

"كلما أصبحنا أكثر قدرة على بناء أنظمة ذكية، أصبحنا أقل يقينا بما إذا كنا نفهمها بالفعل". هذه الفكرة التي تتكرر بصيغ مختلفة في خطاب عدد متزايد من الباحثين في الذكاء الاصطناعي تلخص التوتر العميق الذي يرافق الجيل الجديد من النماذج بأن القدرة على التطوير لا توازي بالضرورة القدرة على الفهم أو التنبؤ الكامل بالسلوك. يجسد التحول الذي شهدته شركة " أنثروبيك " للذكاء الاصطناعي هذا التوتر بوضوح، بعدما انتقلت من التعامل مع نموذج "ميثوس" باعتباره عالي الخطورة ويستدعي قيودا صارمة إلى إتاحة نسخة عامة منه تحت اسم "فابل 5″، في خطوة أثارت تساؤلات تتجاوز قدرات النموذج التقنية إلى فلسفة إدارة المخاطر التي تحكم صناعة الذكاء الاصطناعي بأكملها. لم يعد النقاش داخل شركة "أنثروبيك" يدور حول ما إذا كان ينبغي تطوير نماذج ذكاء اصطناعي أكثر تقدما، بل حول القواعد التي يجب أن تحكم هذا التطوير في بيئة تتغير بسرعة تفوق قدرة السياسات على مواكبتها. وبحسب تصريحات لمسؤولين في الشركة لمجلة "تايم"، تخلت "أنثروبيك" عن أحد التعهدات الأساسية في سياستها الرائدة للسلامة، والذي كان ينص في نسخته الأولى على عدم تدريب أي نظام ذكاء اصطناعي ما لم تتمكن الشركة مسبقا من ضمان كفاية إجراءات الحماية وتقليل المخاطر. هذا التعهد، الذي شكل حجر الأساس في "سياسة التوسع المسؤول" (Responsible Scaling Policy – RSP) منذ عام 2023، كان يقدم باعتباره التزاما صارما يضع السلامة قبل سرعة التطوير. …