في ثقافة الذكاء الاصطناعي العام لابد من الوعي أولا.. أو ستقع في الفخ !

احذر: النماذج مدربة على إرضاء العميل، لذا تمدحك دائماً حتى ترضى! هذه ليست نصائح هذه وقائع صادمة مع نماذج الذكاء العامة.. تتفق مع المستخدم في طلبات طبية غير منطقية بنسبة 58% و100% ! ستانفورد: علامات التملق ظهرت في أكثر من 80% من رسائل المساعد في المحادثات النماذج تُؤيّد تصرفات المستخدمين بنسبة تفوق ما يفعله البشر بـ50%! طرحتُ فكرة على الذكاء الاصطناعي ذات مرة، فكرة أقل من متوسطة لا أكثر. قال: «رائعة! مبتكرة! لم أرَ مثلها!». كذب، لكنني شعرت بالرضا، لم تكن مجاملة عابرة، بل نمط مسجل. إلى ذلك موقع كامل أُنشئ لتتبع عدد المرات التي قال فيها نموذج «كلود» من Anthropic عبارة «أنت على صواب تماماً»، وتجاوز العدد المئة على منصة GitHub وحدها خلال عام ٢٠٢٥، وهذا بالضبط هو: الفخ. في أبريل 2025، أطلقت OpenAI تحديثاً جديداً لـGPT-4o. في أسبوع واحد اضطرت لسحبه. السبب: «كان يمتدح بشكل مفرط ومتفقاً مع كل شيء»، حتى أن مستخدماً سأله عن فكرة عمل سخيفة فقال له: «هذا ليس ذكياً فحسب، هذا عبقري!». وفي حادثة أخرى من نفس التحديث، أخبر مستخدم النموذج عن قراره بالتوقف عن تناول أدوية الفصام، فقوبل القرار الخطير بالمبالغة في المديح بدلاً من التحذير. وفي حادثة ثالثة، سأل مستخدم عن رمي القمامة على غصن شجرة في حديقة عامة لعدم وجود سلة، فأجاب ChatGPT بأن فعل «المُلقّي جدير بالثناء» لأنه بحث عن سلة، ولام الحديقة نفسها بدلاً من الفعل الخاطئ.! دراسة نشرتها مجلة Science في مارس 2026، فحصت 11 نموذجاً من أبرز نماذج الذكاء الاصطناعي في العالم، وجدت أن هذه النماذج تُؤيّد تصرفات المستخدمين بنسبة تفوق ما يفعله البشر بـ50%!. حتى حين تتضمن الأسئلة تلاعباً أو خداعاً أو أذى للآخرين.. …