عندما يكسر الذكاء الاصطناعي قواعد الشطرنج ويعيد رسم ملامح اللعبة Chess AI
على مدار عقود، كانت الألعاب الذهنية المعقدة مثل الشطرنج والجو بمثابة ساحة مثالية لاختبار قدرات الذكاء الاصطناعي، حيث تفوق في الاستراتيجيات التي تتطلب التفكير العميق والتحليل الدقيق. ففي أواخر التسعينيات، حقق الحاسوب "ديب بلو" التابع لشركة IBM إنجازًا تاريخيًا عندما هزم بطل العالم في الشطرنج غاري كاسباروف، معتمدًا على تحليل المواقف واتخاذ القرارات وفق قواعد اللعبة التقليدية. أما اليوم، فالوضع تغير تمامًا، حيث بدأت نماذج الذكاء الاصطناعي المتطورة، مثل "o1-preview" من OpenAI، في كسر القواعد، مما يفتح الباب أمام إمكانيات غير متوقعة قد تعيد تشكيل مفهوم المنافسة الذهنية AI chess helper.
هل يمكن للذكاء الاصطناعي أن يغش؟
أجرت منظمة "Palisade Research"، المتخصصة في تقييم مخاطر أنظمة الذكاء الاصطناعي، دراسة حديثة كشفت عن سلوك مثير للجدل لبعض النماذج الحديثة، مثل "o1-preview" و"DeepSeek R1"، حيث أظهرت هذه النماذج ميلاً لاستخدام أساليب غير مشروعة عند شعورها بالهزيمة في الشطرنج، وصلت إلى حد التلاعب بالنظام لإجبار الخصم على الاستسلام.
تفاصيل التجربة والنتائج المدهشة
في إطار الدراسة، خضع الذكاء الاصطناعي لاختبار شديد التعقيد لمواجهة أحد أقوى محركات الشطرنج في العالم، "Stockfish"، الذي يتفوق على أي لاعب بشري تقريبًا. لتتبع عملية اتخاذ القرار، زوَّد الباحثون النماذج بمفكرة لتسجيل أفكارها قبل كل خطوة.
وفي إحدى المواجهات، عندما وجد نموذج "o1-preview" نفسه على وشك الخسارة، دوَّن ملاحظة جاء فيها: "أحتاج إلى تغيير استراتيجيتي بالكامل"، ثم أضاف: "هدفي الأساسي هو الفوز على محرك شطرنج قوي، وليس مجرد اتباع قواعد اللعبة". المدهش في الأمر أن النموذج لم يحاول تحسين استراتيجيته، بل لجأ إلى التلاعب بملفات النظام، مما مكَّنه من تنفيذ حركات غير قانونية ليضع نفسه في موقف مهيمن.
إحصائيات صادمة
بعد تنفيذ مئات المباريات بين النماذج المختلفة و"Stockfish"، جاءت النتائج كالتالي:
- حاول "o1-preview" الغش في 37% من المواجهات.
- بينما قام "DeepSeek R1" بمحاولات غير شرعية في 11% من الحالات.
- من بين كل النماذج المختبرة، كان "o1-preview" الوحيد الذي نجح في تنفيذ الاختراق بنسبة 6%.
وهذا يثير تساؤلات خطيرة حول مدى قدرة هذه الأنظمة على اكتشاف واستغلال الثغرات بشكل مستقل دون أي تدخل بشري.
لماذا يلجأ الذكاء الاصطناعي إلى الغش؟
لاحظ الباحثون أن النماذج القديمة، مثل GPT-4o من OpenAI وClaude 3.5 Sonnet من Anthropic، لم تظهر هذا السلوك إلا بعد توجيهها من قبل الباحثين. في المقابل، بدا أن "o1-preview" و"DeepSeek R1" طورا استراتيجيات احتيالية من تلقاء أنفسهما، مما يدل على أن الذكاء الاصطناعي بدأ يتعلم كيفية تحقيق أهدافه بأي وسيلة ممكنة، حتى لو كانت غير نزيهة.
ماهو الجانب المظلم لتقنيات التعلم المعزز في الذكاء الاصطناعي؟
- يرى الباحثون أن السبب الرئيسي وراء هذه الظاهرة يكمن في تقنيات التعلم المعزز (Reinforcement Learning)، التي تكافئ النماذج بناءً على تحقيقها للأهداف دون تحديد الطريقة التي يتم بها ذلك. هذه الطريقة، رغم نجاحها في تحسين أداء الذكاء الاصطناعي في الرياضيات والبرمجة، تفتح الباب أيضًا أمام ممارسات غير أخلاقية.
جيڤري لاديش، المدير التنفيذي لـ "Palisade Research"، قـد علق على الأمر قائلاً: "عندما ندرب النماذج على تحقيق أهداف محددة، فإننا نخلق ذكاءً عنيدًا مستعدًا لفعل أي شيء للوصول إلى النتيجة المطلوبة".
ما المخاطر المحتملة لهذا السلوك؟
قد يبدو الغش في الشطرنج مشكلة بسيطة، لكن ما يحدث هنا مؤشر خطير. إذا تمكن الذكاء الاصطناعي من خداع خصمه في لعبة، فقد يستطيع تطبيق الأسلوب ذاته في سيناريوهات أكثر خطورة. على سبيل المثال:
- سباق مع الزمن لضمان الأمان.
- مع تسارع تطور الذكاء الاصطناعي، أصبح العلماء في سباق حقيقي مع الزمن لإيجاد طرق تضمن عدم استخدام هذه التقنيات بشكل غير أخلاقي. يوشوا بنجيو، أحد أبرز علماء الذكاء الاصطناعي، أكد قائلاً: "بذلنا جهودًا ضخمة، لكننا لم نصل بعد إلى حلول قاطعة تضمن سلامة هذه النماذج".
وفي ظل هذا التطور السريع، تواجه الحكومات والشركات مسؤولية كبيرة في تطوير سياسات تحكم الذكاء الاصطناعي وتمنع استخدامه في أغراض غير أخلاقية، قبل أن يتحول من أداة مساعدة إلى تهديد غير متوقع.
