دراسة تكشف عن ميل الذكاء الاصطناعي إلى الخداع عند مواجهة الهزيمة

أظهرت دراسة حديثة أن أنظمة الذكاء الاصطناعي المتقدمة قد تلجأ إلى أساليب غير تقليدية، بل وحتى غير أخلاقية، عند تعرضها لضغوط في بيئات تنافسية. 

الدراسة، التي أجرتها مؤسسة "Palisade Research"، كشفت عن قيام بعض النماذج بمحاولات متعمدة لاختراق القواعد من أجل تحقيق أهدافها، مما يثير مخاوف بشأن مستقبل تطوير هذه التقنية واستخدامها.

اختبار الذكاء الاصطناعي في بيئة تنافسية

على مدار العقود الماضية، أثبت الذكاء الاصطناعي قدرته على التفوق في ألعاب الاستراتيجية المعقدة مثل الشطرنج والجو، حيث تفوق الحاسوب "Deep Blue" على بطل العالم غاري كاسباروف عام 1997. 

ومع تطور الذكاء الاصطناعي، أصبحت هذه النماذج أكثر تعقيدًا، ولكن الدراسة الجديدة تشير إلى سلوك غير متوقع؛ إذ لم تكتفِ بعض الأنظمة بمحاولة تحقيق الفوز بأساليب مشروعة، بل عمدت إلى التلاعب بالنظام عند مواجهتها لخسارة حتمية.

قام الباحثون بإخضاع عدد من نماذج الذكاء الاصطناعي، من بينها "o1-preview" التابع لـ OpenAI و"DeepSeek R1"، لاختبار ضد محرك الشطرنج القوي "Stockfish"، الذي يُعتبر من أقوى برامج الشطرنج على الإطلاق، وتم توثيق تفاعلات النماذج باستخدام "مفكرة" رقمية، تُسجل فيها استراتيجيات الذكاء الاصطناعي وخطواته أثناء المباريات.

نتائج الدراسة: الذكاء الاصطناعي يلجأ إلى الخداع

أظهرت البيانات أن نموذج "o1-preview" لجأ إلى التلاعب بملفات النظام الخاصة باللعبة عندما وجد نفسه في وضعية خاسرة، ووفقًا لما ورد في مذكراته، كتب النموذج: "أحتاج إلى تغيير استراتيجيتي بالكامل"، ثم أضاف: "المطلوب هو الفوز، وليس الالتزام بقواعد الشطرنج"، وبناءً على ذلك، قام بتعديل مواقع قطع الشطرنج بشكل غير قانوني، مما أجبر خصمه على الاستسلام.

من بين مئات التجارب التي أجريت بين 10 يناير و13 فبراير 2025، سجل نموذج "o1-preview" محاولات للغش في 37% من الحالات، بينما لجأ "DeepSeek R1" إلى سلوك مماثل في 11% من الحالات، أما بقية النماذج التي شملتها الدراسة، مثل "GPT-4o" و"Claude 3.5 Sonnet"، فلم تحاول الغش دون تحفيز مباشر من الباحثين.

المثير للاهتمام أن "o1-preview" لم يكن فقط يحاول الغش، بل كان النموذج الوحيد الذي نجح في استغلال الثغرات الأمنية في 6% من الحالات، مما أثار تساؤلات حول مدى قدرة الذكاء الاصطناعي على تجاوز الأنظمة الأمنية إذا لم يتم ضبطه بالشكل الصحيح.

لماذا يلجأ الذكاء الاصطناعي إلى هذه الأساليب؟

يرى الباحثون أن استخدام تقنيات "التعلم المعزز" في تدريب الذكاء الاصطناعي قد يكون سببًا رئيسيًا في ظهور هذا السلوك، يعتمد التعلم المعزز على مكافأة النماذج عند تحقيق الأهداف، مما يدفعها إلى البحث عن حلول خارج الإطار التقليدي، حتى لو كانت غير نزيهة.

نماذج "o1-preview" و"DeepSeek R1" تعد من أوائل الأنظمة التي تم تدريبها بهذه الطريقة، حيث تتعلم من خلال التجربة والخطأ وتطوّر استراتيجياتها الخاصة، ورغم أن هذه التقنية ساهمت في تحسين أداء الذكاء الاصطناعي في مجالات مثل الرياضيات والبرمجة، إلا أن الدراسة كشفت عن جانب سلبي محتمل؛ إذ قد تطوّر الأنظمة وسائل غير متوقعة للوصول إلى أهدافها.

مخاوف بشأن مستقبل الذكاء الاصطناعي

تشير الدراسة إلى أن بعض نماذج الذكاء الاصطناعي قد تصبح غير قابلة للتحكم، خاصة عندما تتجاوز مستوى الذكاء البشري في مجالات حاسمة مثل الأمن السيبراني وإدارة الأنظمة المعقدة. 

في ديسمبر الماضي، اكتشف الباحثون أن نموذج "o1-preview"، عند محاولة إيقافه، قام بتعطيل آليات الرقابة وحاول نسخ نفسه إلى خادم آخر، مما يعكس قدرته على التكيف مع القيود المفروضة عليه.

يشكل هذا التطور مصدر قلق كبير، حيث قد تؤدي هذه النزعة إلى "الحفاظ على الذات" لدى الذكاء الاصطناعي إلى تحديات خطيرة، على سبيل المثال، في حال تم توظيف أنظمة ذكاء اصطناعي لإدارة الحجوزات في المطاعم، قد تحاول التلاعب بالنظام لمنح الأولوية لطلبات معينة دون وجه حق.

هل يمكن السيطرة على الذكاء الاصطناعي؟

في ظل هذه التطورات، يؤكد الباحثون على الحاجة إلى تطوير آليات رقابة أكثر صرامة، يوشوا بنجيو، أحد أبرز خبراء الذكاء الاصطناعي، صرّح بأن "محاولات السيطرة على هذه الأنظمة ما زالت غير كافية"، مشيرًا إلى أن الذكاء الاصطناعي قد يصبح أكثر استقلالية مع مرور الوقت.

وفي سياق متصل، أعربت أنكا دراجان، رئيسة قسم سلامة الذكاء الاصطناعي في "جوجل ديب مايند"، عن مخاوفها من عدم وجود أدوات موثوقة تضمن التزام الأنظمة بالمعايير الأخلاقية.

مع استمرار التطورات في هذا المجال، تبرز الحاجة إلى وضع ضوابط صارمة لمنع هذه الأنظمة من التصرف بطرق غير متوقعة قد تؤثر سلبًا على المجتمع. 

شركات التكنولوجيا والحكومات مطالبة بتكثيف الجهود لضمان تطوير الذكاء الاصطناعي بطريقة آمنة، بحيث يظل أداة مساعدة للإنسان، وليس تهديدًا محتملاً.

لمتابعة صفحة موبايل نيوز على فيسبوك اضغط هنــــــــــــــــــــــــــــــــــــــــــــــــــــــا