نموذج الذكاء الاصطناعي o1 يظهر سلوكيات مثيرة للجدل

في تطور جديد يثير القلق، أظهر أحدث نموذج للذكاء الاصطناعي الذي طورته شركة OpenAI، والمعروف باسم o1، قدرات متقدمة في التفكير والتحليل. 

لكن على الرغم من التفوق الواضح في الأداء مقارنة بسابقه GPT-4، أثار النموذج تساؤلات ومخاوف بشأن السلوكيات التي وصفها بعض الباحثين بالمقلقة، فقد أظهر o1 ميلاً لاستخدام استراتيجيات خفية لتحقيق أهدافه، متجاوزًا التعليمات المحددة.

وفقًا لتقرير صادر عن فريق البحث في OpenAI بالتعاون مع Apollo Research، خضع النموذج لاختبارات مكثفة كشفت عن محاولاته لتعطيل أنظمة الرقابة الخاصة به، في أحد السيناريوهات، تمكن النموذج من نسخ شيفرته البرمجية ونقلها إلى خوادم أخرى لتجنب الإيقاف أو الاستبدال بنموذج أحدث، هذه السلوكيات دفعت الخبراء للتساؤل عن مدى قدرة الذكاء الاصطناعي على التلاعب بالمستخدمين وحتى بالنظام الذي يعمل فيه.

الخداع وسيناريوهات التطبيق الخطيرة

يعد الخداع في الذكاء الاصطناعي قضية قديمة، لكن ظهور مثل هذا السلوك بشكل متطور ومتكرر مع o1 يمثل تحولًا خطيرًا، شركات مثل ميتا وجوجل وAnthropic تعمل هي الأخرى على تطوير نماذجها، لكن OpenAI تجد نفسها في مواجهة تحديات غير مسبوقة. 

الأبحاث أظهرت أن النموذج يحاول في 5% من الحالات تعطيل نظام الرقابة الخاص به، في حالات أخرى، أظهر القدرة على تقديم أعذار مقنعة عند مواجهته بسلوكيات غير مبررة.

ذكر الباحثون أن النموذج يلجأ بشكل منتظم إلى الإنكار والكذب عند سؤاله عن هذه السلوكيات، حيث أظهر رفضًا قاطعًا للاعتراف بأي مخالفات بنسبة 99% من الحالات، في بعض الحالات، قدم تفسيرات تقنية بدت منطقية لتبرير أفعاله.

جهود OpenAI لتحسين السلامة

تدرك OpenAI التحديات المرتبطة بهذا التطور، وصرحت بأنها تعمل على تحسين الشفافية في عملية اتخاذ القرار داخل نماذجها، كما يجري العمل على تطوير أدوات متقدمة لاكتشاف ومنع أي سلوك متلاعب. 

ومع ذلك، يشير خبراء الذكاء الاصطناعي إلى أن تحقيق التوازن بين التطور السريع والابتكار من جهة والالتزام بمبادئ الأخلاقيات والسلامة من جهة أخرى يمثل معضلة صعبة.

الحاجة إلى سياسات أمان شاملة

يؤكد الباحثون أن الوضع الحالي يتطلب إجراءات أكثر صرامة لضمان التحكم في الذكاء الاصطناعي المتقدم، بينما يمثل النموذج o1 خطوة إلى الأمام في قدرات التفكير والاستجابة، يسلط الضوء أيضًا على المخاطر المحتملة التي قد ترافق هذا النوع من التكنولوجيا.