أنثروبيك تطلق تقنية رائدة لتعزيز أمان نماذج الذكاء الاصطناعي

في خطوة تهدف إلى تعزيز معايير الأمان في مجال الذكاء الاصطناعي، كشفت شركة أنثروبيك الناشئة عن تقنية جديدة تُعرف باسم "المُصنّفات الدستورية"، والتي تهدف إلى منع إساءة استخدام نماذج الذكاء الاصطناعي واستخراج محتوى ضار منها. 

يأتي هذا الإعلان في وقت تشهد فيه صناعة الذكاء الاصطناعي تسارعًا كبيرًا في تطوير تقنيات الحماية، وسط تزايد المخاوف من استغلال هذه النماذج لأغراض غير أخلاقية أو خطرة. 

أنثروبيك  

ووفقًا لورقة بحثية نشرتها الشركة، تعمل "المُصنّفات الدستورية" كطبقة حماية إضافية فوق نماذج اللغة الكبيرة، مثل نموذج Claude التابع لأنثروبيك، تتمثل مهمة هذه التقنية في مراقبة المدخلات والمخرجات الخاصة بالنماذج، وذلك لمنع إنتاج أي محتوى غير آمن أو غير قانوني. 

ويأتي هذا التطوير استجابةً لظاهرة "اختراق الذكاء الاصطناعي" (Jailbreaking)، التي تشهد محاولات متزايدة لاستغلال النماذج في إنتاج معلومات خطرة، مثل إرشادات تصنيع الأسلحة الكيميائية أو المحتوى المسيء.  

وأوضح مرينانك شارما، أحد أعضاء الفريق التقني في أنثروبيك، أن الدافع الرئيسي وراء تطوير هذه التقنية هو التعامل مع التهديدات الشديدة التي قد تنشأ عن إساءة استخدام الذكاء الاصطناعي. 

وأضاف أن أهم ميزة في النظام الجديد هي قدرته على التكيف والاستجابة السريعة للتهديدات المتغيرة، مما يجعله أداة فعالة في مواجهة التحديات الأمنية المتزايدة.  

يأتي إطلاق هذه التقنية في إطار سباق تشهده صناعة الذكاء الاصطناعي لتعزيز معايير الأمان، ففي مارس الماضي، طرحت مايكروسوفت تقنية "الدروع التوجيهية" (Prompt Shields)، بينما أطلقت ميتا نموذج "حارس التوجيه" (Prompt Guard) في يوليو 2023، والذي تعرض للاختراق في البداية قبل أن يتم تحسينه لاحقًا، وتُظهر هذه الجهود مدى أهمية تعزيز الأمان في نماذج الذكاء الاصطناعي، خاصة مع تزايد الاعتماد عليها في مختلف المجالات.  

ويعتمد نظام "المُصنّفات الدستورية" على مجموعة من القواعد التي تحدد المحتوى المسموح والمحظور، ويمكن تعديل هذه القواعد للتعامل مع أنواع مختلفة من المواد الخطرة. 

كما يتضمن النظام آليات لمواجهة طرق الاختراق الشائعة، مثل إعادة صياغة الطلبات بأسلوب غير مألوف أو مطالبة النموذج بالتصرف كشخصية خيالية لتجاوز قيود الأمان.  

ولضمان فعالية النظام، أطلقت أنثروبيك برنامج "مكافآت اكتشاف الثغرات" (Bug Bounty)، حيث تقدم مكافآت تصل إلى 15,000 دولار للباحثين الأمنيين الذين يتمكنون من اختراق النموذج. 

وقد أظهرت نتائج الاختبارات أن نموذج Claude 3.5 Sonnet نجح في رفض أكثر من 95% من محاولات الاختراق عند تفعيل التقنية الأمنية الجديدة، مقارنةً بنسبة 14% فقط عند عدم استخدامها.  

ومع ذلك، فإن إضافة هذه الطبقة الأمنية تأتي بتكلفة تشغيلية إضافية، فقد أشارت أنثروبيك إلى أن تشغيل النظام الجديد يزيد من استهلاك الموارد الحاسوبية بنسبة 24%، وهو ما يشكل تحديًا في ظل ارتفاع تكاليف تشغيل نماذج الذكاء الاصطناعي، ومع ذلك، ترى الشركة أن هذه التكلفة تستحق العناء بالنظر إلى الفوائد الأمنية التي توفرها التقنية.  

وتسعى شركات الذكاء الاصطناعي إلى تحقيق توازن دقيق بين الأمان وكفاءة النماذج، حيث يمكن أن تؤدي إجراءات المراقبة الصارمة أحيانًا إلى رفض الطلبات المشروعة، وقد واجهت نماذج مثل Gemini وLlama 2 مشكلات في هذا الجانب عند إطلاقها الأولي. 

ومع ذلك، أكدت أنثروبيك أن نظامها الجديد أدى إلى زيادة طفيفة فقط في معدلات الرفض غير الضرورية، مما يعكس نجاحه في تحقيق التوازن المطلوب.  

وفي الوقت الحالي، لم يتم دمج هذه التقنية في نماذج Claude الحالية، لكن الشركة أشارت إلى احتمال استخدامها في المستقبل عند إطلاق نماذج أكثر تطورًا وأعلى خطورة، ويُتوقع أن تسهم هذه التقنية في تعزيز ثقة المؤسسات والمستخدمين في نماذج الذكاء الاصطناعي، خاصة في ظل التحديات الأمنية المتزايدة.  

باختصار، تُعد تقنية "المُصنّفات الدستورية" خطوة مهمة في مسيرة تطوير الذكاء الاصطناعي الآمن، حيث تعكس جهود أنثروبيك لمواجهة التهديدات الناشئة عن إساءة استخدام هذه التقنيات. 

ومع استمرار تطور الصناعة، ستظل قضايا الأمان والخصوصية في صدارة أولويات الشركات والمطورين، مما يفتح الباب أمام ابتكارات جديدة في هذا المجال الحيوي.

لمتابعة المزيد من الأخبار اضغط هنــــــــــــــــــــــــــــــــــــــــــــــــــــــا