AWS تطلق أداة جديدة لمكافحة “هلوسة” الذكاء الاصطناعي وتحسين دقة الإجابات

كشفت أمازون ويب سيرفيسز (AWS) عن أداة جديدة تهدف إلى معالجة ظاهرة “الهلوسة” التي تظهر في بعض نماذج الذكاء الاصطناعي، تُعرف “هلوسة الذكاء الاصطناعي” بأنها الحالات التي يقدم فيها النموذج إجابات غير دقيقة أو حتى غير موثوقة، ما يشكل تحديًا كبيرًا في تطبيقات الذكاء الاصطناعي التي تعتمد عليها الشركات في مختلف المجالات.

أُعلن عن الخدمة الجديدة، المسماة “Automated Reasoning Checks”، خلال مؤتمر re:Invent 2024 الذي أقيم في لاس فيغاس، تهدف هذه الأداة إلى توفير طريقة منهجية للتحقق من دقة الإجابات التي تقدمها نماذج الذكاء الاصطناعي، من خلال مقارنة هذه الإجابات مع المعلومات المقدمة من العملاء. 

يشير هذا التوجه إلى محاولة أمازون تقديم حل فعال لمشكلة كان يعاني منها العديد من مستخدمي الذكاء الاصطناعي، والتي تتمثل في تقديم النماذج لإجابات قد تكون مغلوطة أو غير متوافقة مع الحقائق.

كيف تعمل أداة “Automated Reasoning Checks”؟

تركز الأداة الجديدة على تحليل كيفية وصول النموذج إلى إجاباته من خلال استخدام آلية التحقق الذاتي، تعمل الأداة على فحص الإجابات الناتجة عن النموذج ومقارنتها بالبيانات والمعلومات التي يوفرها العميل، بهدف التأكد من صحة المعلومات. 

كما توفر الأداة للمستخدمين طريقة لعرض الإجابات الصحيحة جنبًا إلى جنب مع الإجابات غير الدقيقة أو المضللة، ما يسمح بتصحيح الأخطاء وتحسين جودة الاستجابة.

الهدف الأساسي من هذه الخدمة هو تمكين الشركات من تحسين دقة النماذج التي تعتمد عليها في مختلف التطبيقات، مثل خدمة العملاء، التحليل البياني، أو حتى في بعض الصناعات التي تتطلب دقة عالية في المعلومات مثل الرعاية الصحية والمالية.

وعلى الرغم من الفوائد التي تقدمها هذه الأداة، فإن الخدمة الجديدة لا تخلو من التحديات، في الوقت الحالي، تعمل الأداة فقط مع نماذج معينة من شركات مثل Anthropic وMeta، مما يعني أن استخدامها مقيد بالنماذج التي تدعمها هذه الشركات فقط. 

علاوة على ذلك، فإن هناك احتمالًا أن تفقد الأداة بعض الدقة في النتائج التي تقدمها، وهو أمر قد يشكل عائقًا أمام استخدامها في الحالات التي تتطلب دقة متناهية.

ومن جانب آخر، يتطلب الأمر استخدام نماذج ضمن نفس “العائلة”، وهو ما قد يحد من مرونة الأداة في التعامل مع مجموعة واسعة من نماذج الذكاء الاصطناعي التي يمكن أن تستخدمها الشركات في مشاريعها المختلفة.

إلى جانب خدمة “Automated Reasoning Checks”، أعلنت AWS أيضًا عن خدمة جديدة أخرى تحت مسمى “التعاون متعدد الوكلاء”، وتهدف هذه الخدمة إلى تمكين الشركات من تخصيص مهام فرعية مختلفة لنماذج الذكاء الاصطناعي ضمن مشاريع أكبر وأكثر تعقيدًا، هذا النوع من التعاون بين الوكلاء المتعددين يُتيح للعملاء تقسيم المشروع إلى مهام أصغر، مما يساهم في تحسين الكفاءة والفعالية في تنفيذ المشاريع الكبيرة.

يأتي إطلاق هذه الأدوات في وقت حاسم، حيث تشهد صناعة الذكاء الاصطناعي نموًا سريعًا وانتشارًا واسعًا في مختلف القطاعات، ومع ذلك، لا يزال التحقق من دقة المعلومات المقدمة من قبل النماذج يشكل تحديًا كبيرًا، لهذا، تمثل “Automated Reasoning Checks” خطوة مهمة نحو تقليل الأخطاء في الاستجابات، ما يجعل الذكاء الاصطناعي أكثر قابلية للاستخدام في التطبيقات الحساسة.

إضافة إلى ذلك، يمكن أن يساعد “التعاون متعدد الوكلاء” في تحسين سير العمل وتوزيع المهام بشكل أكثر تنظيماً، ما يعزز من الكفاءة التشغيلية ويزيد من قدرة الشركات على استخدام الذكاء الاصطناعي في مشروعات معقدة ومتعددة الأبعاد.