أداة “Whisper” من OpenAI تواجه انتقادات حادة بسبب اختلاق النصوص

مراجعة : ياسين عبد العزيز

الأربعاء، 30 أكتوبر 2024 05:24 م

OpenAI

تتعرض أداة التفريغ الصوتي "Whisper" التي طورتها شركة OpenAI لانتقادات متزايدة بسبب مشاكل تتعلق باختلاق نصوص غير دقيقة ضمن تفريغ التسجيلات الصوتية.

وقد أثار هذا الأمر مخاوف حقيقية في بعض القطاعات الحساسة، مثل المستشفيات والمراكز الطبية، التي تعتمد على هذه التقنية لضمان دقة المعلومات وموثوقيتها.

مشكلات تتعلق بالدقة

تشير التقارير إلى أن "Whisper" قد تتضمن معلومات خاطئة، تشمل أدوية وهمية، وتعليقات عنصرية، وحتى عبارات تحث على العنف.

وقد أشار عدد من المطورين والباحثين الأكاديميين إلى أن الأداة تُدرج بيانات غير دقيقة بشكل متكرر، مما يعكس مدى جدية هذه المشكلة.

وعلى الرغم من هذه التحذيرات، حققت النسخة الأحدث من الأداة نحو 4.2 مليون عملية تحميل عبر منصة HuggingFace المفتوحة المصدر خلال الشهر الماضي، كما تم دمج الأداة في منصات الحوسبة السحابية الخاصة بشركتي أوراكل ومايكروسوفت، بالإضافة إلى بعض إصدارات ChatGPT.

جمعت الأدلة من قبل عدة جامعات وفرق بحثية مختصة، مما يشير إلى أن هذه المشكلات ليست حالات فردية، بل هي ظاهرة منتشرة على نطاق واسع.

على سبيل المثال، رصد باحث من جامعة ميشيغان اختلاق نصوص في ثمانية من كل عشرة تسجيلات لاجتماعات عامة، وفي دراسة أخرى، وثق علماء حاسوب 187 حالة "هلوسة" خلال تحليل أكثر من 13 ألف تسجيل صوتي، بينما عُثر على مثل هذه الاختلاقات في تفريغ النصوص لنحو 26 ألف تسجيل.

تزداد خطورة هذه الأخطاء بشكل خاص في المجال الطبي. حيث تم الإبلاغ عن أن شركة "نابلا"، التي تعتمد على أداة "Whisper" لتفريغ التسجيلات الطبية، تقدم خدماتها لأكثر من 30 ألف طبيب و40 نظامًا صحيًا. وقد استخدمت الأداة لتفريغ ما يقارب 7 ملايين استشارة طبية حتى الآن.

ومع ذلك، لا توجد آلية موثوقة للتحقق من دقة النصوص المفرغة، وهو ما دفع الشركة إلى حذف بعض البيانات لحماية الخصوصية.

وقد أكد المسؤولون في الشركة أنهم يطلبون من الأطباء مراجعة النصوص وتحريرها بسرعة، مما يضع عبئًا إضافيًا على الطواقم الطبية ويثير تساؤلات حول إمكانية تطبيق ذلك بشكل فعال.

تظل الدقة التامة في تفريغ التسجيلات الصوتية هاجسًا رئيسيًا، خاصة في مجالات حساسة مثل الطب، حيث قد يؤدي اختلاق النصوص إلى تداعيات خطيرة على القرارات العلاجية، فالأخطاء قد تؤدي إلى تشخيصات خاطئة أو وصفات غير صحيحة، مما يؤثر بشكل مباشر على صحة المرضى.