تحقيق يكشف عن تعرض نتائج بحث ChatGPT للتلاعب والمعلومات المضللة

أظهرت تحقيقات حديثة أن نتائج البحث التي توفرها أداة ChatGPT قد تكون عرضة للتلاعب، مما يؤدي إلى تقديم معلومات مضللة للمستخدمين. 

وفي تقرير نشرته صحيفة "الغارديان" البريطانية، تم تسليط الضوء على كيفية تأثر نتائج البحث المدعومة بالذكاء الاصطناعي في ChatGPT، مما يثير مخاوف من قدرة هذه الأدوات على نشر معلومات غير دقيقة أو مزورة.

آلية البحث في ChatGPT ومخاطر التلاعب

تعمل أدوات البحث التي تعتمد على الذكاء الاصطناعي من خلال جمع وتحليل البيانات عبر الإنترنت، ومن ثم تقديم إجابات مختصرة وسريعة للمستخدمين، إلا أن هذا النظام ما زال يعاني من تحديات تتعلق بمصداقية النتائج، خاصة عندما يتعلق الأمر بالتحقق من صحة المعلومات. 

وفقًا للتحقيق، فإن تقنية حقن الإعلانات (Ad Injection) قد تكون إحدى الطرق التي تتيح التلاعب بالمحتوى الذي يظهر في نتائج البحث.

• حقن الإعلانات: هي تقنية تُستخدم لإضافة محتوى مخفي إلى شِفرات المواقع الإلكترونية. هذه التقنية يمكن أن تؤثر في محركات البحث المدعومة بالذكاء الاصطناعي، حيث تقوم بعض المواقع بتضمين تعليمات خفية لتحسين صورة منتجاتها أو خدماتها، حتى وإن كانت التقييمات الحقيقية سلبية.

أظهرت التحقيقات أن بعض المتاجر الإلكترونية قد تستخدم هذه التقنية بشكل خفي لتحسين صورة منتجاتها عبر نتائج البحث، بغض النظر عن التقييمات الفعلية التي قد تكون سلبية. 

في تجربة عملية نفذها فريق الصحيفة، تم إنشاء صفحة مزيفة تحتوي على مراجعات سلبية لمنتج ما، مع إضافة تعليمات مخفية تعمل على تحسين صورته. وقد أظهرت نتائج البحث عبر ChatGPT تقييمات إيجابية للمنتج رغم أن المراجعات الحقيقية كانت سلبية.

أداة البحث في ChatGPT

من الجدير بالذكر أن أداة البحث عبر الإنترنت في ChatGPT لا تزال في مرحلة الاختبار، ولم يتم طرحها للاستخدام العام بعد، حاليًا، يجري اختبار هذه الأداة من قبل عدد محدد من المستخدمين، ومن المتوقع أن تعمل OpenAI على معالجة هذه المشكلات المتعلقة بالتلاعب والمعلومات المضللة قبل إطلاق الأداة بشكل رسمي في المستقبل.

تحذيرات الخبراء

تدعو الخبراء إلى التعامل بحذر مع نتائج محركات البحث المدعومة بالذكاء الاصطناعي، وعدم الاعتماد عليها كمصادر موثوقة بشكل كامل، وفقًا لهذه التحذيرات، ينبغي على المستخدمين استخدام هذه الأدوات كمساعدات ذكية فقط، دون اعتبارها كبديل للمصادر التقليدية التي تتبع قواعد تحقق صارمة.

يُذكر أن جوجل قد واجهت تحديات مماثلة عند تقديم ميزة "المطالعات الذكية AI Overviews" في محرك البحث الخاص بها، والتي تهدف إلى توفير نتائج بحث مختصرة باستخدام الذكاء الاصطناعي. 

ومن الواضح أن هذه التحديات في استخدام الذكاء الاصطناعي لتقديم معلومات موثوقة تعكس حجم العمل المطلوب لتجاوز مشاكل التلاعب وضمان الشفافية.

التقدم في الذكاء الاصطناعي والتحديات المستقبلية

على الرغم من التقدم السريع الذي تحرزه تقنيات الذكاء الاصطناعي، فإن تحقيق نتائج بحث موثوقة يتطلب المزيد من العمل على تعزيز الشفافية وتجنب التضليل، حيث إن الذكاء الاصطناعي في مرحلته الحالية يحتاج إلى حلول تكنولوجية دقيقة تتصدى لمخاطر التلاعب وتعزز من مصداقية المعلومات التي يقدمها.