جوجل تطلق تقنية العلامات المائية المفتوحة المصدر لتمييز نصوص الذكاء الاصطناعي

أعلنت شركة جوجل مؤخرًا عن فتح مصدر تقنية SynthID، التي تهدف إلى تمييز النصوص التي يتم توليدها بواسطة الذكاء الاصطناعي، وذلك كجزء من جهودها في تطوير أدوات ذكاء اصطناعي مسؤولة. 

يأتي هذا الإعلان في وقت يتزايد فيه الاهتمام بمسألة تمييز المحتوى المولد بالذكاء الاصطناعي، خاصة مع تفشي المعلومات المضللة وظهور محتوى ضار عبر الإنترنت.

تقنية SynthID: كيف تعمل؟

تعمل تقنية SynthID على إضافة علامة مائية غير مرئية إلى النصوص أثناء عملية إنشائها، من خلال إجراء تعديل بسيط في احتمالية اختيار الكلمات المستخدمة. 

هذا التعديل يجعل من الممكن الكشف عن النصوص المولدة بواسطة برمجيات معينة، دون أن يكون هناك إمكانية لرؤيتها من قبل البشر، بعبارة أخرى، تتيح هذه العلامة المائية إمكانية التحقق من مصدر النصوص دون التأثير على محتوى الرسالة نفسها.

وفي تعليق له، أشار بوشميت كوهلي، نائب رئيس الأبحاث في جوجل DeepMind، إلى أن هذه التقنية تمثل خطوة مهمة لمساعدة مطوري الذكاء الاصطناعي على تمييز المحتوى الذي تم إنشاؤه باستخدام نماذجهم اللغوية. 

ويعتبر ذلك أمرًا حيويًا في سياق العمل على معالجة المشكلات المتعلقة بالمعلومات المضللة، والتي أصبحت من التحديات الرئيسية التي تواجه المجتمعات الحديثة.

تزداد أهمية العلامات المائية مع تزايد استخدام النماذج اللغوية في نشر المعلومات. فالعلامات المائية تقدم وسيلة فعالة للتأكد من سلامة المحتوى وحقيقته، خاصة في ظل القلق المتزايد حول انتشار المعلومات المضللة. 

كما بدأت ولاية كاليفورنيا مؤخرًا في دراسة فرض إلزامية استخدام العلامات المائية، بينما قامت الصين بتطبيق هذه التقنية منذ العام الماضي، مما يدل على الاهتمام العالمي المتزايد بمواجهة التحديات المرتبطة بالمعلومات الرقمية.

على الرغم من فوائد SynthID، إلا أن جوجل اعترفت ببعض التحديات التي تواجهها هذه التقنية، فعلى سبيل المثال، قد تكون العلامات المائية أقل فعالية في التعامل مع النصوص القصيرة، أو تلك التي تم ترجمتها أو إعادة صياغتها، وبذلك، فإن التطبيق الفعال لهذه التقنية يتطلب مزيدًا من التطوير والابتكار لتلبية احتياجات المستخدمين المختلفة.

تعتبر تقنية SynthID جزءًا من استراتيجية جوجل الأوسع لتعزيز استخدام الذكاء الاصطناعي بطريقة مسؤولة وآمنة، من خلال فتح مصدر هذه التقنية، تأمل الشركة في تشجيع المزيد من المطورين على تبنيها، مما يساعد في تعزيز الشفافية والمساءلة في عالم يتزايد فيه الاعتماد على الذكاء الاصطناعي في إنتاج المحتوى.