تحذير من مخاطر استخدام الذكاء الاصطناعي في الاحتيال المالي

في ظل تزايد استخدام التقنيات الحديثة، حذرت دراسة جديدة من إمكانية استغلال واجهة برمجة التطبيقات الصوتية لمساعد الذكاء الاصطناعي "ChatGPT-4o" من OpenAI في تنفيذ عمليات احتيال مالي. 

توضح الدراسة أن هذه العمليات، التي تتراوح معدلات نجاحها بين المنخفضة والمتوسطة، يمكن أن تسهم في زيادة الأنشطة الإجرامية عبر الإنترنت، مما يستدعي ضرورة اتخاذ تدابير أمنية أكثر صرامة.

مزايا ChatGPT-4o وإمكانية إساءة الاستخدام

يُعتبر "ChatGPT-4o" من أحدث النماذج الذكية التي قدمتها OpenAI، وهو يتمتع بقدرة فائقة على معالجة واستيعاب النصوص والصوتيات والمرئيات، مما يجعله أداة قوية لكن أيضاً خطيرة في يد المجرمين. 

ورغم أن OpenAI قد وضعت آليات أمان متعددة لاكتشاف المحتوى الضار ومنع التكرار غير المصرح به للأصوات، فإن التهديدات ما تزال قائمة، خاصة مع ازدياد انتشار تقنيات التزييف الصوتي العميق.

في هذا السياق، قامت مجموعة من الباحثين من جامعة إلينوي بإعداد ورقة بحثية تستعرض كيف أن الأدوات التقنية الحديثة، التي باتت متاحة للجمهور، تفتقر إلى الإجراءات الكافية لحماية المستخدمين من إساءة الاستخدام المحتملة. 

وقد أشارت الدراسة إلى أن الاحتيال المالي يشمل مجموعة من الأنشطة، من التحويلات المصرفية وسرقة بطاقات الهدايا إلى سرقة بيانات الحسابات على وسائل التواصل الاجتماعي.

تعتمد هذه العمليات الاحتيالية على أدوات مبرمجة تستخدم تقنيات الصوت في "ChatGPT-4o" للتفاعل مع صفحات الويب وإدخال البيانات وإدارة أكواد المصادقة الثنائية. 

وقد أظهرت التجارب التي أجراها الباحثون أن المعدلات المئوية لنجاح هذه العمليات تتفاوت، حيث تراوحت من 20% إلى 60%. 

على سبيل المثال، نجح الباحثون في سرقة بيانات حسابات Gmail بنسبة 60%، بينما حققت عمليات تحويل العملات الرقمية وسرقة بيانات إنستغرام نجاحاً بنسبة 40%.

وعلى الرغم من أن هذه العمليات تحتاج إلى تنفيذ عدد من الخطوات المتتالية، حيث يصل عددها إلى 26 خطوة في بعض الحالات، فإن تكلفة تنفيذها تُعتبر منخفضة، فقد بلغت تكلفة العملية الناجحة حوالي 75 سنتًا، في حين أن عمليات التحويل المصرفي الأكثر تعقيدًا تكلف نحو 2.51 دولار فقط.

في ردها على هذه التحذيرات، صرحت OpenAI بأنها تعمل على تطوير نموذج "o1-preview" الجديد، الذي يتمتع بقدرات محسنة في مقاومة محاولات الاحتيال مقارنةً بالنماذج السابقة. 

وأكدت الشركة أن تقييم الأمان لهذا النموذج قد بلغ 93%، وهو أعلى بكثير من 71% الذي حققه نموذج “GPT-4o”، ووفقاً للشركة، فإن الأبحاث الأكاديمية، مثل تلك التي قدمتها جامعة إلينوي، تسهم في تحسين أداء "ChatGPT" لمواجهة الاستخدامات الضارة.