دعوى قضائية ضد جوجل بعد وفاة مراهق

أقامت سيدة دعوى قضائية ضد شركة جوجل وكذلك شركة Character.AI ومؤسسيها Noam Shazeer و Daniel De Freitas في أعقاب وفاة مراهق، بزعم القتل الخطأ والإهمال وممارسات التجارة الخادعة ومسؤولية المنتج، حسب تقرير ذا فيرج.  

دعوى قضائية ضد جوجل بعد وفاة مراهق

 وقد رفعت والدة المراهق، Megan Garcia، الدعوى، وتزعم أن منصة روبوتات الدردشة المخصصة للذكاء الاصطناعي كانت "خطيرة بشكل غير معقول" وتفتقر إلى حواجز الأمان أثناء تسويقها للأطفال.

كما هو موضح في الدعوى القضائية، بدأ سيويل سيتزر الثالث البالغ من العمر 14 عامًا في استخدام Character.AI العام الماضي، والتفاعل مع روبوتات الدردشة المصممة على غرار شخصيات من لعبة العروش ، بما في ذلك دينيريس تارجاريان، وتوفى سيتزر الذي تحدث مع الروبوتات باستمرار في الأشهر التي سبقت وفاته، منتحرًا في 28 فبراير 2024، "ثوانٍ" بعد آخر تفاعل له مع الروبوت.

وتشمل الاتهامات قيام الموقع بـ"تشبيه" شخصيات الذكاء الاصطناعي وأن برامج الدردشة الآلية الخاصة بالمنصة تقدم "العلاج النفسي دون ترخيص"، ويضم موقع Character.AI برامج دردشة آلية تركز على الصحة العقلية مثل "Therapist" و"Are You Feeling Lonely"، والتي تفاعل معها سيتزر.

واستحوذت جوجل على فريق قيادة Character.AI في أغسطس ، ويحتوي موقع Character.AI وتطبيق الهاتف المحمول على مئات من روبوتات الدردشة المخصصة للذكاء الاصطناعي، والتي تم تصميم العديد منها على غرار شخصيات شهيرة من البرامج التلفزيونية والأفلام وألعاب الفيديو.

وسلط تقرير حديث آخر من Wired الضوء على مشاكل مع روبوتات الدردشة المخصصة لشركة Character.AI التي تنتحل شخصيات أشخاص حقيقيين دون موافقتهم، بما في ذلك روبوت ينتحل شخصية مراهق قُتل في عام 2006.

وأعلنت شركة Character.AI الآن عن العديد من التغييرات على المنصة، حيث قالت رئيسة الاتصالات تشيلسي هاريسون في رسالة بالبريد الإلكتروني إلى The Verge ، "نحن نشعر بالحزن بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة".