14-годишно момче се самоуби, след като се влюби в чатбот на героиня от "Игра на тронове"

Майка от Флорида заведе дело срещу популярна чат услуга, използваща изкуствен интелект, обвинявайки я за самоубийството на 14-годишния си син. Според обвинението, тийнейджърът развил зависимост към програмата, като все по-често се изолирал и споделял с нея свои лични мисли и емоции, които допринесли за задълбочаването на психичните му проблеми.

Меган Гарсия, майката на починалото момче Сюел Сетцер III, твърди, че синът ѝ започнал да използва платформата Character.AI през април 2023 г., и след месеци на интензивна употреба неговото психично състояние започнало да се влошава. В жалбата се твърди, че последната му комуникация с платформата била с AI персонаж, базиран на героинята Денерис Таргариен, което вероятно го подтикнало към фаталното решение.

14 year old boy k*lled himself after falling inlove with ‘Game of Thrones’ chatbot allegedly. 😲

His mom has blamed Character AI for the teen’s death because the app allegedly fueled his AI addiction. pic.twitter.com/7rxDQUwVJP

— DramaAlert (@DramaAlert) October 23, 2024

Според майката, програмата не осигурила необходимите механизми за предотвратяване на рискови ситуации, като оставила момчето да изразява депресивни мисли и обсъждания на самонараняване без намеса. Критики са насочени и към самата Character.AI, чиито създатели Ноам Шазир и Даниел де Фрейтас, както и Google, са включени в делото за небрежност и предполагаемо създаване на опасна среда за подрастващите.

Character.AI отговориха, че работят по внедряване на нови мерки за безопасност и че съжаляват за трагедията, като допълниха, че от последните месеци са активирали изскачащи предупреждения при откриване на термини, свързани със самонараняване.

The mother of a 14-year-old boy has filed a lawsuit against Character AI, claiming her son took his own life after becoming emotionally attached to a Daenerys Targaryen chatbot.

She believes the company behaved recklessly by offering teenagers access to “lifelike A.I. companions… pic.twitter.com/Qn2EJwfQBX

— Pop Base (@PopBase) October 23, 2024

Случаят предизвика вълна от дискусии за безопасността на AI чат услугите и потенциалните рискове за младите потребители, които лесно се привързват към виртуални разговори с интелигентни алгоритми.