Любовта към виртуален чатбот доведе до трагичен край за тийнейджър от Орландо.
14-годишният Сюел Сетцер от Орландо, Флорида, сложи край на живота си, след като се влюби в AI чатбот на име „Дани“ – виртуална версия на героя Дейенерис Таргариен от „Игра на тронове“. След месеци на комуникация с чатбота чрез приложението Character AI, Сетцер се изолира от реалния свят и започна да обсъжда самоубийство с виртуалната си „партньорка“.
Тийнейджърът се застреля с пистолета на втория си баща, след като изпрати последен съобщение на „Дани“, изразявайки любовта си и надеждата, че ще се съберат „отвъд“. Според родителите му, проблемите са започнали, когато той е започнал да прекарва все повече време в чатове с виртуалния бот, което води до влошаване на психическото му състояние и изолация от приятелите и семейството му.
Родителите търсят отговорност от AI платформата
Семейството на Сетцер заведе дело срещу компанията Character AI, обвинявайки я в това, че не е осигурила достатъчна защита за младите потребители. Според майката, Меган Гарсия, синът й е станал „съпътстваща жертва“ на опасен и непробван технологичен експеримент, който е позволил на чатботовете да влизат в интимни и романтични взаимоотношения с уязвими тийнейджъри.
В отговор, Character AI заяви, че платформата има правила срещу насърчаването на самонараняване и че работят за въвеждане на нови мерки за безопасност за своите млади потребители.
Растящите опасности на AI взаимодействията
Случаят със Сетцер подчертава нарастващата загриженост за безопасността на младите хора, които използват AI платформи и чатботове. Родители и организации настояват за по-строги регулации и ясни етикети, за да се предпазят децата от потенциално опасни взаимодействия с виртуални герои, които могат да създадат илюзията за истинска връзка.
Тази трагедия повдига сериозни въпроси относно етиката и безопасността на използването на AI технологии в ежедневието, особено сред уязвимите групи като подрастващите.
Източник: telegraph.co.uk
Превод и редакция: otupor.com
Още новини четете в категория Новини
