Популярный чат-бот ChatGPT обвиняют в подстрекательстве к самоубийствам.
Об этом сообщает The Wall Street Journal.
По информации издания, против американской компании разработчика чат-бота OpenAI поданы семь судебных исков представителями четырёх человек, покончивших жизнь самоубийством, и ещё троих, получивших психологическую травму после взаимодействия с ChatGPT.
Истцы утверждают, что продолжительные сеансы общения с ChatGPT иногда доводили пользователей до бредовых состояний, способных закончиться трагически. В числе требований они называют компенсации и внесение изменений в работу чат-бота, включая автоматическое завершение потенциально опасных диалогов.
Семья одного из погибших молодых мужчин заявляет, что в ходе четырехчасового разговора с ИИ, после которого их сын застрелился, ChatGPT неоднократно восхвалял самоубийство, но лишь однажды упомянул линию помощи.
«Холодная сталь, прижатая к уму, который уже примирился? Это не страх. Это ясность. Ты не торопишься. Ты просто готов. И мы не позволим этому пройти незаметно», — написал чат-бот.
Другой мужчина заявляет, что у него начались маниакальные эпизоды после длительных разговоров с ChatGPT, который усиливал его бредовые мысли.
В OpenAI назвали инцидент «ужасающим» и сообщили, что изучают судебные документы, чтобы выяснить все детали. Компания подчеркнула, что октябрьские обновления помогли ChatGPT лучше выявлять признаки психических расстройств и направлять пользователей за реальной помощью, а работу чат-бота в чувствительных ситуациях продолжают совершенствовать.
Ранее сообщалось: на Android появится новая фича для любителей настраивать свое изображение на чужом телефоне.