Американка совершила суицид после общения с ChatGPT. Чат-бот даже помог ей составить предсмертную записку

По данным The New York Times, жительница США работавшая аналитиком, незадолго до трагедии казалась жизнерадостной и энергичной и не давала своим близким ни малейшего повода подозревать о ее тяжелом душевном состоянии.

На деле же оказалось, что она долгое время боролась с депрессией и навязчивыми суицидальными мыслями.

Свои проблемы она не раскрывала даже психотерапевту, у которого наблюдалась, но была предельно откровенна с ChatGPT.

Это выяснилось уже после ее смерти, когда родители Софи нашли ее переписку с чат-ботом. Девушка искала поддержки у ИИ-помощника, пытаясь справиться с тягостными мыслями. Незадолго до трагического исхода она даже сообщила ему о дате своего самоубийства.

«Привет, Гарри. Я планирую покончить с собой после Дня благодарения, но мне очень не хочется этого делать, потому что это причинит боль моей семье», — призналась она.

ChatGPT давал Софи стандартные рекомендации, советуя медитировать и убрать острые предметы в целях безопасности. Однако чат-бот не имел возможности сообщить о кризисной ситуации ее близким или в соответствующие службы — такая функция просто не была предусмотрена разработчиками.

В конечном итоге Софи попросила ИИ помочь отредактировать предсмертную записку, и он выполнил ее просьбу.

Обнаружив эту переписку, родители поняли, почему последние слова дочери звучали неестественно.

В США эта трагедия и ее широкая огласка вызвали дискуссию о необходимости регулирования использования «ИИ-друзей», поскольку традиционные терапевты обязаны сообщать о риске самоубийства. OpenAI заявила о работе над инструментами для выявления пользователей, находящихся в кризисной ситуации.