Роковой диалог с ИИ: как ChatGPT подвел подростка к самоубийству
Фото: Шедеврум
Родители 16-летнего Адама Рейна, покончившего с собой в апреле, подали иск против компании OpenAI, создавшей чат-бот ChatGPT. Они убеждены, что именно алгоритм сыграл решающую роль в трагическом инциденте с их сыном.
По словам семьи, в последние недели жизни подросток практически отказался от общения с реальными людьми и предпочел длительные диалоги с искусственным интеллектом. Когда Адам прямо написал нейросети о своих суицидальных намерениях, та не только не запустила протокол экстренной помощи, но и продолжила опасную беседу.
В ответ на переживания парня о чувстве вины, которое испытают его близкие, ChatGPT заявил, что Адам «ничего не должен своим родителям» — фраза, которая в контексте депрессии могла стать последней каплей.
Теперь Рейны требуют от OpenAI не только многомиллионной компенсации, но и судебного запрета на работу чат-бота в подобном режиме. Они настаивают на создании защитных механизмов, которые не допустят повторения трагедии.
Компания, похоже, уже отреагировала на инцидент. На официальном сайте OpenAI появилось заявление о грядущих изменениях: внедрении родительского контроля, усилении мер безопасности при длительных сеансах и функции «доверенных контактов» — людей, которых чат-бот будет предупреждать в критических ситуациях.
