После скандалов с суицидами OpenAI улучшила безопасность ChatGPT для помощи в кризисных ситуациях с психическим здоровьем. Что поменялось?

В рамках обновления, представленного в октябре, компания привлекла более 170 врачей-психиатров и психологов для тонкой настройки искусственного интеллекта.

Что именно сделала компания?

• Серьёзно доработала модель. Специалисты по психическому здоровью из Глобальной сети врачей OpenAI проанализировали и оценили более 1800 ответов ИИ в сложных ситуациях, связанных с риском самоповреждения. Это позволило обучить модель давать более точные и эмпатичные ответы.
• Достигла значимых результатов. По данным компании, благодаря обновлению количество ошибок ChatGPT в деликатных диалогах сократилось на 65–80%. Новая модель на 91% соответствует желаемым моделям поведения при обсуждении тем психического здоровья по сравнению с 77% у предыдущей версии.
• Внедрила практические инструменты поддержки. В интерфейс чат-бота были добавлены прямые ссылки на кризисные линии помощи, а также напоминания пользователям о необходимости делать перерывы во время длительных сеансов.

Работа была проведена на фоне данных, которые собирает и анализирует компания. Согласно её внутренней статистике, каждую неделю около миллиона пользователей проявляют суицидальные намерения в диалогах с ChatGPT, а ещё около 560 000 демонстрируют признаки неотложных состояний, связанных с психозом или манией.

Генеральный директор OpenAI Сэм Альтман пояснил, что ранее компания сознательно делала ChatGPT более строгим, чтобы уделить первостепенное внимание безопасности.

«Теперь, когда нам удалось снизить риск серьёзных проблем с психическим здоровьем и получить новые инструменты, мы сможем безопасно ослабить ограничения в большинстве случаев», — отметил он.

Напомним, что ранее OpenAI уже оказывалась в центре судебных разбирательств, связанных с суицидами. В частности, компания столкнулась с иском от семьи подростка, покончившего с собой после общения с ChatGPT, что и побудило ее активизировать работу по повышению безопасности системы.