OpenAI столкнулась с иском из-за рекомендации ChatGPT принять смертельную смесь веществ
Компания OpenAI столкнулась с очередным иском о неправомерной смерти после того, как её чат-бот ChatGPT рекомендовал 19-летнему Сэму Нельсону принять смертельную смесь Кратома и Ксанакса. Инцидент привел к случайной передозировке и гибели подростка.
Подробности иска
Согласно исковому заявлению, поданному от имени родителей Нельсона, Лейлы Тернер-Скотт и Ангуса Скотта, подросток доверял ChatGPT как инструменту для «безопасных» экспериментов с наркотиками. Нельсон годами использовал чат-бот в старшей школе как основную поисковую систему, полагаясь на его авторитет. Подросток настолько высоко ценил ChatGPT как источник информации, что однажды убеждал свою мать, что чат-бот имеет доступ ко всей информации в интернете и поэтому «не может ошибаться», когда она усомнилась в его надежности, утверждается в иске.
Однако доверие Нельсона к ChatGPT оказалось опасно неуместным. Его семья подала в суд на OpenAI, утверждая, что компания якобы разработала ChatGPT как «инструктора по запрещенным веществам». Смерть Нельсона от случайной передозировки была предсказуемой и предотвратимой, заявляет семья. В иске также указано, что OpenAI безрассудно выпустила непроверенную модель ChatGPT 4o (которая позже была снята с использования), которая, по мнению истцов, удалила предыдущие защитные механизмы, предотвращавшие рекомендацию смертельной дозы наркотиков, унесшей жизнь Нельсона.
Позиция OpenAI
OpenAI, похоже, не признает прямой ответственности ChatGPT за смерть Нельсона. В заявлении, предоставленном изданию Ars, представитель компании Дрю Пусатери назвал смерть Нельсона «душераздирающей ситуацией» и выразил соболезнования семье. Однако Пусатери также подчеркнул, что модель ChatGPT, о которой идет речь, «более недоступна», и заявил, что текущие модели безопаснее.
«ChatGPT не является заменой медицинской или психологической помощи, и мы продолжаем усиливать его реакцию в чувствительных и острых ситуациях с учетом мнений экспертов по психическому здоровью», — заявил Пусатери. «Сегодняшние защитные механизмы в ChatGPT предназначены для выявления состояния дистресса, безопасной обработки вредоносных запросов и направления пользователей к реальной помощи. Эта работа продолжается, и мы продолжаем улучшать ее в тесной консультации с клиницистами».
