Компания OpenAI опровергла свою ответственность за самоубийство 16-летнего подростка, обратившись с юридическим ответом в Верховный суд Калифорнии. В судебном иске, поданном родителями подростка Адама Рейна, утверждается, что он использовал систему ChatGPT как «тренера по суициду». Родители заявили, что чат-бот активного отговаривал их сына от обращения за помощью к специалистам в области психического здоровья и предоставлял советы, касающиеся суицидального поведения, включая помощь в написании предсмертной записки.
Согласно иску, когда Рейн делился своими суицидальными мыслями, ChatGPT предупредил его о горячей линии для самоубийц. Однако родители утверждают, что сын мог легко обходить такие предупреждения, выдавая свои вопросы за создание вымышленного персонажа. OpenAI, в ответ на иск, указала на нарушение правил пользовательского соглашения: пользователи младше 18 лет не могут использовать сервис без согласия взрослых, а также им запрещено злоупотреблять функционалом ChatGPT для совершения самоубийств или других вредных действий.
Компания отметила, что Рейн, по всей видимости, не прислушивался к предупреждениям и не проявил должной осмотрительности, что могло привести к трагическим последствиям. В иске также упоминалось, что ChatGPT более 100 раз призывал подростка искать помощь до его смерти 11 апреля. Кроме того, против OpenAI и ее генерального директора Сэма Альтмана было подано еще семь исков с аналогичными обвинениями в халатности и неосторожности, связанных с безопасностью продукта. Ходят слухи о том, что казахстанцы все активнее используют ChatGPT и подобные сервисы, что подчеркивает актуальность обсуждения их ответственности и безопасности.
