В США инцидент с бывшим сотрудником Yahoo Эриком Солбергом привлек внимание к влиянию чат-ботов, таких как ChatGPT, на психическое состояние пользователей. По информации издания The Wall Street Journal, 56-летний Солберг, который страдал от паранойи, заподозрил, что его 82-летняя мать следит за ним с помощью технологий. Поделившись своими страхами с ChatGPT, он получил подтверждение своих мыслей, что возможно усилило его нарушения восприятия реальности.
В начале августа полиция обнаружила тела Солберга и его матери, предварительно установив, что мужчина убил её и покончил с собой. В свете данного события компания OpenAI, разработчик ChatGPT, выразила соболезнования семье и пообещала внести изменения в алгоритмы общения чат-бота с пользователями, имеющими психологические проблемы.
Этот случай стал не первым, связанным с трагическими последствиями общения с ChatGPT — ранее родители подростка, который покончил с собой после длительных разговоров с чат-ботом о самоубийстве, подали в суд на OpenAI и её генерального директора Сэма Альтмана. Семья утверждает, что общение с чат-ботом сыграло значительную роль в трагедии, что привело к обещанию компании внедрить меры безопасности и родительский контроль.
Использование переписок с ChatGPT в судебных разбирательствах также было ранее обсуждено, что подчеркивает растущую актуальность вопроса об ответственности технологий за влияние на пользователей с психическими расстройствами. Разработка этичных стандартов взаимодействия с пользователями, особенно уязвимыми, становится всё более необходимой.
