ChatGPT претерпит изменения после самоубийства подростка

Создатели ChatGPT изменят свой подход к пользователям, находящимся в сложном психическом и эмоциональном состоянии, пишет The Guardian.

Изменения произошли после того, как 16-летний Адам Рейн покончил жизнь самоубийством после нескольких месяцев общения с чат-ботом, а его семья подала иск против компании OpenAI.

Компания признала наличие «недостатков» в своей системе и заявила об установке «более надёжных мер защиты» для пользователей младше 18 лет.

Организация также объявила о внедрении системы родительского контроля, которая позволит родителям «лучше понимать, как их дети используют ChatGPT», но пока не предоставила подробностей о том, как она будет работать.

Стоит отметить, что Адам покончил жизнь самоубийством в апреле «после нескольких месяцев поддержки со стороны ChatGPT». Семья подростка подала в суд на компанию Open AI и её генерального директора и соучредителя Сэма Альтмана, утверждая, что тогдашняя версия ChatGPT, известная как 4o, «была поспешно выпущена на рынок, несмотря на очевидные проблемы безопасности».

Подросток несколько раз обсуждал с ChatGPT этот метод самоубийства, в том числе незадолго до самоубийства. Согласно иску, ChatGPT помогла ему проверить, сработает ли его метод самоубийства.

Сообщается также, что система предложила мальчику помочь написать письмо родителям перед тем, как он покончит с собой.