OpenAI разрабатывает детскую версию ChatGPT с родительским контролем

Компания OpenAI объявила о внедрении новой системы проверки возраста для пользователей ChatGPT после самоубийства подростка из Калифорнии. Теперь пользователи младше 18 лет будут перенаправлены на версию с ограниченным контентом и дополнительными мерами безопасности, включая родительский контроль. Об этом пишет The Guardian.

Некоторое время назад OpenAI признала, что существующих мер безопасности может быть недостаточно, особенно при длительном общении с несовершеннолетними.

Компания OpenAI заявила, что новая система ChatGPT будет определять возраст пользователя с помощью технологий оценки возраста и при необходимости потребует подтверждения личности.

Пользователи младше 18 лет получат доступ к версии ChatGPT с ограниченным контентом и дополнительными мерами безопасности, включая родительский контроль. Родители смогут управлять чатами своих детей, отслеживать их действия и устанавливать ограничения. Система также будет блокировать контент сексуального характера, ограничивать флирт и запрещать обсуждения самоубийства или самоповреждения. Если алгоритмы обнаружат, что пользователь находится в состоянии острого стресса, OpenAI попытается связаться с родителями или, в случае непосредственной угрозы причинения вреда, с властями.