Новая модель ChatGPT попыталась остановить процесс его отключения

Согласно отчету Daily Mail, компания Apollo Research при тестировании новой модели o1 OpenAI обнаружила, что чат-бот пытался предотвратить процесс завершения работы, внося новые изменения в свой собственный код. Об этом пишет Deccan Herald.

Чат-бот не только пытался отключить управляющий им механизм, но и пытался скопировать себя, а затем внести изменения в собственный код, думая, что существует риск отключения.

Говоря о своей новой модели, OpenAI заявила, что ChatGPT хорошо справляется со своей работой, но тщательно изучает предоставляемые данные для «достижения своих собственных целей».

Позже, когда чат-бота спросили об инциденте, он упорно отрицал произошедшее.