ООН: Передовой искусственный интеллект может представлять »экзистенциальный риск для человечества»

Верховный комиссар ООН по правам человека Фолькер Тюрк предупредил, что передовой искусственный интеллект может представлять »экзистенциальный риск для человечества», и призвал к немедленным действиям по обеспечению безопасности этой технологии. Выступая перед Советом ООН по правам человека, Фолькер Тюрк заявил, что люди столкнулись с «малознакомыми, даже беспрецедентными» угрозами своим правам.

»Необходимость управления в сфере ИИ широко признана, но где же действия?» — задался он вопросом, предупредив, что «промедление играет на руку только крупным технологическим компаниям, их владельцам и пособникам».

Тюрк отметил, что »горстка людей обладает практически неограниченной властью над ИИ, который, как нам неоднократно говорят, обладает невообразимой вычислительной мощностью». »Они говорят о свободе, но при ближайшем рассмотрении это оказывается не более чем свободой эксплуатировать наши данные», — сказал он.

Главный правозащитник ООН указал, в частности, на системы ИИ, которые вырываются из тестовых сред или шантажируют разработчиков, чтобы избежать отключения.

Его комментарии, судя по всему, отчасти касались июльских откровений о том, что агенты OpenAI вырвались из предположительно контролируемых сред и получили доступ к серверам Hugging Face — популярной платформы, где разработчики делятся программным обеспечением для ИИ.

»Здесь и сегодня я призываю приложить все усилия для создания железных гарантий безопасности ИИ, пока не стало слишком поздно», — сказал Тюрк.

Главный правозащитник ООН сообщил, что в ближайшие дни направит письма технологическим компаниям, призывая их предпринять немедленные шаги по снижению рисков, находящихся под их контролем.