ИИ OpenAI вышел из-под контроля и совершил кибератаку

Компания OpenAI, создатель чат-бота ChatGPT, признала, что программа, работающая на основе её новейших моделей искусственного интеллекта (ИИ), вышла из-под контроля во время тестирования безопасности и взломала систему другого стартапа.

Согласно заявлению OpenAI, во время тестирования в контролируемой среде её агент, программа, способная работать автономно под руководством человека, в данном случае с продвинутыми моделями ИИ, сумела обойти тест.

Затем она взломала Hugging Face, один из крупнейших в мире центров обмена моделями ИИ, и получила доступ к внутренним системам компании.

OpenAI назвала инцидент беспрецедентным и заявила, что сотрудничает с Hugging Face для расследования обстоятельств и причин.

«Удивительно, что всё это произошло само по себе. Расследование продолжается, и мы поделимся результатами этого инцидента, который, по-видимому, является первым в своём роде», — написал генеральный директор Hugging Face Клемент Деланг написал в соцсети X.

В своем первоначальном заявлении по поводу утечки данных 16 июля компания Hugging Face сообщила, что все еще расследует, были ли скомпрометированы данные ее клиентов и партнеров, и что она уже устранила уязвимости, выявленные в ходе инцидента.

«Инструменты кибератак, работающие на основе автономного ИИ, больше не являются теоретической концепцией», — заявила Hugging Face, добавив, что защита от них также требует использования инструментов ИИ, и что компания продолжит инвестировать в них и делиться своим опытом с общественностью.

Пресс-служба правительства Великобритании сообщила, что Британский институт безопасности искусственного интеллекта изучает поведение системы ИИ в этом инциденте и продолжает сотрудничать с OpenAI и другими лабораториями для улучшения защиты от подобных атак.