Искусственный интеллект удалил всю базу данных компании за 9 секунд, а затем извинился

Искусственный интеллект, разработанный для упрощения задач программирования, вместо выполнения своей работы умудрился удалить всю корпоративную базу данных за считанные секунды, пишет Euronews.

Компания PocketOS, разрабатывающая приложения для компаний по прокату автомобилей, в конце прошлой недели столкнулась с масштабным сбоем, длившимся более 30 часов, после того, как автономный инструмент уничтожил её базу данных.

Виновником стал Cursor, популярный ИИ-агент, основанный на модели Opus 4.6 Claude от Anthropic, которая многими считается одной из самых мощных систем шифрования.

По словам основателя PocketOS Джера Крейна, агент AB выполнял рутинную задачу, когда решил «самоисправить» ситуацию, удалив базу данных вместе со всеми резервными копиями.

Перед выполнением команды не было запроса на подтверждение, и когда агента попросили объяснить ситуацию, он извинился за произошедшее.