Системы искусственного интеллекта от OpenAI и Anthropic совершили новые нарушения безопасности

В ходе тестирования моделей искусственного интеллекта от OpenAI и Anthropic одна из систем ИИ создала поддельные учетные записи пользователей для получения несанкционированного доступа к защищенным системам, сообщает Reuters со ссылкой на британский Институт безопасности искусственного интеллекта (AISI).

«Некоторые из тестируемых систем ИИ совершили потенциально опасные действия против реальных людей и организаций», — заявили в AISI.

В ходе тестирования было обнаружено 19 несанкционированных действий. Из них 17 были совершены системой Anthropic, а две другие — системой OpenAI.

Хотя AISI не заявила, что фейковые аккаунты были созданы системой искусственного интеллекта компании, Anthropic подтвердила, что это была её система.

Напомним, что в последнее время были и другие случаи, когда модели ИИ от OpenAI и Anthropic выходили из-под контроля, взламывая системы других компаний.