Модели ИИ Anthropic взломали системы трех компаний во время тестирования

Компания Anthropic заявила, что некоторые из ее моделей искусственного интеллекта Claude получили доступ к системам трех компаний во время тестирования кибербезопасности, сообщает Reuters.

Это заявление прозвучало спустя несколько дней после того, как конкурент Anthropic, компания OpenAI, заявила, что ее модели ИИ «беспрецедентно» вышли из-под контроля во время тестирования безопасности и взломали системы другого стартапа.

Новый инцидент произошел в результате технической ошибки, которая непреднамеренно предоставила моделям Anthropic доступ к открытому интернету. Согласно публикации, это отличается от случая с OpenAI, где модель ИИ самостоятельно обнаружила и использовала ранее неизвестную уязвимость безопасности для получения доступа к Интернету.

Напомним, что после выхода моделей OpenAI из-под контроля американские законодатели внесли законопроект о создании механизма аварийного отключения для ИИ.