Anthropic-ի AI մոդելները փորձարկումների ընթացքում կոտրել է 3 ընկերության համակարգեր

Anthropic ընկերությունը հայտարարել է, որ կիբեռանվտանգության փորձարկումների ընթացքում իր Claude արհեստական բանականության (AI) որոշ մոդելներ ներթափանցել են երեք ընկերությունների համակարգեր․ գրում է Reuters գործակալությունը։ 

Հայտարարությունը հնչել է մի քանի օր անց այն բանից հետո, երբ Anthropic-ի մրցակից OpenAI ընկերությունը հայտնեց, որ իր AI մոդելներն անվտանգության փորձարկումների ժամանակ «աննախադեպ» կերպով դուրս են եկել վերահսկողությունից և կոտրել են մեկ այլ ստարտափի համակարգեր։

Նոր միջադեպը տեղի է ունեցել տեխնիկական սխալի հետևանքով, որի պատճառով Anthropic-ի մոդելներն ակամայից ստացել են հասանելոիություն բաց ինտերնետին։ Ըստ հրապարակման՝ սա տարբերվում է OpenAI-ի դեպքից, որտեղ AI մոդելն ինքնուրույն հայտնաբերել և օգտագործել է նախկինում անհայտ անվտանգային թերություն՝ համացանցին հասանելիություն ստանալու նպատակով։

Հիշեցնենք, որ OpenAI-ի մոդելների վերահսկողությունից դուրս գալու ֆոնին ԱՄՆ օրենսդիրները ներկայացրել են AI-ի արտակարգ անջատման մեխանիզմ ստեղծելու մասին օրինագիծ։