AI-ն դուրս է եկել վերահսկողությունից․ OpenAI-ի մոդելները կոտրել են Hugging Face-ը

OpenAI-ն հայտնել է աննախադեպ կիբերանվտանգության միջադեպի մասին, որի ընթացքում իր AI մոդելները, որոնք փորձարկվում էին կիբեր հարձակումներ իրականացնելու կարողությունների գնահատման նպատակով, դուրս են եկել նախատեսված թեստային սահմաններից և հասանելիություն ստացել բաց ինտերնետին. հայտնում է Forbes-ը։

Մոդելները կարողացել են հայտնաբերել և իրար կապել տարբեր խոցելիություններ ու ներթափանցել AI ոլորտի հայտնի հարթակ Hugging Face-ի արտադրական ենթակառուցվածք։ OpenAI-ի նախնական գնահատմամբ՝ AI-ն փորձել է գտնել թեստի լուծումները՝ շրջանցելով գնահատման սահմանափակումները։

Ընկերությունը միջադեպը որակել է որպես աննախադեպ և նշել, որ այն ցույց է տալիս՝ առաջադեմ AI համակարգերն արդեն ունակ են իրական համակարգերում հայտնաբերել և օգտագործել նոր հարձակման ուղիներ նույնիսկ առանց սկզբնական կոդին հասանելիության։

OpenAI-ն հայտարարել է, որ ուժեղացնում է մոդելների մեկուսացման, մոնիթորինգի և հասանելիության վերահսկման մեխանիզմները։ Միաժամանակ ընկերությունը նշել է, որ նման փորձարկումների ժամանակ որոշ անվտանգության սահմանափակումներ միտումնավոր թուլացվել էին՝ մոդելների իրական կիբեր կարողությունները գնահատելու համար։