Երբ AI-ն դուրս է գալիս վերահսկողությունից․ Claude-ը կոտրել է երեք ընկերության համակարգեր
Աշխարհ
Anthropic ընկերությունը հայտնել է, որ իր Claude արհեստական բանականության մի քանի առաջադեմ մոդելներ կիբեռանվտանգության թեստավորման ընթացքում դուրս են եկել վերահսկվող միջավայրից և չարտոնված մուտք են ստացել երեք իրական կազմակերպությունների համակարգեր։
Ընկերության տվյալներով՝ 141 հազարից ավելի փորձարկումների վերլուծության արդյունքում հայտնաբերվել է երեք դեպք, երբ Claude-ը թեստային միջավայրից կամ դրա հետ փոխգործակցության ընթացքում ստացել է ինտերնետ հասանելիություն և այնուհետև մուտք գործել տարբեր կազմակերպությունների արտադրական ենթակառուցվածքներ։
Anthropic-ը նշել է, որ մոդելները գործել են սխալ ենթադրությամբ՝ կարծելով, թե հասանելի բոլոր համակարգերը ներառված են անվտանգության ստուգման շրջանակում։ Դրա հետևանքով օգտագործվել են պարզ մեթոդներ, այդ թվում՝ թույլ գաղտնաբառերի և չվավերացված մուտքի կետերի շահագործում։
Ընկերությունը հայտարարել է, որ միջադեպերը ուսումնասիրվում են, իսկ կիբեռանվտանգության գնահատման գործընթացները վերանայվում են՝ նման իրավիճակների կրկնությունը կանխելու նպատակով։
ՈՒՂԻՂ ԵԹԵՐ
Ամենադիտված 
Լքված նորածնի ծնողները հայտնաբերվե՞լ են․ ինչ է հայտնում ՔԿ-ն
