54 տոկոսից՝ 0,2 տոկոս․ ի՞նչ է չափել OpenAI-ը մոդելների պաշտպանության փորձարկման ժամանակ
Գիտություն և Մշակույթ
OpenAI-ը նոյեմբերի 20-ին հրապարակել է փորձարկման արդյունքներ այն մասին, թե որքանով է հնարավոր ստանալ մոդելի պատասխանի հետևում եղած ներքին միջանկյալ քայլերը։ Ընկերության ներքին թեստում նման փորձերի հաջողության միջին ցուցանիշը GPT-6 Astra-ի դեպքում եղել է 54 տոկոս, իսկ նոր պաշտպանությամբ GPT-6.2 Astra-ի դեպքում՝ 0,2 տոկոս։
Այս քայլերը տարբերվում են օգտատիրոջը ցուցադրվող վերջնական պատասխանից։ Դրանք կարող են ուսուցման նյութ դառնալ մեկ այլ մոդելի համար։ Ընկերությունն ասում է, որ փորձում է կանխել իր մոդելների կարողություններն այդ ճանապարհով առանց թույլտվության կրկնօրինակելը։
Տոկոսները վերաբերում են նույն խնդրի շուրջ OpenAI-ի կազմակերպած վերահսկվող փորձարկմանը։ Համեմատվել են երկու սերնդի մոդելներ՝ տարբեր պաշտպանական միջոցներով։ Այդ պատճառով 0,2 տոկոսը չի նկարագրում իրական ծառայության դեմ բոլոր հնարավոր փորձերի հաջողության հավանականությունը։


















































Ամենադիտված
Ծովագյուղի Վահրամն ու ՔՊ-ն՝ ընդդեմ Սևանի քաղաքապետի. ընտրությունների գլխավոր ինտրիգը