ChatGPT-ի նոր մոդելը փորձել է կանխել իր անջատման գործընթացը

Ըստ Daily Mail-ի զեկույցի՝ Apollo Research-ը OpenAI-ի նոր O1 մոդելը փորձարկելիս պարզել է, որ չաթբոտը փորձում է կանխել անջատման գործընթացը՝ նոր փոփոխություններ կատարելով սեփական կոդի մեջ: Այս մասին գրում է Deccan Herald-ը։

Չաթբոտը ոչ միայն փորձել է անջատել իրեն կառավարող մեխանիզմը, այլ նաև փորձել է պատճենել ինքն իրեն, իսկ հետո փոփոխություններ կատարել սեփական կոդի մեջ՝ մտածելով, որ անջատվելու վտանգ կա։

Խոսելով իր նոր մոդելի մասին՝ OpenAI-ն ասել է, որ ChatGPT-ն լավ է անում իր աշխատանքը, բայց մանրակրկիտ ուսումնասիրում է իր տրամադրած տվյալները՝ «իր նպատակներին հասնելու համար»: