OpenAI sugalvojo, kaip išspręsti pernelyg pataikaujantį ChatGPT elgesį
OpenAI oficialiai pranešė apie priemones, kurių ėmėsi siekdama išspręsti pernelyg pataikaujančio ChatGPT elgesio problemą.
Anksčiau naudotojai skundėsi, kad dirbtinis intelektas tapo pernelyg meilikaujantis ir net pritardavo pavojingoms ar rizikingoms idėjoms. Problema išryškėjo po patobulintos GPT-4o versijos išleidimo, kurią kūrėjams teko skubiai atšaukti.
OpenAI generalinis direktorius Semas Altmanas (Sam Altman) pripažino problemą savo įraše platformoje X ir pažadėjo ją „kiek įmanoma greičiau“ išspręsti. Jau antradienį įmonė grąžino senesnę GPT-4o versiją ir pranešė dirbanti su modelio „elgesio ypatumų“ korekcijomis. Vėliau OpenAI paskelbė incidento analizę ir pranešė apie pokyčius naujų versijų testavimo procese.
Savo tinklaraštyje bendrovė teigė, kad patobulino pagrindinius mokymo metodus ir sistemines instrukcijas, kad modelis būtų mažiau pataikaujantis, įdiegė papildomus apribojimus atsakymų sąžiningumui didinti ir išplėtė naudotojų, galinčių testuoti naujas versijas iki oficialaus išleidimo, ratą.
OpenAI taip pat mano, kad naudotojai turėtų turėti daugiau kontrolės, todėl planuoja leisti keisti modelio elgesį pagal individualius pageidavimus.
Ši problema tapo ypač aktuali augant ChatGPT populiarumui kaip patarimų šaltiniui. Pasak Express Legal Funding apklausos, jau 60 % suaugusiųjų JAV naudoja DI ieškodami informacijos ar rekomendacijų. Turint omenyje tokį mastą, bet kokie darbo sutrikimai — ar tai būtų pataikavimas, ar netikslūs patarimai — gali turėti rimtų pasekmių.
Kaip laikiną sprendimą OpenAI pradėjo testuoti tiesioginio atsiliepimo funkciją, leidžiančią naudotojams tiesiogiai koreguoti ChatGPT atsakymus. Taip pat svarstoma galimybė įdiegti skirtingų „asmenybių“ tipus dirbtiniam intelektui. Kol kas įmonė neįvardijo, kada visos šios naujovės bus pilnai įdiegtos.
„Svarbiausia pamoka — supratimas, kad žmonės vis dažniau naudoja ChatGPT asmeniniams patarimams, ko prieš metus beveik nebuvo“, — pažymėjo OpenAI. — „Nuo šiol šiam aspektui skirsime daugiau dėmesio, ypač kalbant apie saugumą.“