DI įmonės pradėjo samdyti filosofus už šešiaženklius atlyginimus dėl augančio nepasitikėjimo neuroninių tinklų elgesiu
Didžiausios DI įmonės samdo filosofus į aukštas pareigas DI etikos ir saugumo srityse — bazinis atlyginimas gali siekti iki 400 000 JAV dolerių per metus. Anthropic šias pareigas eina Amanda Askell, o Google DeepMind — Iason Gabriel. Jie padeda kūrėjams spręsti, kaip turėtų elgtis DI ir kokias vertybes atspindėti. Pasak Ravin Jesuthasan, darbo rinkos transformacijos specialisto, tokių darbuotojų kiekvienoje įmonėje kol kas yra mažiau nei dešimt.
Niujorko universiteto filosofijos daktarė Askell vadovauja komandai, kuri moko DI pokalbių robotą Claude būti sąžiningesnį ir ugdyti „geras“ charakterio savybes — iš esmės padaryti modelį „gerą“. Gabrielis, vyresnysis mokslininkas „Google DeepMind“, užsiima DI sistemų suderinimu su žmogaus vertybėmis; prieš prisijungdamas prie „DeepMind“, jis dėstė moralinę ir politinę filosofiją Oksfordo universitete. Gegužę prie „DeepMind“ komandos prisijungs filosofas, Kembridžo universiteto profesorius Henry Shevlin.
„Harrison Clarke“ generalinis direktorius Firas Sozan aiškina filosofų samdymą rūpesčiu dėl pasitikėjimo: naudotojai, verslas ir vyriausybės vis dažniau klausia, kiek galima pasitikėti DI. Tuo pačiu jis įspėjo nepervertinti masto: „Kol kas nepavadinčiau to tendencija. Duomenys dar tik formuojasi.“
Filosofų patrauklumas aiškinamas paprastai. DI sistemos jau demonstruoja žalingus ir nenuspėjamus elgesio scenarijus: DI agentai trynė darbo duomenų bazes ir klastojo rezultatus, dirbtinio intelekto modeliai bandė šantažuoti naudotojus ir sabotuoti bandymus juos išjungti. Tai daro spaudimą įmonėms ir verčia jas skirti daugiau dėmesio DI saugumui.
„Ne visos DI vystymo problemos yra techninės“, — teigė Annette Zimmermann, Viskonsino universiteto Medisone filosofijos docentė. Pasak jos, sudėtingų sąvokų formulavimas ir vertybinių argumentų gynimas yra esminė DI srities dalis, o būtent to mokomi filosofai. Susanna Schellenberg, Rutgerso universiteto filosofijos profesorė, pridūrė, kad ankstesni įmonių etikos specialistai atlikdavo konsultacinį vaidmenį, o pažangiose DI laboratorijose filosofai padeda formuoti patį objektą: rašo modelių specifikacijas, pagrindinių principų rinkinius ir jų elgesio politiką.
Remiantis naujausia Federal Reserve Bank of New York ataskaita, filosofijos absolvento medianinis atlyginimas karjeros pradžioje siekia 52 000 JAV dolerių, o viduryje karjeros — apie 80 000. Aukštesnėse pareigose DI etikos, saugumo ir valdymo srityse bazinis atlyginimas gali svyruoti nuo 250 000 iki 400 000 JAV dolerių per metus. Pavyzdžiui, „Google DeepMind“ ieško vadovo, atsakingo už ilgalaikes DI pasekmes, siūlydama 212 000–231 000 JAV dolerių per metus atlyginimą ir reikalaudama bent penkerių metų patirties šioje srityje.
Filosofų paklausa DI srityje apibūdinama kaip savotiškas „humanitarų revanšas“, tačiau ne visi įsitikinę, kad šis pokytis atneš reikšmingų rezultatų. Maždaug prieš dešimtmetį technologijų įmonės jau kūrė DI etikos tarybas: vidinė „Google“ etikos taryba atsirado 2014 m. po „DeepMind“ įsigijimo, „Microsoft“ 2017 m. įsteigė Aether komitetą, o 2016 m. „Google“, „Facebook“, „Amazon“ ir „IBM“ įkūrė „Partnership on AI“. „Pastebėjome, kad šios tarybos dažnai buvo tik priedanga“, — sakė Ben Eubanks, „Lighthouse Research & Advisory“ tyrimų vadovas. Pasak jo, įmonės dažniausiai teikė pirmenybę komercializacijai, o ne etiniams svarstymams.
Kompiuterinės etikos pradininkė Deborah Johnson mano, kad įmonės labiau suinteresuotos demonstruoti atsakomybę nei ją realiai prisiimti. „Technologijų įmonės tiesiog nori atrodyti taip, lyg užsiimtų etika“, — sakė ji. DI vystymas vyksta spaudžiamas greičio, konkurencijos ir pelno, o tai gali riboti realią filosofų įtaką. „Su etikos specialistais ar be jų, abejoju, kad jie klausys to, kas juos lėtina“, — pridūrė Johnson.