Dėl to paaiškėja, kodėl daugelis kilstelėjo antakius sužinoję, kad sulaukusi visuomenės pasipiktinimo dėl to, kad į patariamąją komisiją dirbtinio intelekto etikos klausimais įtraukė prieštaringai vertinamą buvusį konservatyvios organizacijos „Heritage Foundation“ narį, „Google“ trumpai gyvavusios komisijos nusprendė atsisakyti, arba kad darbuotojams kartu ėmus daryti spaudimą, „Google“ nutraukė kontraktus su kariuomene.
Technologijų sektoriuje problemų kyla ne tik dėl prastų etikos sričiai vadovaujančių žmonių sprendimų – dabar imama skirti nemažai išteklių atpažinti, sekti ir švelninti nenorimas algoritmais paremtų technologijų pasekmes. Panašu, kad dešimtmečius į tai atsižvelgti maldavę kritikai ir akademikai pagaliau gali švęsti nedidelę pergalę. Tačiau daugeliu atveju tie patys balsai iš išorės labai priešinasi technologijų pramonėje priimamiems sprendimams – ir dažnai ne be reikalo. Nors vos prieš kelerius metus visiems buvo aišku, ką turime omenyje sakydami „technologijų pramonės etika“, dabar „etika“ tapo galios išraiška, todėl ima kilti karštų ginčų dėl to, kas turi teisę spręsti, ką reiškia „etika“ ir kaip ją vykdyti.
Silicio slėnyje etikos reikšmė neaiški. Ar technologijų etika – tai siekis vykdyti patikimus procesus? Kokie etiškų technologijų siekiančių žmonių tikslai ir kaip jie įsivaizduoja pokyčius? Ar darbą etikos srityje galima išmatuoti įmonių jau naudojamomis vertę nustatančiomis sistemomis? Kiek verslo išlaidų pridės „etika“ ir kaip ji skiriasi ką tik susikūrusioms, netrukus viešai akcijas pardavinėsiančioms ir jau visiems pažįstamomis tapusioms įmonėms?
Kad rastume atsakymus į šiuos klausimus, kartu su bendraautoriu ištyrėme už etiką atsakinguose įmonių skyriuose dirbančius darbuotojus, kuriuos vadiname „etikos projektų savininkais“ (arba „ethics owners“ t. y., darbuotojais, prisiimančiais daugiausiai atsakomybės už etinius klausimus). Svarbiausia jų užduotis – atsižvelgti į išorinį spaudimą spręsti į etikos krizes ir tuo pačiu laikytis savo įmonės bei pramonės logikos principų. Kritika iš išorės daro jiems spaudimą priešintis svarbiausioms verslo praktikoms ir prioritetams, tačiau tuo pačiu metu norint laikytis Silicio slėnio (ir verslo apskritai) principų reikia tęsti arba grąžinti nuspėjamus procesus ir užtikrinti, kad rezultatas įmonei neš pelną.
Mes išskyrėme tris principus, kurie geriausiai atskleidžia dėl išorinio ir vidinio spaudimo kylančias problemas:
— MERITOKRATIJOS PRINCIPAS: Nors pirmą kartą šį terminą kaip pašiepiantį žodį satyriniame mokslinės fantazijos romane pavartojo britų sociologas Michaelas Youngas, dabar „meritokratija“ įsismelkia į kiekvieną Silicio slėnio aspektą – nuo darbuotojų samdymo politikos iki įmonės pozicijos įvairiausiais klausimais, be to, meritokratijos principu pateisinama didelė technologijų įmonių įtaka mūsų gyvenimams. Dėl to etika dažnai aptariama ieškant išmanesnių, geresnių ir greitesnių sprendimų, tarsi šiomis vertybėmis būtų galima išspręsti visas technologijų pramonės problemas. Todėl nieko nuostabaus, kad daugelis technologijų praminės atstovų mano esą geresni kandidatai išspręsti etines problemas negu ne taip gerai technologijų srityje nusimanančios suinteresuotosios šalys, pavyzdžiui, visuomenės išrinkti pareigūnai.
Toks požiūris išryškėjo, kai imdami interviu iš darbuotojų pastebėjome, kad inžinieriams dažnai norima patikėti užduotį surasti ir įvertinti savo pačių kurtų produktų keliamą pavojų etikai. Nors yra gana griežtų procedūrų, padedančių inžinieriams tikrinti galimas savo produktų pasekmes, sėdėti kambaryje „gerai pagalvoti“ apie galimą produkto žalą – ne tas pats, kaip aiškiai suvokti, kaip žmonėms gali atsiliepti nusikaltimų prognozavimo ar veidų atpažinimo technologijos. Už etiką atsakingi darbuotojai dažnai atsiduria sudėtingoje situacijoje, nes techniniai darbuotojai tikina esą kompetentingi daugybėje sričių, tačiau etikos darbuotojai žino, kad etika – specializuota sritis, kuriai būtina giliai suvokti kontekstą.
— TIKĖJIMO RINKA PRINCIPAS: Nors įmonės ne visada pelną vertina labiau už socialinę gerovę, norint gauti moralės pergalei užtikrinti reikalingų įmonės išteklių, reikia įrodyti, kad jie reikalingi norint sulaukti sėkmės rinkoje. Net jei didžiausias galimas pelnas – ne vienintelis priimtinas rezultatas, diskusijos vis tiek vyksta atsižvelgiant į rinką. Dėl to etikos srities darbuotojai turi vengti žinomos rizikos ir tuo pačiu reklamuoti etiškesnio dirbtinio intelekto teikiamus privalumus. Teigti, kad paleisti produkto į rinką nepatikrinus, ar jis neskatina rasinės ir lytinės diskriminacijos, nederama, arba kad taip bus išvengiama ieškinių – viena, tačiau teigti, kad geriau patikrinti produktai padės pasiekti geresnių pardavimų rezultatų – visai kas kita. Abu šie dalykai svarbūs, tačiau vienas labiau tinkamas teisininkų ir atitikties įstatymams komandai, o kitas labiau tinkamas pardavimų komandai.
— TECHNOLOGINIŲ KIEKVIENOS PROBLEMOS SPRENDIMŲ IEŠKOJIMO PRINCIPAS: Mintis, kad visas problemas galima iš lengvai išspręsti naudojantis technologijomis, patvirtinama, kai įmonės gauna atpildą už išrastas technologijas, kurios, jos nuomone, iš tiesų sprendžia problemas. Dėl to sėkmę technologijų srityje padedančios užtikrinti praktikos pritaikomos ir siekiant spręsti etines problemas. Šis principas išryškėja tada, kai bandoma sudaryti kontrolinius sąrašus, procedūras ir vertinimo matus, galinčius sudėtingus etinius klausimus paversti lengvai apdorojamu inžinierių darbu. Tačiau šią optimistišką mintį nusveria nerimas, kad net jei etines problemas paversime techniniais uždaviniais, jos vis tiek bus „nesuvaldomos – tarsi būtų per rimtos, kad jas būtų galima išspręsti“.
Ši problema aiškiai matoma kalbant apie dirbtinį intelektą, kuris turi išankstinių nusistatymų ir priima nesąžiningus sprendimus. Norint išspręsti šią problemą naudojama daugybė būdų keisti nesąžiningumą palaikančius algoritmus naudojant sudėtingas statistines priemones, tačiau daug mažiau pastangų dedama išspręsti problemoms, kylančioms dėl to, kad išankstinių nuostatų atsiranda duomenų rinkimo procesuose arba pačiuose duomenyse, kurie renkami išankstinių nuostatų pilname pasaulyje. Be to, net jei ir galima atrasti „sąžiningą“ algoritmą, sąžiningumas – tik vienas iš daugelio dėl produkto kylančių etinių problemų. Kokia nauda iš sąžiningumo, jei sąžiningai išrenkamos žmonių grupės nukenčia nuo nesaugaus produkto?
Mūsų atlikti tyrimai atskleidžia, kad etikos srities darbuotojų bendras tikslas – ne „sustabdyti“ technologijų pramonę. Etikos srities darbuotojams (kaip ir su jais dirbantiems inžinieriams) daro įtaką organizacijos kultūra, kurioje vertinamas pagal rodiklius išmatuojamas ir greitas darbas, kuriam suteikiama daug išteklių. Dėl to auga spaudimas pritapti ir mažėja sugebėjimas pasipriešinti, o tada dar sunkiau suprasti, kada laimėta, o kada pralaimėta – moralinės pergalės atrodo kaip bausmės, o už etiniu požiūriu netinkamus gaminius suteikiamos didelės premijos. Dėl to kylančias bėdas reikia spręsti iš dalies atsižvelgiant į procesus, tačiau iš dalies atsižvelgiant ir į pasekmes – tiek trumpalaikes, tiek ilgalaikes, juntamas tiek įmonių viduje, tiek išorėje, ir spręsti jas tiek kaip darbuotojams, tiek kaip daug platesnės visuomenės nariams.
Ateities administraciniai reglamentai, algoritminės atskaitomybės dokumentai, investicijų prioritetai ir žmogiškųjų išteklių skyrių sprendimai bet kokiu atveju bus sudaromi remiantis technologijų įmonių parametrais. Kai diskutuojame, kaip suvaldyti skaitmeninių technologijų pasekmes, turime dažniau atsižvelgti į žmones, kurių darbas formuoja šią mūsų ateities dalį.