Kol visi pietavo, Jungtinio dirbtinio intelekto centro (JAIC arba, populiariai, „Jake“) vadovas generolas Jackas Shanahanas sėdėjo scenoje su paradine uniforma ir šnekučiavosi su dviem kostiumuotais civiliais: buvusiu „Google“ generaliniu direktoriumi Ericu Schmidtu ir kompanijos vyriausiuoju teisininku Kentu Walkeriu.
Pasirodymas viešumoje su aukšto rango karininku buvo gerai apgalvotas „Google“ žingsnis. Pastaruosius dvejus metus kompanija ir jos motininė įmonė „Alphabet Inc.“ buvo negailestingai kritikuojamos dėl patriotizmo stokos. Pažeidimai, kuriais kaltinama kompanija: pirma, kad 2017 m. buvo nuspręsta atidaryti dirbtinio intelekto laboratoriją Pekine, nors daugelis amerikiečių DI plėtrą mato kaip nacionalinį prioritetą, lygiavertį Manhatano projektui.
Antra, 2018 m. sprendimas pasiduoti darbuotojų spaudimui ir pasitraukti iš slaptos vyriausybės programos „Project Maven“, kurioje komercinė DI programinė įranga naudojama karinių dronų užfiksuotiems vaizdams analizuoti.
Kovo mėnesį Jungtinio štabo viršininkas generolas Josephas Dunfordas jaunesnysis pasiskundė Senato komisijai, esą „Google“ „netiesiogiai pasitarnauja Kinijos kariuomenei“. Tada liepos mėnesį Peteris Thielis, iškiliausias Silicio slėnio šalininkas prezidento Donaldo Trumpo administracijoje, išvadino „Google“ „iš pažiūros nepatikimais“ ir pakišo mintį, kad į kompaniją galimai įsiskverbė Kinijos šnipai.
Kitą dieną D. Trumpas šią nuomonę daugiau mažiau pastiprino, pagirdamas P. Thielį tviteryje ir pažadėdamas atlikti tyrimą. (Vėliau administracija prie to sugrįžo, pabrėždama, kad jai nekyla jokių rūpesčių dėl „Google“ darbo Kinijoje.)
Buvo laikai, kai „Google“ savo nepopuliarumą Vašingtone galėjo laikyti garbės ženklu. Tačiau kompanijai pasiekus vidutinį amžių, o jos metinėms pajamoms viršijant 140 milijardų dolerių, atsirado noras plėstis į naujas verslo sritis. Taigi nenuostabu, kad kariuomenės siūlomi kontraktai pasirodė visai viliojantys „Google“ vadovybei, kuri gynybos projektus laiko pirmuoju žingsniu į daug didesnį verslą 200 milijardų dolerių debesijos paslaugų rinkoje. Idealistiškiau nusiteikę „Google“ darbuotojai dėl to nerimauja ir mano, kad kompanija tolsta nuo savo senojo etoso – „nebūti blogiu“.
Praėjus keliems mėnesiams nuo pasitraukimo iš „Maven“ „Google“ atsisakė dalyvauti konkurse dėl 10 milijardų dolerių vertės sandorio su JEDI. (JEDI, kelianti minčių apie „Žvaigždžių karus“, iš tiesų reiškia „Joint Enterprise Defense Infrastructure“, arba Jungtinę verslo gynybos infrastruktūrą). Vis dėlto kompanija atkakliai siekė atkurti gerus santykius su Gynybos departamentu.
Šį pavasarį „Google“ debesų kompiuterijos padalinio vadovai Vašingtone surengė nemažai kviestinių vakarienių, kuriose dalyvavo esami ir buvę nacionalinio saugumo agentūrų darbuotojai. „Jų siunčiama žinutė buvo tokia: „Susimovėme. Norime vėl su jumis dirbti“, – teigia vienas iš pakviestų svečių, Jamesas Lewisas iš Strateginių ir tarptautinių studijų centro. „Google“ taip pat paleido „Super Bowl“ reklamą, pristatančią paieškos sistemos funkciją, kuri gali padėti veteranams rasti darbą.
„Google“ mums neleido pakalbinti K. Walkerio ar kitų kompanijos vadovų, todėl šis straipsnis bus pagrįstas interviu su keliolika dabartinių ir buvusių „Google“ darbuotojų bei 20 žmonių, susipažinusių su kariuomenės pažanga DI srityje, taip pat – kitais kariniais rangovais ir kitų kompanijų aktyvistais.
J. Shanahanas išreiškė savo – ir tuo pačiu viso Pentagono – pasitenkinimą „Google“; šią žinutę privačiai patvirtino ir kiti kariškiai. Vienas aukštas gynybos pareigūnas teigė, kad kompanija aktyviai siekia kontraktų su JAIC. Tačiau tam tikras nepasitikėjimas išlieka. Dalis kompanijos personalo artėja prie atviro maišto, o aukšti kariuomenės atstovai nerimauja, kad „Google“ gali pasiduoti spaudimui.
Kariškiai net juokauja, jog ištrins savo „Gmail“ paskyras, kad neteiktų pagalbos priešui. „Nežinau, ką iš personalo jie paskyrė į gynybos projektą, – teigia vienas Senato atstovas, išreikšdamas susirūpinimą, kad „Google“ darbuotojai nepalaiko JAV vyriausybės, todėl nėra patikimi. – Jeigu atvirai, tai aš jais nepasitikiu.“
Nesunku bet kokią naują politinę kontroversiją nuvesti iki D. Trumpo, tačiau „Google“ pasiekė subtilų lūžio tašką likus pusantrų metų iki 2016 m. rinkimų. 2015-ųjų balandžio 23 d. „Amazon.com Inc.“ pirmą kartą atskleidė savo debesų kompiuterijos padalinio finansinius rezultatus. Ketvirtinėje finansinėje ataskaitoje kompanija teigė, kad „Amazon Web Services“ uždirbo 1,6 milijardo dolerių pajamų, per metus išaugo 50 proc. ir buvo kur kas pelningesnė už „Amazon“ mažmeninės prekybos verslus.
Debesų kompiuterija apima milžiniškų duomenų centrų ir programinės įrangos kūrimą, siekiant padėti didelėms organizacijoms automatiškai rūšiuoti, dalintis ir analizuoti duomenis. „Google“ tokio pobūdžio programinę įrangą kūrė nuo paskutinio praėjusio amžiaus dešimtmečio pabaigos, kai kompanijos steigėjai Larry Page'as ir Sergejus Brinas pradėjo rašyti algoritmus, kurdami tinklalapių rodyklę savo paieškos varikliui. Ilgainiui kompanija sutelkė dėmesį į DI – tendenciją, kuri įgijo pagreitį 2015 m., kai Sundaras Pichai, kadaise pavadinęs šią technologiją „reikšmingesne“ už ugnį ir elektrą, pakeitė L. Page'ą ir tapo „Google“ generaliniu direktoriumi.
Kitais metais „Google“ suformavo savo „Cloud AI“ padalinį, pasamdydamas kelis gerai žinomus mokslininkus, tokius kaip Fei-Fei Li, kompiuterijos vizionierė iš Stanfordo, ir siekdamas įrodyti, kad ši technologija tiesiog būtina daugybei pramonės sričių. „Google Cloud“ vadovai kaip ypač geidžiamą klientą nusižiūrėjo JAV Gynybos departamentą ir jo 700 milijardų dolerių metinį biudžetą – pademonstruodami, kad gali sukurti daugiau nei nemokamus paieškos variklius ir internetinę elektroninio pašto programinę įrangą.
Iš kitos pusės, daugelis „Google“ darbuotojų vis priešiškiau reagavo į bet kokias sutartis su JAV vyriausybe, ypač po to, kai D. Trumpas pasiūlė sukurti musulmonų registrą, o tapęs prezidentu išleido įsakymą, kuriuo uždraudė į JAV atvykti žmonėms iš kelių (daugiausia musulmoniškų) šalių.
Tuo metu, kai „Google“ vadovai viešai išreiškė nepritarimą Baltųjų rūmų imigracijos politikai, kompanijos debesijos padalinys keitė savo infrastruktūrą, siekdamas laimėti kariuomenės kontraktą. Vienas didžiausių iššūkių buvo tai, kad „Google“ visus savo duomenų centrus buvo integravęs į vieną sistemą.
Tai buvo patogu paieškos varikliui, tačiau dirbti su įslaptintais vyriausybės dokumentais pasirodė neįmanoma. JAV vyriausybė reikalauja duomenų architektūros, vadinamos „oro tarpais“ (angl. air gapping) – fiziškai izoliuotų serverių, kurių programinė įranga būtų parašyta taip, kad jie nesąveikautų su platesniu tinklu. Kai „Amazon“ 2013 m. laimėjo didelį CŽV kontraktą, ji atskyrė agentūros duomenis nuo visų kitų.
Anot vieno buvusio darbuotojo, „Google“ debesijos modifikavimas siekiant įvesti „oro tarpus“ buvo daug darbo reikalaujantis procesas, prie kurio triūsė dešimtys skirtingų komandų. Tie pokyčiai patys savaime nebuvo kontroversiški, tačiau kai kurie darbuotojai jiems prieštaravo, nenorėdami, kad kompanija bendradarbiautų su kariuomene. Keletas vyresniųjų „Google“ inžinierių – vadinamoji Devynių grupė – atsisakė dirbti prie projekto ir atvėrė kelią platesnio masto maištui.
Maištas prasidėjo tada, kai 2018 m. sausį visoje kompanijoje pasklido informacija apie „Project Maven“. Iš pradžių projektas buvo svarstomas už uždarų durų ir „Google+“ puslapiuose, skirtuose tik darbuotojams. (Balandžio mėnesį „Google“ uždarė vartotojams skirtą socialinio tinklo versiją, tačiau vidaus komunikacijai skirta versija gyvuoja ir toliau.) Tada Liz Fong-Jones, „Google Cloud“ svetainės patikimumo inžinierė, vidiniame pranešime pasiteiravo, ar kariuomenė galėtų pasitelkti „Google“ programinę įrangą, norėdama suorganizuoti dronų ataką prieš konkretų asmenį ar grupę. Darbuotojų pasipiktinimas netruko įsiliepsnoti. L. Fong-Jones komentuoti atsisakė.
„Google“ mėgino užgesinti gaisrą pareiškusi, kad ji tik atsijoja filmuotą stebėjimo medžiagą, bet nepadeda priimti karinių sprendimų. Vadovai taip pat pabrėžė nedidelę „Maven“ kontrakto vertę – apie 9 milijonus dolerių. Tačiau vėlesni pranešimai technologijų tinklaraštyje „Gizmodo“ parodė, kad „Google“ tikėjosi, jog pajamos iš „Maven“ ilgainiui išaugs iki 250 milijonų dolerių. Panagrinėję kodą inžinieriai aptiko programinę įrangą, skirtą atpažinti automobiliams. Jie traktavo tai kaip įrodymą, kad „Google“ iš tiesų padėjo organizuoti tikslines atakas.
„Google“ ir kariuomenė ir toliau tvirtino, kad „Maven“ nėra ginklų programa; J. Shanahanas neseniai pareiškė, kad dalyvavę dronai netgi nebuvo ginkluoti. Tačiau Jackas Poulsonas, tuometinis kompanijos kompiuterių specialistas, teigia, kad tokie išsisukinėjimai yra beprasmiai, nes programos sukurta žvalgybinė informacija galėjo prisidėti prie kovinių operacijų.
Diskusijos dėl „Maven“ paskatino atidžiau panagrinėti S. Pichai entuziazmą dirbtinio intelekto atžvilgiu. Darbuotojai pradėjo vardyti – vidiniuose susirašinėjimuose, bet kartais ir viešai, tviteryje – įvairius būdus, kaip DI gali suklysti, jei yra naudojamas, pvz., nustatant, kam skirti banko paskolą, sekant visuomenę ar skirstant į kategorijas skaitmenines žmonių su skirtinga odos spalva nuotraukas. Jie jautė, kad „Google“ išmainė savo pirminę idealistinę misiją – „tvarkyti pasaulio informaciją“ – į kažką visiškai merkantilaus.
Konfliktas daugiausia buvo nukreiptas į kompanijos debesijos padalinį, gavusį kitokių finansinių paskatų nei vartotojams skirtos paslaugos. „Klausimas toks: kas yra jūsų vartotojas? – pasakoja Meredith Whittaker, daugiau nei dešimtmetį dirbusi „Google“ ir tapusi viena aršiausių kompanijos kritikių. – Anksčiau vartotojas buvo individas, o „Google“ savo reputaciją kūrė pirmiausia rūpindamasis vartotoju.
Tačiau infrastruktūrų versle, o toks yra debesijos verslas, vartotojas – tai naftos ir dujų bendrovės, tai Gynybos departamentas. Tai pajamų eilutės, apie kurias nesinori kalbėti.“ Iki 2018 m. balandžio mėnesio 4000 žmonių – maždaug 5 proc. viso etatinio personalo – pasirašė peticiją, kuria pasmerkė „Maven“. Dalis darbuotojų išėjo iš darbo.
„Google“ mėgino darbuotojus nuraminti, tuo pačiu nesitraukdamas nuo Pentagono. Personalas surengė keletą susitikimų su Gynybos departamento atstovais. Du žmonės, dalyvavę viename iš jų, prisimena kivirčą, kai M. Whittaker išsakė etinę kritiką „Maven“ projektui. Kiti „Google“ darbuotojai programą energingai gynė. Matydami, kad būsimasis rangovas abejoja kontrakto etika, Pentagono darbuotojai sutriko. „Visiems buvo nejauku“, – prisimena vienas dalyvis. M. Whittaker atsisakė komentuoti bet kokius vidinius susitikimus.
Oficialiai „Google“ savo disidentams pasidavė, 2018 m. birželio mėnesį paskelbdama, kad pasibaigus kontraktui su „Maven“ nebedirbs. Vėliau tais pačiais metais kompanija paskelbė, kad nebandys kovoti dėl JEDI debesų kompiuterijos kontrakto, verto 10 milijardų dolerių. Dėl kontrakto agresyviai pešėsi „Amazon“, „Microsoft“ ir „Oracle“, kol 2019 m. spalį laimėjo „Microsoft Corp.“.
Neaišku, ar „Google“ apskritai galėjo pateikti rimtą pasiūlymą, nes dabar kompanija teigia, kad jai trūko saugumo sertifikatų, kuriuos dauguma konkurentų jau buvo įgiję. Tačiau oficiali tokio sprendimo priežastis – neva JEDI galėtų pažeisti kompanijos etinius principus – sustiprino kritikų požiūrį į „Google“. „Jie iš esmės pasidavė aktyviausiam personalo sektoriui“, – piktinasi respublikonų senatorius Tomas Cottonas iš Arkanzaso, JAV armijos veteranas ir Senato karo tarnybos komiteto narys.
T. Cottonas teigia, kad jo kabinetas palaikė ryšius su „Google“ net ir tada, kai kompanija pasitraukė iš „Maven“. Vis dėlto senatorius netiki, kad, atsižvelgiant į vidinę kompanijos dinamiką, „Google“ gali įsipareigoti apsiimti kitus kariuomenės kontraktus. Jis svarsto, jog civilinės agentūros taip pat neturėtų bendradarbiauti su „Google“. „Siūlyčiau joms apsisukti ir nešdintis velniop“, – sako jis.
Iki šios vasaros „Google“ protestai buvo persmelkti įtampos. Liepos mėnesį M. Whittaker ir kita žymi kritikė Claire Stapleton paskelbė, kad pasitraukia iš bendrovės. Prieš tai abi viešai pasiskundė, kad „Google“ imasi atsakomųjų veiksmų prieš vidinius kritikus. (M. Whittaker tuo metu jau dirbo „AI Now“, ne pelno siekiančioje organizacijoje, nagrinėjančioje etinius klausimus, susijusius su technologijomis.) „Google“ kaltinimus atmeta ir sako, kad visada skatino techninius ir etinius debatus. Tačiau vadovybė ėmėsi keletos žingsnių prieš darbuotojų protestus ir netgi paskelbė naujas gaires, neleidžiančias darbuotojams kalbėtis apie politiką biure.
Tai dar labiau sumažino pasitikėjimą tarp „Google“ ir jos darbuotojų. Lapkritį kompanija teigė atleidusi vieną darbuotoją už tai, kad šis nutekino žiniasklaidai informaciją apie savo kolegas, o du kitus išleido atostogų dėl netinkamo vidinės informacijos panaudojimo. Tačiau vidiniai šaltiniai šiuos drausminimo veiksmus apibūdino kaip būdą nubausti darbuotojus aktyvistus.
Tarp „Google“ aktyvistų sklando įtarimai, kad kompanija ir toliau slapta tęsia darbus. Darbuotojai bandė atkreipti dėmesį į „Alphabet“ remiamus startuolius, kurie galimai siekia vyriausybinių kontraktų. Šią vasarą „Bloomberg Businessweek“ žurnalistas paklausė vieno darbuotojo aktyvisto, ar „Google“ neketina atsakyti į JAV Muitinės ir pasienio apsaugos tarnybos (CBP) kvietimą teikti naujas debesijos paslaugas. Asmuo atsakė, kad „Google“ aktyvistai apie tokį projektą net nežino.
Netrukus po minėto pokalbio grupė darbuotojų sukūrė paskyrą portale „Medium“ ir paskelbė atvirą laišką, kuriame pacitavo CBP pasiūlymą ir primygtinai paragino nesiekti tokio pobūdžio sutarčių. „Tereikia prisiminti IBM, kurie bendradarbiavo su naciais per Holokaustą, kad suprastume, kokį vaidmenį technologijos gali atlikti automatizuojant masinį žiaurumą“, – teigiama laiške.
Laišką pasirašė apie 1500 „Google“ darbuotojų. Kompanija ir CBP šiuo metu yra sudariusios paliaubas, o aktyvistai tikisi priversti „Google“ pasibaigus pilotiniams bandymams šio komercinio produkto atsisakyti – jų manymu, bandymai baigsis ateinantį pavasarį. Darbuotojai taip pat ėmė raginti „Google“ nutraukti bendradarbiavimą su iškastinio kuro pramone.
„Google“ vadovybė į raginimus tiesiogiai neatsakė. Tačiau kompanija paskelbė etinius DI valdymo principus, įskaitant pažadą jo nenaudoti „ginklams ar kitoms technologijoms, kurių pagrindinis tikslas ar paskirtis – sukelti ar tiesiogiai palengvinti žmonių žalojimą“. Ji taip pat sudarė technologijos priežiūros grupes. Praėjusį mėnesį Pentagono remiama Gynybos inovacijų valdyba, kuriai vadovauja E. Schmidtas, išleido savo DI principus, kurie yra artimi „Google“.
J. Poulsonas, kompaniją palikęs 2018 m. rugsėjo mėnesį, teigia, kad šie DI principų sąrašai ir juos svarstančios tarybos niekada nebus veiksmingos, nes „Google“ bendradarbiavimą su kariuomene jos vertina kaip kažką, ką reikėtų užglaistyti keliomis techninėmis pataisomis. Kaip ir daugelis opių klausimų, su kuriais šiandien susiduria Silicio slėnis, „Google“ santykiai su kariuomene priklauso ne nuo to, kaip sukurta pažangi technologija, bet nuo vertybių, apibrėžiančių jos panaudojimą.
Panašu, kad tokie aktyvistai kaip J. Poulsonas nesugebės atversti „Google“ vadovų, įskaitant S. Pichai, L. Page'o ir S. Brino, kad šie priimtų jų nuomonę. Vašingtono renginyje kompanijos vyriausiasis teisininkas K. Walkeris kalbėjo, jog „Google“ siekia aukštesnių saugumo sertifikatų, kad galėtų glaudžiau bendradarbiauti su Gynybos departamentu prie kitų projektų. „Kalbėsiu be užuolankų, – pareiškė jis. – Esame išdidi amerikietiška kompanija.“