M. Tegmarkas drauge su kolegomis įkūrė Gyvybės ateities institutą, tiriantį pasaulinę katastrofų riziką. Šis institutas ypatingą dėmesį skiria dirbtiniam intelektui. Neseniai lietuvių kalba pasirodė pasaulyje bestseleriu tapusi M. Tegmarko knyga „Gyvybė 3.0“ (vertėja Daiva Vilkelytė), rašoma pranešime žiniasklaidai.
Knygoje fizikos profesorius pirmiausia paaiškina, kad šiandieniniai mokslininkų tyrimai greičiausiai prives prie superprotingo dirbtinio intelekto sukūrimo, o tada žengs dar toliau, ieškodami, kas galėtų gimti iš šio kūrinio. Nėra viskas taip jau baisu. Tačiau pagal niūriausią scenarijų žmonija išnyks, o ją pakeis dirbtinis intelektas, kuriam nestinga proto, tačiau trūksta sąmoningumo.
Knygoje „Gyvybė 3.0“ autorius aprašo dirbtinio intelekto saugumo situaciją ir aptaria klausimus, į kuriuos mūsų visuomenė turės atsakyti, jeigu norėsime, kad technologijos būtų naudojamos geriems tikslams. Kokios ateitis mūsų laukia? Ar antžmogiškas intelektas taps mūsų vergu, ar valdovu? Kaip galime padidinti savo gerovę, pasitelkdami dirbtinį intelektą ir kartu neatimdami iš žmonių pajamų bei gyvenimo prasmės? Apie tai su M. Regmarku kalbasi „IEEE Spectrum“ žurnalistė Eliza Strickland.
– Dalis mokslininkų sako, kad mes nežinome, kokį pavidalą pasirinktų superprotingas dirbtinis intelektas, todėl dar per anksti kalbėti apie didžiules grėsmes ir tyrinėti saugumo mechanizmus jam sukontroliuoti. Kodėl su tuo nesutinkate?
– Tai, kad nežinome, kas blogo gali nutikti, nereiškia, kad neturėtume apie tai pradėti mąstyti. Tokia yra saugumo inžinerijos esmė: susikaupęs svarstai, kas blogo gali įvykti, kad galėtum užkirsti tam kelią. Daugybė žmonių saugumo inžineriją painioja su panikos kėlimu. Tačiau kai „Apollo“ programos vadovai kruopščiai svarstė visas galimybes suklysti, išsiuntus raketą su astronautais į mėnulį, jie nebuvo panikuotojai. Jie darė būtent tai, kas galiausiai ir lėmė misijos sėkmę.
Taip turėtume galvoti ir apie dirbtinį intelektą. Man labai patinka raketų metafora. Iki šiol pagrindinis dėmesys buvo skirtas technologijos tobulinimui, nepagalvojant apie jos valdymą. Tas pats vyko ir pradėjus kurti raketas: kai jau buvo išrasti raketų varikliai, mokslininkai pradėjo mąstyti, kaip tas raketas valdyti.
Privalome galvoti apie tai, kaip valdysime dirbtinį intelektą. Kaip transformuosime šiandienines pilnas klaidų ir lengvai nulaužiamas dirbtinio intelekto sistemas į tokias, kuriomis galima pasitikėti? Kaip įsitikinsime, kad jos tikrai daro tai, ko mums reikia? Kaip išmokysime mašinas suprasti mūsų tikslus, juos priimti ir jais vadovautis?
– Knygoje „Gyvybė 3.0“ aprašote 12 galimų ateities scenarijų, kuriuos nulemtų žmonijos bandymai sukurti superprotingą dirbtinį intelektą: nuo utopijų iki išnykimo. Internete prašėte žmonių balsuoti už jų pageidaujamą scenarijų. Mokslininkai sako, kad dar reikės daug laiko, kol sukursime superprotingą dirbtinį intelektą, tad kodėl visuomenei turėtų rūpėti jūsų siūlomi scenarijai?
– Štai kuo man tie scenarijai atrodo įdomūs: nors stengiausi kiekvieną nupiešti kuo pozityviau, nebuvo nė vieno, dėl kurio visiškai nenuogąstaučiau. Kur kas sunkiau įsivaizduoti rojų nei pragarą. Tą galime pastebėti ir pasaulio religijose.
Bet kai numatome teigiamus rezultatus, skatiname žmones bendradarbiauti, atidėti į šalį savo menkus interesus ir sutelkti dėmesį į nuostabų tikslą, kurį jie regi. Jei sutelksime dėmesį į riziką, tai sukels visuomenės susiskaldymą, kurio jau ir taip per daug. Holivudas čia irgi nepadeda. Ateities perspektyva kine beveik visada distopiška. Kai paklausiu draugų, kokią visuomenę jie norėtų regėti po 30 ar 50 metų, paprastai jie nebūna mąstę taip toli į priekį ir tik pateikia man sąrašą blogybių, kurių norėtų išvengti.
Tik pagalvokite, kiek inžinierių su jauduliu skaitė Žiulio Verno tarpplanetinių kelionių ir telekomunikacijų sistemų aprašymus. Štai kodėl norėjau parašyti viltingą knygą. Manau, kad žmonėms svarbu mąstyti apie tai, kokios ateities jie nori. Jei jie apie tai negalvos, greičiausiai to ir nesulauks.
– Kodėl manote, kad dirbitnio intelekto tyrimai turėtų įtraukti ir sąmoningumo studijas?
– Kai kalbu apie sąmoningumą, turiu galvoje subjektyvią patirtį: ką reiškia būti savimi.
Man atrodo keista, kaip tiek daug tokių protingų mokslo žmonių nepastebi, kad mes vis dar nieko nesuprantame. Žmonės šimtus metų neklausinėdami žinojo, kad mėnulis nenukris, kol Izaokas Niutonas neatrado priežasties, kodėl taip yra.
Mes žinome, kad 700 nanometrų šviesa patiriama vienaip, o 400 nanometrų – kitaip: vieną vadiname raudona, kitą – violetine. Žmonės prie to taip pripratę, kad pamiršo, jog čia įsipainiojusi vis dar sunkiai suprantama fizika: kodėl nematome jų atvirkščiai? Atvirai kalbant, tiesiog nežinome.
Tradiciškai protą ir sąmoningumą laikome kažkuo paslaptingu ir išskirtinai būdingu biologinei gyvybei. Tačiau iš savo, kaip fiziko, patirties sakau: tai tik informacijos apdorojimo formos, kvarkams ir elektronams judant pagal fizikos dėsnius. Man nepatinka šis „anglies šovinizmas“, kuris teigia, kad turėti sąmonę gali tik tas, kas sudarytas iš anglies atomų. Jau dabar matome, kad turėti intelektą gali ir kažkas, kas sukurta iš silicio. Manau, visai tikėtina, kad silicio tvarinys galėtų turėti ir sąmonę.
– Svarstymai apie tai, ar dirbtinis intelektas galėtų ir turėtų būti sąmoningas – ilgalaikis iššūkis. O kokie būtų trumpalaikiai klausimai, prie kurių galėtume dirbti jau dabar?
– Nėra jokio slapto intelekto recepto. Manau, nerastume ir sąmoningumo recepto, tačiau esama tam tikrų lygčių, kurių dar neatradome. Pirmiausia reikia apibrėžti savybes, kurias turėtų atitikti sąmoningas informacijos apdorojimas.
Giulio Tononis iškėlė vieną teoriją – gal teisingą, gal ir ne. Tačiau tai teorija, kurią galime tikrinti, žvelgdami į sąmoningus ir nesąmoningus smegenų procesus. Jei sugalvotume teoriją, kuri tiksliai nustatytų, kuris mūsų galvose vykstantis informacijos apdorojimo procesas yra sąmoningas, galėtume ją pradėti taikyti ir kitiems: naminiams gyvūnėliams, robotams, nereaguojantiems pacientams ligoninės priimamajame.
Pati gyvybė kitados buvo laikomas paslaptimi. Skirtumas tarp gyvo ir negyvo vabalo buvo toks, kad pirmasis turėjo tam tikrą gyvastį. Tačiau nūdienos inžinierius juos laikytų dviem mechanizmais, iš kurių vienas yra pažeistas. Panašiai ir skirtumas tarp protingo ir neprotingo materijos lašo nustatomas pagal tai, kaip gerai jie apdoroja informaciją. O skirtumas tarp sąmoningos ir nesąmoningos informacijos apdorojimo sistemos yra tam tikra ypatybė, kurios mums iki šiol nepavyko susieti su matematinėmis lygtimis.
– Knygoje „Gyvybė 3.0“ rašote, kad visa visatos šlovė neturėtų prasmės, jei nebūtų sąmoningų būtybių, kurios ją suvoktų. Taigi, jei žmonės sukurtų superprotingą, bet nesąmoningą dirbtinį intelektą, kuris nušluotų nuo žemės paviršiaus mūsų rūšį, galėtų kilti kosminė apokalipsė. Skamba rimtai.
– Knygoje supriešinau dviejų savo mėgstamiausių mokslininkų ir draugų, Steveno Weinbergo ir Freemano Dysono, nuomones. S. Weinbergas pastebi, kad kuo geriau suprantame visatą, tuo beprasmiškesnė ji atrodo. F. Dysonas pažymi, kad kosmoso istorijos mastu gyvybė tėra nedidelė perturbacija šiaip negyvenamoje visatoje, tačiau ateityje ji turės galimybių tą visatą transformuoti.
Pažvelkime į Manhatano nuotrauką iš paukščio skrydžio ir palyginkime ją su salos vaizdu prieš milijoną metų. Anuomet gyvybė išties sukėlė šiokią tokią perturbaciją, sala sužaliavo būtent dėl gyvybės. Tačiau dabar ji visiškai transformuota. Lygiai taip pat, kaip gyvybė pakeitė Manhataną, ji galėtų pakeisti ir kosmosą, kodėl gi ne?
Esu optimistas, ne pesimistas. Ne visata teikia mums prasmę, bet mes teikiame prasmę jai.