Pradėsiu nuo istorijos iš akademinės erdvės. Kartą KTU studentas, gavęs užduotį parengti tinklalaidę, [angl. k. – ‘podcast’], pokalbiui „pasikvietė“ du pokalbių robotus [angl. k. – ‘chatbot’). Pačioje pradžioje pabandęs diskusiją moderuoti, paskui studentas leido robotams kalbėtis netrukdomiems.
Pašnekesys buvo monotoniškas, dvi mašinos labiau kalbėjosi pačios su savimi nei įsiklausė, ką sako kita, kol staiga įvyko neįtikėtinas dalykas. Be jokios aiškios priežasties vienas pokalbių robotas ėmė ir apkaltino kitą, jog jis nėra žmogus, o tik... mašina.
Įdomiausia tai, jog apkaltintasis tarsi susigėdo ir ėmė gintis – jis jokiais būdais nesąs robotas, kaip pašnekovas taip galėjo apie jį pagalvoti! Porą minučių vienas kitą pravardžiavę „mašinomis“ galų gale pokalbių robotai perėjo prie kitų temų, taigi tinklalaidė baigėsi taikiai.
Ir nors visiems klausantiems tąkart buvo aišku, jog abi mašinos kalbėjo tik tai, ko buvo apmokytos jų kompiuterizuotos smegenys, buvo sunku atsikratyti pojūčio, jog kol kas mašina, vadinamas dirbtinis intelektas (DI), jaučiasi tarsi iš jo būtų tyčiojamasi. Negi jam yra ko gėdytis?
Galima pradžia – dar XIX a.
Norint atsakyti į šį klausimą, reikia nedidelio istorinio ekskurso. Nors idėjų apie mąstančią mašiną būta jau pačiais seniausiais laikais, tačiau tik nuo XIX a. pradžios dirbtinės sąmonės projektai susiejami su algoritmais ir įgauna beveik šiandieninį pavidalą.
Ši istorija gerai žinoma: garsaus anglų poeto lordo Byron’o žmona Anne Isabella Milbanke, norėdama apsaugoti dukrą Adą nuo pavojingosios poezijos, ją ėmė mokyti matematikos. Motinos ketinimai išsipildė iš dalies. Ada tapo puikia matematike, kuri netgi parašė tai, kas šiandien kartais vadinama programa britų išradėjo Charles’o Babbage’o „analitinei mašinai“, mechaniniam skaitmeninio kompiuterio prototipui.
Tačiau tuo pat metu lordo Byron’o dukra įsivaizdavo, jog tokios skaičiavimo mašinos kada nors galės kurti muziką, atvaizdus ir net grožinę literatūrą. Jau būdama trisdešimties Ada laiške motinai piktai rašė – esą kadangi ši iš jos atėmusi poeziją, tad Ada matematinius skaičiavimus ir mokslą pavertė poetiškais.
Ados Byron vizija, jog matematinis algoritmas yra prielaida kuriančiai mašinai atsirasti, buvo pratęsta 1956 m. Tuo metu amerikiečių kompiuterių tyrinėtojas John‘as McCarthy paskelbė apie pirmąjį seminarą, skirtą dirbtinio intelekto problemoms tyrinėti. Iš pradžių įsitikinimas, jog mąstymo procesus galima aprašyti matematiškai tiksliai, teikė labai daug vilties. Buvo sukurtos programos, kurios žaidė šaškėmis, neklysdamos sprendė loginius uždavinius. Imtasi prognozuoti, jog per dvidešimt metų DI pajėgs daryti viską, ką daro žmogus!
Pasuko kita kryptimi
Ar taip nutiko? Deja, tačiau ne. Bene po dešimtmečio tyrėjams teko sudėti ginklus ir 1966 m. pripažinti, jog mašininis vertimas neįmanomas – pastangos kalbą aprašyti algoritmu taip ir neatnešė pageidaujamų rezultatų.
Taip atėjo vadinamoji „dirbtinio intelekto žiema“, trukusi maždaug dvidešimt metų. Ji baigėsi 1986 m., kai Kalifornijos universiteto kompiuterių tyrinėtoja Rina Dechter paskelbė straipsnį apie gilųjį mokymąsi [ anglų k. – „deep learning“]. Jo esmė tokia – jei mąstymo negalima aprašyti tiksliomis matematinėmis formulėmis, tai gal tuomet galima, surinkus kiek įmanoma daugiau duomenų, iš jų pakankamai patikimai spėti apie esamus ir būsimus įvykius?
DI iš esmės virto duomenų analizės, pasikartojimų ir dėsningumų paieškos įrenginiu. Pagrindinė šios DI versijos ypatybė – neuroninius smegenų tinklus mėgdžiojančių kompiuterinių sistemų „mąstymo“ rezultatas yra tik žaidimas duomenimis, negalint „sugalvoti“ nieko naujo. Štai kodėl kai kada giliu mokymusi grįstos dirbtinio intelekto sistemos yra vadinamos didžiaisiais plagiatoriais.
Įdomus faktas – Japonijoje jau yra įsteigta literatūros premija, dėl kurios leidžiama varžytis ir dirbtinio intelekto sistemoms. 2016 metais dėl šios premijos konkuravo net 11 dirbtinio intelektų sistemų parašytų romanų, vienas jų vos per plauką nelaimėjo pagrindinio prizo. Tačiau įsigilinus į konkursui pateiktus tekstus matyti, jog jie yra tik manipuliacijos giliam mokymuisi pateiktais duomenimis.
Ką byloja klaidos
Be jokios abejonės, šiandieninis dirbtinis intelektas analizuoja duomenis kaip niekada gerai. Tačiau kartais reiškinį geriau charakterizuoja ne tai, ką jis daro gerai, o kur jis klysta. Nes klaidos labai aiškiai parodo, ką šiandienis dirbtinis intelektas gali, o kur yra jo ribos. Ir kuo dažniau DI sistemos palieka laboratorijų ribas ir leidžiasi į mūsų kasdienybės įvairovę, tuo daugiau tokių klaidų pavyzdžių.
Štai tik vienas jų. Daugelyje pasaulio didmiesčių viešąsias erdves stebinčios kameros yra sujungtos su DI sistemomis, galinčiomis identifikuoti žmones pagal veido geometrijos ypatybes. Dėl to pasaulyje vis labiau plinta pastangos pasipriešinti tokiai visuotinio sekimo politikai.
Pasirodo, apgauti dirbtinį intelektą nėra labai sunku. Du rusų kompiuterių specialistai sukūrė „AdvHat“ algoritmą, kuris pagamina specialų piešinį. Jį atsispausdinus ir prisisegus prie kepurės, dirbtinis intelektas nebepajėgia atpažinti žmogaus. O du Liuveno universiteto tyrinėtojai pažengė dar toliau – jų sugeneruotas piešinys paverčia žmogų visiškai nematomu stebėjimo sistemoms. Užsienyje prekyboje jau pasirodė marškinėliai, su kuriais stebėjimų kamerų duomenis apdorojančios dirbtinio intelekto sistemos žmogų atpažįsta... kaip automobilį.
Vienas informatikos mokslo kūrėjų Alanas Turingas sakė, jog kompiuteris mąstys, kai jis parašys romaną ir žinos, jog tai jis šitą romaną parašė.
Akivaizdu, jog šiandien dirbtinis intelektas romaną gali tik neplagijuoti nuo kitų romanų. Ir prisiminus anksčiau minėtą dviejų pokalbių robotų pašnekesį, galima lengviau suprasti, kodėl jiems kol kas nesmagu, jog yra pravardžiuojami „mašinomis“. Ar ateis toks laikas, kai pokalbių robotai tokiu įvertinimu didžiuosis – kol kas nežinia.
Patys nenujausdami dažnai mokome DI sistemas tokių klaidų nedaryti: atlikdami CAPTCHA testus, žymėdami atpažintų žmonių veidus „Facebook“ ar imdamiesi „Amazon Mechanical Turke“ siūlomų darbų suklasifikuoti nuotraukų rinkinius.
„Amazon“ kompanijos aliuzija į XVIII a. sukurtą mechaninį šachmatais žaidžiantį turką, nugalėjusį net Napoleoną Bonapartą ir Bendžaminą Frankliną, yra labai iškalbinga. Garsiajame šachmatais žaidusiame mechanizme buvo pasislėpęs žmogus. Taip ir dabar už visų dirbtinio intelekto sistemų kol kas stovi žmogus.
Tik mes, kaip ir garsiojo mechaninio turko pasirodymuose, tai matome kaip triuką, kai visus darbus tarsi nuveikia tik mašina.
Saulius Keturakis yra Kauno technologijos universiteto (KTU) Socialinių, humanitarinių mokslų ir menų fakulteto profesorius. Komentare pateikiamos mokslininko įžvalgos iš pranešimo, kurį jis skaitė š.m. lapkričio 20 dieną vykusiame renginyje „First Artificial Intelligence meet-up Kaunas“.