Tyrimą ekspertai pradėjo analizuodami algoritmą, kuriuo tokių automobilių aplinkos stebėjimo sistema naudojasi vaizdų klasifikavimui. Buvo simuliuojamos įvairios manipuliacijos kelio ženklų tema, siekiant išsiaiškinti, kokiu atveju savarankiškas automobilis gali juos neteisingai suprasti. Pavyzdžiui, ekspertai pagamino specialių lipdukų, kuriais apklijavo kelio ženklus.
Tik pagalvokite – savarankiško automobilio vaizdų apdorojimo sistema neteisingai supranta greičio ribojimo ženklą ir nepriima reikiamo sprendimo. Tokia situacija gali baigtis tragedija, skelbia autoblog.com
Tyrimo, pavadinto „Robust Physical-World Attacks on Machine Learning Models“, autoriai pademonstravo kelis skirtingus būdus, kaip sutrikdyti savarankiškus automobilius ir priversti juos neteisingai skaityti kelio ženklus. Tam jie pasitelkė paprasčiausią spalvotą spausdintuvą ir kamerą.
Kalbant apie šiuos eksperimentus, didžiausią nerimą kelia tai, kad žmogaus akims tokios manipuliacijos neatrodo kažkuo išskirtinės, nes pateikiamos tarsi grafitis, meno kūrinys ar tiesiog elementai, inkorporuojami į kelio ženklo vaizdinį apipavidalinimą.
Detaliau aptarkime ekspertų eksperimentui panaudotus metodus. Pirmojo metu visas kelio ženklas buvo uždengtas atspausdinta modifikuota jo versija. Žmogaus akiai jis atrodo tarsi normalus, tačiau keliose vietose vaizdas kiek išplaukęs. Autonomiškam automobiliui kilo žymiai rimtesnių bėdų: iš įvairaus atstumo ir žiūrėjimo kampo testų metu tokia transporto priemonė ženklą, reiškiantį „Stop“, perskaitydavusi tik kaip greičio ribojimo ženklą.
Antrojo eksperimento metu „Stop“ ženklas buvo apklijuotas lipdukais, kuriančiais grafičio iliuziją (tarsi būtų užrašyti žodžiai „love“ ir „hate“) – dviem trečdaliais atvejų autonominis automobilis jį perskaitė kaip greičio ribojimo ženklą. Tokį patį efektą turėjo ir keli atsitiktine tvarka ant minėtojo ženklo užklijuoti paprasčiausi lipdukai.
Posūkio į dešinę ženkle eksperimento vykdytojai rodyklę užmaskavo keliais pilkais lipdukais – autonomiško automobilio vaizdų apdorojimo sistema jį perskaitė kaip „Stop“ ženklą – taip nutiko dviem trečdaliais atvejų.
Norėdami, kad jų eksperimentas pergudrauti autonomiško automobilio sistemas pasiteisintų, ekspertai privalo perprasti algoritmą, kurį autonomiškų automobilių vaizdų apdorojimo sistema naudoja kelio ženklų klasifikacijai. Perpratę, kaip gali suklaidinti sistemą, jie tai galėjo lengvai padaryti pasitelkę itin paprastas priemones – pasirinko kelio ženklo nuotraukos, spalvoto spausdintuvo ir šiek tiek lipnaus popieriaus.
Autonomiškų automobilių startuolio „Voyage“ atstovas ir vienas iš ekspertų Tarekas El Gaaly „Car and Driver“ sakė, kad tokiems incidentams galima užkirsti kelią radus tinkamus sprendimus. Vienas iš galimų problemos sprendimo būdų – kontekstas. Kitaip tariant, automobilis turi galėti pats nuspręsti, kad, pavyzdžiui, mieste važiuoti autostradoje leistinu greičiu, nevalia.
„Be to, šiandien dauguma autonomiškų automobilių aprūpinti įvairiais jutikliais, taigi tereikia jiems parengti reikiamų programos įrangos atnaujinimų“, – sako T. El Gaaly.