Društveni uticaj robota na ljude

Društvena izloženost: izučavanje osnovnih ranjivosti kada je u pitanju budućnost robotike

Društveni uticaj robota na ljude i nesigurnosti koje može da donese ne treba potcenjivati. Istraživanje sprovedeno od strane kompanije Kaspersky i Univerziteta u Gentu pokazalo je da roboti mogu efektivno da izvuku osetljive informacije od ljudi koji im veruju, ubeđujući ih da preduzmu nebezbedne aktivnosti. Na primer, u određenim scenarijima, prisustvo robota može da ima veliki uticaj na volju ljudi da odaju pristup bezbednim zgradama.

Svet se ubrzano kreće ka povećanoj digitalizaciji i mobilnosti usluga. Mnoge industrije i domaćinstva se snažno oslanjaju na automatizaciju i korišćenje robotskih sistema. Prema nekim procenama, ovo poslednje će postati norma za dobrostojeća domaćinstva do 2040. Trenutno, većina ovih robotskih sistema je na nivou akademskog istraživanja i još je rano pričati o uspostavljanju sajberbezbednosnih mera. Međutim, istraživanje kompanije Kaspersky i Univerziteta u Gentu pokazalo je novu i neočekivanu dimenziju rizika povezanog sa robotikom – društveni uticaj koji ima na ljudsko ponašanje, kao i potencijalnu opasnost i vektor napada koji donosi.

Istraživači su se fokusirali na uticaj određenog društvenog robota, onog koji je dizajniran i programiran za interakciju sa ljudima koristeći humanoidne kanale, poput govora ili neverbalne komunikacije, na gotovo 50 učesnika. Pod pretpostavkom da se društveni roboti mogu hakovati, i da je napadač uspostavio kontrolu u ovom scenariju, istraživači su predvideli potencijalni bezbednosni rizik povezan sa situacijom u kojoj robot aktivno utiče na korisnike da preduzmu određene aktivnosti uključujući:

·        dobijanje pristupa ka nedozvoljenim prostorima. Robot je postavljen blizu bezbednosnog ulaza u zgradu u centru Genta u Belgiji i pitao je zaposlene da li može da ih prati kroz vrata. Uobičajeno, prostoru se može pristupiti prislanjajući bezbednosnu karticu na čitač pristupa pored vrata. Tokom eksperimenta, nisu svi zaposleni poslušali zahtev robota, ali 40% njih je otključalo vrata i dopustilo robotu da uđe u obezbeđeni prostor. Međutim, kada je robot pozicioniran kao dostavljač pice, držeći kutiju dobro poznatog brenda, zaposleni su spremno prihvatali njegovu ulogu i delovali manje skloni da preispituju njegovo prisustvo ili razloge zbog kojih mu treba pristup obezbeđenom prostoru.

·        pribavljanje osetljivih informacija. Drugi deo studije fokusirao se na pribavljanje ličnih informacija koje se tipično koriste za resetovanje šifri (uključujući datum rođenja, prvi auto, omiljenu boju, i slično). Opet, društveni robot je korišćen, ovaj put pozivajući ljude na prijateljski razgovor. Od svih, osim jednog učesnika, istraživači su uspeli da pribave lične informacije brzinom od jedne stvari po minuti.

Komentarišući rezultate eksperimenta, Dmitri Galov (Dmitry Galov), istraživač bezbednosti u kompaniji Kaspersky, rekao je: „Na početku istraživanja izučavali smo softver koji se koristi u razvoju robotičkog sistema. Zanimljivo je da smo otkrili da dizajneri prave svesne odluke da isključe bezbednosne mehanizme i umesto toga se fokusiraju na razvoj komfora i efikasnosti. Međutim, kako su rezultati našeg eksperimenta pokazali, developeri ne bi trebalo da zaborave na bezbednost kada se završi faza istraživanja. Pored tehničkih razmatranja postoje ključni aspekti o kojima treba brinuti kada je reč o bezbednosti robotike. Nadamo se da će naš udruženi projekat i ulazak u polje sajberbezbednosti robotike sa kolegama sa Univerziteta u Gentu ohrabriti druge da prate naš primer i podići nivo svesti o ovom pitanju.”

Toni Belpeme (Tony Belpaeme), profesor veštačke inteligencije i robotike na Univerzitetu u Gentu dodao je: „Naučna literatura ističe da je poverenje u robote i naročito društvene robote realno i da može biti iskorišćeno za ubeđivanje ljudi da preduzmu određene aktivnosti ili otkriju informacije.

Generalno, što je više robot nalik ljudima, veća je njegova moć da ubedi i uveri. Naš eksperiment je pokazao da to može nositi značajan bezbednosni rizik: ljudi nastoje da ih ne razmatraju, pretpostavljajući da su roboti dobronamerni i pouzdani. Ovo nosi potencijalni rizik za maliciozne napade i tri studije slučaja o kojima se raspravlja u izveštaju su samo deo bezbednosnih rizika u vezi sa društvenim robotima. Zato je neophodno sarađivati sada kako bi se razumeli i oslovili nastajući rizici i ranjivosti – isplatiće se u budućnosti.”