Tehno - Nauka

Rat robotima već je počeo

Ratove budućnosti vodiće autonomni roboti? Već sada postoje bespilotne letilice – dronovi, kojima ne treba upravljanje. Pravnici, mirovnjaci i teolozi upozoravaju na opasnosti…

To već odavno nije naučna fantastika: iskustva sa modernim, bespilotnim letilicama, dronovima, ukazuju da bi u budućnosti ratovi dobrim delom mogli da se vode uz pomoć robota koji deluju samostalno. Razvoj oružja kojim se daljinski upravlja zaprepašćujuće je brz – i pritom se sve više funkcija automatizuje i autonomizuje, one se obavljaju mimo kontrole čoveka. Istovremeno, može se očekivati da bi u nekoj doglednoj budućnosti autonomne borbene mašine mogle samostalno i da donose odluke o životu ili smrti ljudi u etičkom smislu. To je, s obzirom na međunarodno pravo, zastrašujuće.

Reaper drops first precision-guided bomb, protects ground forces

Rasprava o moralnoj dimenziji oružja koje deluje na daljinu veoma je stara. Još je papa Inoćentije II u 12. veku moralno osuđivao samostrel, jer nakon što je to oružje počelo da se koristi, oklop više nije bio zaštita od strela. On je tražio da se u sukobima između hrišćana to oružje zabrani. Papa se ipak nije zalagao za tako stroga ograničenja kada se radilo o nevernicima ili krivovernicima.

Novi kvalitet oružja koje ubija na daljinu

MQ-9 Reaper Drohne Drohnenkrieg Ziel Drohnenangriff

Dron uočava cilj – hoće li sam odlučiti o napadu?

Rasprava o etičkoj legitimnosti takvog oružja nikada nije prestala. „Čak i oružje koje je u smislu međunarodnog prava neupitno, poput snajpera, dugo je vremena bilo isto tako sporno kao i samo delovanje snajperista“, kaže Niklas Šernih iz Fondacije za istraživanje mira i sukoba iz Hesena. „Ubistvo čoveka koji u trenutku napada uopšte nije svestan da je meta, za mnoge vojnike predstavljalo je veliki problem. Često su ih drugovi u vojsci gledali popreko.“

Korišćenje dronova u 21. veku sa stanovišta vojne tehnologije nije neka naročita novost – na kraju krajeva radi se o oružju koje deluje na daljinu poput mnogih drugih sistema. Ali ipak postoji jedna nova dimenzija – i novi „kvalitet“. Pilot koji upravlja dronom sedi u svojoj kasarni, on ne mora ni da ulazi u avion, brod ili podmornicu koji bi ga doveli do linije fronta. „Budući da ti sistema mogu veoma dugo da ostanu nad područjem na kojem žele da ih koriste, moguće je određenu površinu trajno nadzirati u smenama i po potrebi vršiti napad“, objašnjava Frank Zauer, politikolog sa Vojnog univerziteta nemačke vojske u Minhenu. „Pre tako nešto nismo imali.“

Mašine odlučuju o životu i smrti

Takvi sistemi već danas mogu da dejstvuju autonomno. Tako na primer američki dron tipa MQ-9 Reaper (fotografija gore) automatski leti dalje čak i ukoliko tokom leta u npr. uskim kanjonima izgubi kontakt sa bazom koja opet može biti udaljena hiljadama kilometara. Vojni stručnjaci su zato uvereni da na sledeći korak nećemo morati dugo da čekamo, a to je upotreba sasvim autonomnih oružanih sistema. Već danas izraelske bespilotne letilice nadgledaju određeno područje i same se obrušavaju na protivnički radar kada ga otkriju – bez da im je pre toga izdat direktan nalog od strane neke osobe.

S njihovim širenjem raste međutim i opasnost od toga da se oni otmu kontroli. Svaka takva letilica može doduše da bude opremljena crnom kutijom koja beleži podatke o letu i čitavoj akciji, ali one postaju relevantne tek nakon obavljenog zadatka – vojnim žargonom cinično rečeno, tek nakon što je nastala „kolateralne štete“.

Za Niklasa Šerniha to je ključno pitanje. „To znači da bespilotna letilica, robot ili računar samostalno donose odluke o životu i smrti. Po mom mišljenju, veoma je problematično da računar donosi odluku o ubistvu čoveka – i pravno i etički.“ Osim toga, korišćenje takvih borbenih sistema dovelo bi i do znatnog ubrzanja ratovanja. „U budućnosti bi prevagu mogao da odnese onaj sistem koji je u stanju da dejstvuje nekoliko milisekundi brže od drugog“, kaže Šernih.

Von US-Drohne zerstörtes Auto im Jemen

Posledice napada američke bespilotne letilice u Jemenu 2012.

Zagovornici tih sistema navode međutim da je u algoritme automatizovanih oružanih sistema moguće ubaciti i mehanizme za zaustavljanje – takozvane „etičke regulatore“. Ali kritičari podsećaju da je te blokade u slučaju sukoba moguće i isključiti.

„Rupe“ u međunarodnom pravu

Iz perspektive postojećeg međunarodnog prava tu se pojavljuje još jedne nerešeno pitanje: u slučaju rata dozvoljeno je napadati samo neprijateljske vojnike koji se nalaze u vojnoj akciji. Ali kako neki autonomni borbeni sistema može da razlikuje da li se radi o vojnicima koji upravo u tom trenutku žele da se predaju?

Osim toga postoji naravno opasnost i od hakera koji bi tim sistemima mogli da manipulišu. Vojni dekan evangelističke crkve Hartvig fon Šubert smatra da postoje veliki rizici: „Pitanje zaštite vojnih podataka veoma je važno. Kako je moguće sprečiti strane snage da se infiltriraju i okupiraju našu mrežu?“

U međuvremenu se o problemu autonomnih oružanih sistema raspravlja i na međunarodnom nivou. Pod okriljem Ujedinjenih nacija već se razmišlja o mogućnosti njihove zabrane. Vojni dekan Šubert nada se da će do toga doći pre nego što takvi roboti uopće stupe u oružani sukob. izvor:DW

2 thoughts on “Rat robotima već je počeo

  1. Dejan R. Popovic, dipl. inz.

    Komentar na tekst “Personal magazina” – “Siemens organizovao Dane industrije” (http://www.personalmag.rs/it/it-events/siemens-organizovao-dane-industrije/) zavrsio sam recenicom: “Da li se u ovom slucaju radi o ‘Sinergija ljudi i robota’ (http://www.personalmag.rs/tehno-nauka/sinergija-ljudi-i-robota/), ili obrnuto?; i da li se na ovaj nacin smanjuje nezaposlenost ljudi?”.
    Posle citanja ovog teksta opravdano je postaviti pitanje: Da li se u ovom slucaju radi o sinergiji robota i robota?; i da ce na ovaj nacin roboti potpuno zamenjuju ljuda?; i sta ce onda ljudi da rade?

Leave a Reply