Eksperdid kohtusid Genfis, kuid kokkulepet ei õnnestunud saavutada: USA ja Venemaa blokeerisid kogu töö. Võib-olla on see ainus kord, kui hegemoonid töötavad nii harmooniliselt.
Genfis lõppesid ebainimlike relvade konventsiooni vormis ekspertide kohtumised nn võitlusrobotite - autonoomsete relvade, mis kasutavad sihtmärkide võitmiseks tehisintellekti, saatuse üle. Kokkuleppeid ei õnnestunud siiski saavutada. USA, Venemaa, Lõuna-Korea, Iisrael ja Austraalia kuulusid vähemusrahvuste hulka, kellel on õnnestunud tõrjuda mõrvarobotite täieliku keelustamise tundeid.
Niisiis, kuigi maailmas pole endiselt töötavat autonoomset relva, jääb tehnoloogia siiski nii-öelda inimlikuks - seda saab arendada ja uurida. Huvitav on see, et Stockholmi rahu-uuringute instituudi (SIPRI) andmetel on USA ja Venemaa esikohal suurimate relvaeksportijate edetabelis. Lõuna-Korea, Iisrael ja Austraalia ei jää ka selles edetabelis maha - nad kuuluvad 20 parema turuosalise hulka.
Ja kuigi Hiina (viies relvade eksportija maailmas, ÜRO Julgeolekunõukogu alaline liige pooldab võitlusrobotite keelustamist), ei õnnestunud tal kohtumistel kaalu oma suunas kohandada. Täna toetavad 26 riiki tehisintellekti kasutamise keeld sõjas. Teised hoiduvad selgest seisukohast) Prantsusmaa ja Saksamaa (kolmas ja neljas relvaeksportija) pakuvad alla kirjutada dokumendile, mis tugevdaks inimese ülimuslikkust tehisintellekti ees, kuid nad on tõenäolisemad nende poolel, kes soovivad arendada autonoomseid lahingumasinaid.
"On kindlasti pettumus, et väike rühm sõjaväe hiiglasi suudab enamuse tahet tagasi hoida," kommenteeris tapjarobotite peatamise kampaania koordinaator Mary Verhem Genfi kohtumiste tulemusi.
Tõepoolest, olukord näeb välja nagu relvastatud monopoolsete suurärimeeste vandenõu, arvestades, et USA ja Venemaa ei suuda olulistes küsimustes tavaliselt saavutada vähemalt mingisugust kompromissi. Võtke Süüria oma: Washington ja Moskva blokeerisid üksteise resolutsioone pärast keemiarelvade kasutamist Süürias sel kevadel. Hingamisgaasid ja muud sõjaliseks otstarbeks mürgised ained olid muide varem keelatud ebainimlike relvade konventsiooniga.
Järgmine kohtumine mõrvarobotite saatuse teemal toimub Genfis novembris.
Miks nad tahavad keelustada autonoomsed relvad
Robotisõjakeelu pooldajad rõhutavad, et lahinguväljal ei ole tehisintellekti. Nende arvates kujutavad sellised tehnoloogiad endast suurt ohtu. Vähemalt pole täna selge, kuidas masin eristab võitlejaid (neid, kes on otseselt seotud sõjategevusega) mitte-võitlejatest (armee teenistujad, kes saavad relvi kasutada ainult enesekaitseks) ja tsiviilisikutest üldiselt. On võimalus, et teos tapab haavatuid ja alistujaid, mis on praeguste sõjareeglitega keelatud.
Mis takistab tööl katkestamast kõiki konflikti osapooli, isegi selliste relvade omanikke? Tehisintellekti elemente kasutatakse juba edukalt sõjatehnikas, rakettides; robotid meelitavad tutvuma, kuid lõppsõna jääb ikkagi inimestele. Autonoomsed relvad ei allu komandöride korraldustele - seetõttu on nad autonoomsed. Seetõttu on eri riikide sõjaväekindralid skeptilised masinate sissetoomise suhtes personali ridadesse.
Ja veel üks lahtine küsimus on rahvusvaheline terrorism. Autonoomne relvatehnoloogia võib sattuda valedesse kätesse ja selle võib lõpuks häkkida. Aasta tagasi ütles Venemaa president Vladimir Putin, et maailma valitseja on see, kellest saab tehisintellekti arendamise liider. Autonoomsete relvade puhul saab maailma valitsejaks see, kellel on juurdepääs sellistele tehnoloogiatele. Ja selleks on tegelikult vaja ainult arvutit ja põnnit, kes turvasüsteeme läbib. Pentagoni, muide, on mitu korda häkitud. Järelikult ei saa keegi anda garantiisid, et autonoomsed relvad jäävad puutumatuks.
Samuti on ebaselge, kes vastutab õiguslikult, kui autonoomse relvasüsteemi toimimise tagajärjel pannakse toime sõjakuritegu. “Relva kasutanud insener, programmeerija, tootja või komandör? Kui vastutust ei saa määratleda rahvusvahelises humanitaarõiguses nõutuna, kas saab selliste süsteemide kasutuselevõttu tunnistada õiguslikuks või eetiliselt õigustatud?”Märgib Rahvusvaheline Punase Risti komitee.
Huvitaval kombel pooldasid teadlased ka võitlusrobotite keelustamist. Selle aasta juulis allkirjastasid enam kui kaks tuhat teadlast, eriti Tesla ja SpaceX looja Elon Musk ning DeepMindi kaasasutajad, dokumendi, et nad ei arenda surmavaid autonoomseid relvi. Google tegi sama. Tehnikahiiglane on loobunud Pentagoni Maveni projekti kallal töötamisest. Ja 2017. aastal on mitmed teadlased juba kutsunud ÜRO-d üles keelustama mõrvarobotite loomise.
Muide, tehisintellekti küsimus sõjas tõusis ÜRO päevakorda 2013. aasta lõpus, kuid praktiliselt pole sellest ajast alates midagi muutunud. Alles sel aastal algasid ebainimlike relvade konventsiooni vormis ekspertide kohtumised. See tähendab, et enam-vähem praktilisse lennukisse jõudmiseks kulus rohkem kui neli aastat.
Miks nad ei taha keelata autonoomseid relvi
Ükskõik kui tõsi see ka ei tunduks, on võidurelvastumine peamine põhjus, miks nad ei taha tapjarobotid keelata. Putinil on õigus: see, kes esimesena saab autonoomsed relvad, domineerib maailmas. Ametlikult väljendatakse seda põhjust.
Keelu vastaste peamine argument on võimatu tsiviil tehisintellekti sõjaväest eraldada. Nagu me ei keela kööginoasid lihtsalt sellepärast, et terroristid saavad neid kasutada. Tehisintellekti tsiviilarengut on sõjaväest eraldada praktiliselt võimatu. Kuid nüüd räägime selle relva keelustamisest, mis suudab sihtmärke iseseisvalt määrata ja rünnata. See võib olla Maveni projekt, millega USA kaitseministeerium töötab koos Booz Allen Hamiltoniga (Google keeldus lepingust).
Maveni arendajad soovivad droone õpetada analüüsima pilte, eriti satelliitidelt, ja - potentsiaalselt - tuvastama rünnaku sihtmärke. Pentagon alustas projekti kallal tööd 2017. aasta aprillis ja lootis saada esimesed tööalgoritmid aasta lõpuks. Kuid Google'i töötajate demarši kaudu arendus viibis. Alates käesoleva aasta juunist suutis süsteem Gizmodo sõnul vahet teha elementaarsetel objektidel - autodel, inimestel, kuid keerulistes olukordades osutus see täiesti tähtsusetuks. Kui autonoomsete relvade keeld ÜRO tasandil siiski vastu võetakse, tuleb projekt tühistada, samas kui Pentagon väidab, et nende arendamine võib päästa elusid, sest seda saab programmeerida inimestega võrreldes täpsemini ja usaldusväärsemalt töötama.
"Te peate mõistma, et me räägime tehnoloogiast, et sellel pole näidiseid, mis töötaksid. Selliste süsteemide idee on endiselt väga pealiskaudne," märkis Genfis Venemaa välisministeeriumis toimunud kohtumise eelõhtul. - Meie arvates saab autonoomsete relvade suhtes kohaldada rahvusvahelist õigust, eriti humanitaarsektorit. Nad ei vaja moderniseerimist ega kohandamist süsteemidega, mida pole veel olemas.”
Noh, ja veel üks tõeline, kuid hääletamata põhjus on raha. Täna hinnatakse sõjalise tehisintellektitehnoloogia turgu enam kui kuuele miljardile dollarile. Kuid aastaks 2025 kolmekordistub see arv - peaaegu 19 miljardini, väidavad Ameerika ettevõtte MarketsandMarkets analüütikud. Suurimatele relvaeksportijatele on see hea motivatsioon blokeerida kõik tapjarobotite arendamise piirangud.
Edenemist ei saa peatada
Autonoomsete relvade keelustamise pooldajad märgivad, et tehnoloogia areneb väga kiiresti ja tehisintellektist saab lõpuks relv - aja küsimus. Nende sõnades on loogika. Tehisintellekt on neljanda teadus- ja tehnoloogiarevolutsiooni lahutamatu osa, mis jätkub ka praegu. Tuleb meeles pidada, et tehniline areng on ühel või teisel viisil seotud sõjaliste operatsioonidega. Kolmas teaduslik ja tehnoloogiline revolutsioon kestis XX sajandi 50. aastate keskpaigani, see tähendab, et selle tipp langes Teise maailmasõja perioodile.
1949. aastal võttis Genf vastu tsiviilisikute sõjaajal kaitse konventsiooni. Sõjajärgsel perioodil täiendasid nad ka 1907. aasta IV Haagi konventsiooni, mis määras sõjakäitumise reeglid. See tähendab, et II maailmasõja õudused said selle protsessi katalüsaatoriks. Niisiis, inimõiguste kaitsjad ei taha oodata kolmandat maailmasõda, et kaitsta inimkonda autonoomsete relvade eest. Seetõttu on tapjarobotite saatuse otsustamine nüüd vajalik, väidavad nad.
Human Rights Watchi ekspertide sõnul on võitlusrobotite kasutamine vastuolus Martensi deklaratsiooniga - 1899. aasta Haagi sõjaseaduste ja -tavade konventsiooni preambuliga. Teisisõnu, mõrvarobotid rikuvad inimkonna seadusi ja avalikkuse teadlikkuse nõudeid (seisukoht kinnitati IV Haagi konventsioonis).
"Peame tegema koostööd selliste relvasüsteemide ennetava keelu kehtestamiseks enne nende levikut kogu maailmas," ütles Human Rights Watchi relvaosakonna vanemteadur Bonnie Doherty.
Noh, mõrvarobotite keelustamine seekord ei õnnestunud. Ettearvatavalt on ka novembri kohtumised viljatud. Tõsi, peaaegu kõik riigid on sellega nõus - tehnoloogial ei saa lasta raskusjõu abil voolata ja lahingurobotid vajavad sellist stop-kraanat. Kuid ikkagi pole selge, kas inimkonnal on aega seda tõmmata, kui selleks vajadus tekib.
