Aleš Završnik, kriminolog

Pravna teorija in sodna praksa zelo težko dohajata tehnološke spremembe, je povedal Aleš Završnik z inštituta za kriminologijo na ljubljanski pravni fakulteti. Lani je napisal in uredil dve knjigi: v Kibernetski kriminaliteti (GV Založba, 2015) je opisal nove oblike elektronskega kriminala; v zborniku Drones and Unmanned Aerial Systems (Springer, 2016) pa se je s soavtorji ukvarjal z dilemami družbe nadzora.

Prva objava: Sobotna priloga Dela, 23. april 2016, foto Jure Eržen

Čez nekaj let bosta nad Ljubljano morda lebdela dva robotska brezpilotna letalnika (drona) in vsako sekundo posnela po eno podrobno sliko mesta. Ko bo njuna kamera ujela oboroženi rop zlatarne, bo operater ustavil sliko in jo odvrtel nazaj. Na posnetku bo lahko ugotovil, po kateri poti je pripeljal avto z roparji, v kateri garaži so zamenjali avto, kje so se srečali in od kod so prišli. Policija bo v njihovih domovih takoj opravila preiskavo in jih morda ujela v skrivališču, kjer bodo čakali na varen pobeg.

Takšna tehnologija ne nastopa več samo v filmskih scenarijih, saj so elektronska »očesa na nebu« že preizkusili v nekaterih južnoameriških državah in ZDA, kjer imajo veliko težav z ugrabitvami in oboroženimi kriminalnimi tolpami. Sodobni letalniki lahko pokrijejo velik del mesta in so opremljeni z dovolj natančnimi kamerami, da lahko operaterji z več kot enega kilometra preberejo časopisne naslovnice. Poleg nadzornih dronov se zelo hitro razvijajo posebni računalniški algoritmi, ki na nekaterih ameriških sodiščih preizkusno dopolnjujejo sodnike, jih opozarjajo na procesne napake in ocenjujejo, katerim obsojencem je smiselno odobriti pogojni izpust. Vse več je tudi raziskav, ki v nevroloških in fizioloških procesih iščejo razlage za kriminalna dejanja, kar lahko močno zamaje idejo svobodne volje in prepričanje, da so posamezniki sami odgovorni za svoja dejanja.

Vzemiva, da bi župan Ljubljane skupaj s šefom policije povedal meščanom, da bodo mesto nadzorovali posebni brezpilotni letalniki. Obljubila bi zmanjšanje kriminala in večjo varnost, za dokaz pa uporabila preganjanje mamilarskih tolp po Mehiki in Južni Ameriki. Kakšni bi bili vaši pomisleki?

Moj prvi pomislek so zapisali že stari rimski pravniki: Quis custodiet ipsos custodes? Kdo bo nadzoroval nadzornike? V zadnjih nekaj letih smo od Edwarda Snowdna in drugih žvižgalkarjev izvedeli, da policija in tajne službe množično zlorabljajo pooblastila in vdirajo v zasebnost posameznikov – tako v zahodnih demokracijah kot v avtoritarnih režimih v Afriki, Aziji in Južni Ameriki. Zato jim ne moremo zaupati na besedo, ampak potrebujemo zelo močne pravne varovalke in zagotovljeno transparenco: kdo, kdaj in s kakšnimi nameni uporablja tehnologije za množičen elektronski nadzor.

V praksi na žalost vidimo, da delo policije in tajnih služb nikoli ni dovolj transparentno, saj se korporativni ali državni nadzorovalci takoj skrijejo za obzidja poslovnih skrivnosti in državne tajnosti, kjer so tako rekoč nedotakljivi. Vemo tudi, da nadzorne tehnologije večinoma delujejo enosmerno – od zgoraj navzdol. Uporabljajo jih države za nadzor populacije in zasebne korporacije za spremljanje potrošnikov. Obraten nadzor je veliko teže vzpostaviti. Znani so primeri, ko so okoljevarstvene organizacije z droni razkrile nezakonit kitolov ali odlaganje odpadkov, slovenski aktivist Tomo Križnar pa spodbuja uporabo kamer in dronov za zbiranje dokazov o genocidu v Sudanu. Vse to so dobri primeri nadzorovanja od spodaj, a je treba upoštevati realna razmerja gospodarske in politične moči, ki je vedno na strani nadzorovalcev. Zato so zlorabe takšnih nadzornih sistemov skoraj neizogibne.

Kakšne zlorabe so najbolj pogoste?

Med najbolj preprostimi zlorabami so zelo banalni prekrški – da agent ali policist uporabi sistem za zasebne namene: ugotovi premoženjsko stanje soseda ali sledi domnevno nezvestemu partnerju. Med hujše zlorabe pa štejemo sistematične in nezakonite množične prisluhe ali uporabo nadzorne infrastrukture za omejevanje političnih in državljanskih svoboščin.

Evropsko sodišče za človekove pravice v Strasbourgu je lani v primeru Zaharov proti Rusiji problematiziralo ruski pravni red, ki omogoča vojski, policiji in tajni službi neposreden dostop do podatkov mobilnih operaterjev. Ruski založnik in zagovornik svobode izražanja Roman Zaharov je trdil, da ruska oblast zlorablja elektronski nadzor za iskanje in discipliniranje političnih nasprotnikov. Iz nadzora družabnih omrežij in analize komunikacijskih podatkov lahko zelo natančno določite posameznike, ki utegnejo postati novi opozicijski aktivisti ali voditelji. Ponavadi je dovolj že javna objava neprijetne podrobnosti iz zasebnega življenja in politična kariera je končana, še preden se je začela. Drugi problem je samocenzura, ki se razvije v družbi nadzora: strah pred razmišljanjem in javnim izražanjem kritičnega mnenja. Problematika dronov zato zelo presega okvire, ki veljajo v veliki večini javnih debat – tudi tistih v Sloveniji.

Okvire?

Na okroglih mizah in javnih predstavitvah se največ pogovarjamo o tehnikalijah. Skrbijo nas letalne sposobnosti dronov, trajanje baterije in možnost, da bi letalnik padel na človeka ali trčil s potniškim letalom. Seveda je varnost zračnega prometa pomembna. Nihče ne želi, da bi nam droni padali na glavo in klatili potniška letala, vendar me ta del zgodbe ne zanima preveč. V dronih vidim predvsem nov poskus uresničitve podatkovne ideologije, ki se znova vrača v teorijo nadzorovanja in kaznovanja, kot bi se verjetno izrazil francoski filozof Michel Foucault.

Podatkovne ideologije?

Tehnologija očesa na nebu obljublja veliko bolj natančno forenziko: boljšo rekonstrukcijo kaznivega dejanja in hitrejše iskanje storilcev. Zagovorniki množičnega elektronskega nadzora pa trdijo, da bi lahko s kamerami, zbiranjem komunikacijskih podatkov in droni preprečili teroristične napade, še preden se zgodijo – namesto da lovimo in kaznujemo storilce, ko je že prepozno. Ta napovedna moč je nekaj, kar je bilo v teoriji že imenovano kot »kolonizacija prihodnosti«.

Nekdanji ameriški obveščevalec in žvižgalkar William Binney je v nedavnem pogovoru za naš časopis povedal, da sedanje oblike množičnega nadzora ne morejo izpolniti takšne obljube. Podobno neprizanesljive so bile tudi številne neodvisne študije elektronskih nadzornih sistemov.

Predstavniki policije in tajnih služb imajo na takšne kritike vedno enak odgovor: potrebujemo še več nadzora, širša pooblastila in naprednejšo tehnologijo. Pomembno je prepričanje, da nam bodo podatki prej ali slej odgovorili na vsa vprašanja, če jih bomo zbrali dovolj in jih bomo znali pravilno obdelati. Takšno zaupanje v podatke je za kriminologe zelo zanimivo, saj nas vrača v začetke kriminologije. Naše področje je vedno poskušalo – če zelo poenostavim – znanstveno pojasniti in napovedati kriminaliteto. Vprašanje pa je, kaj v nekem zgodovinskem obdobju sploh velja za »pravo« znanost.

In danes so to podatki?

V znanosti, politiki, gospodarstvu … Povsod se vse bolj zanašamo na moč podatkovne analize. V zgodovini kriminologije sta takšen pristop prva zagovarjala francoska statistika iz 19. stoletja André-Michel Guerry in Adolphe Quetelet, ki sta hotela z moralno statistiko natančno izmeriti in ovrednotiti količino zločina v tedanji Franciji. Čez nekaj časa se je statistika začasno poslovila, tudi zaradi znanstveno spornih teorij antropološke kriminologije, ki je poskušala dokazati povezavo med videzom in kriminalnostjo. Zato se je kriminologija v dvajsetem stoletju močno naslonila najprej na psihiatrijo – kriminalce je mogoče prepoznati in pozdraviti, če jim odpremo glavo – in nato na psihoanalizo in kasneje na znanosti o življenju, med katerimi izstopata nevroznanost in genetika. Psihoanalitični pogled zelo dobro pokaže film Psiho, ki ga je v začetku šestdesetih let prejšnjega stoletja režiral Alfred Hitchcock.

Ker je bil morilec obseden z materjo?

Sporočilo filma je zelo jasno: če hočete izvedeti, zakaj je filmski morilec Norman Bates ubil dekle, ki je prespalo v njegovem hotelu, morate vprašati psihoanalitika. Ta pa bi vam povedal, da je Bates moril zaradi nerazrešenega Ojdipovega kompleksa. Danes bi bila razlaga precej drugačna.

Da so ga prisilile črevesne bakterije? Nedavne raziskave kažejo, da imajo velik vpliv na naše možgane …

To najbrž ne, lahko pa bi odkrili kako nenavadno možgansko anomalijo ali tumor, zaradi katerega je postal psihopat.

Kateri filmski ali televizijski lik najbolje opiše kriminologijo zgodnjega 21. stoletja? Je to nova priredba Sherlocka Holmesa, detektiv Luther ali junaki iz ameriške franšize Na kraju zločina?

Če lahko sklepam po nanizankah in filmih, je to ženska, stara okrog trideset let, in s štirimi doktorati (nasmešek).

Iz medicine, kriminologije …?

Računalništva, nevroznanosti … Kriminologija – zlasti ameriška in britanska – se spet vse bolj naslanja na materialno. Psihoanaliza in družbene teorije kriminala se umikajo statistiki, naravoslovju, podatkovni analizi in telesu. Ta premik je opisala kriminologinja Katja Franko Aas v nedavnem članku The body doesn’t lie – Telo ne laže. Telo je postalo zanesljivejše od priče, izjave ali zaslišanja, naj govorimo o telesu žrtve ali storilca. Ni važno, kaj nekdo govori ali razmišlja, ampak materialni dokazi. Od večjega pomena pripovedništva v pravosodju smo prešli k sklicevanju na podatkovne zbirke – DNK-zbirka na primer pove resnico, »ker telo ne laže«. Od tod naprej pa smo prišli že vsaj poskusno do odločevalskih algoritmov. Če se odločevalec v kazenskem pregonu zanaša na zbirke podatkov, to lahko naredi še bolje kar sam računalnik. To ne velja samo za kriminalistične preiskave, ampak tudi za humanitarne in politične krize. V zadnjem času sem nekajkrat slišal trditve, da je sedanja begunska kriza v Evropi v veliki meri tehnološka, saj nimamo dovolj dobrih orodij za hitro obdelavo prosilcev.

Kaj pomeni hitra obdelava prosilcev?

Kamere z visoko razločljivostjo na dronu, ki zna določiti število ljudi v skupini in prepoznati obraze. Biometrični sistemi, ki samo poskenirajo prosilca in določijo njegovo resnično identiteto … Ljudje lahko lažejo, dokumenti so morda ponarejeni, uradnik v begunskem centru je preveč utrujen, prava tehnologija pa bi nam omogočila hitro in zanesljivo razvrščanje beguncev v skupine. Telesa in podatki bi odločili, kdo je upravičen do azila in koga bomo zavrnili. Lahko si predstavljate, da bi bila takšna tehnologija zelo vabljiva za marsikaterega evropskega politika in uradnika. Ne samo, da bi bila zelo učinkovita. Moralne, etične in politične odločitve o človeških usodah bi prepustili strojem – oziroma podatkovni znanosti, ki je razvila algoritme.

Lani ste na inštitutu za kriminologijo pripravili okroglo mizo, na kateri je podatkovni analitik Jure Leskovec namignil, da lahko računalniki v dobi velikega podatkovja sodijo bolje kot sodniki. Kakšna bi bila pravica računalniških algoritmov?

Leskovec je skupaj s sodelavci opravil zelo zanimivo raziskavo. Na več kot milijonu sodnih spisov je analiziral primere, v katerih so ameriški sodniki presojali, ali naj osumljencem odredijo pripor ali varščino. Pripor odredimo iz treh razlogov: če presodimo, da bo osumljenec pobegnil, ponovil dejanje ali uničil dokaze. Če osumljenec pobegne, je bila sodniška odločitev napačna. Zato je raziskovalce zanimalo, ali lahko računalnik zmanjša število sodniških napak. Določili so več kot petdeset različnih meril, po katerih je računalnik ocenjeval osumljence in izračunal verjetnost, ali bodo pobegnili ali ponovili dejanje. Nato so resnične sodniške odločitve iz sodnih spisov primerjali s hipotetičnimi razsodbami računalniškega sodnika. V vseh primerih je bil računalnik zanesljivejši od sodnikov, saj je pravilneje odredil pripore in je manj osumljencev pobegnilo ali ponovilo kaznivo dejanje.

Torej je pravica računalniških sodnikov zanesljivejša od človeške?

Na takšno vprašanje ni preprostega odgovora. Računalniku zmanjka človeška razsežnost. Zamislimo si lahko primer odvisnice od drog, za katero bi računalnik z 90-odstotno verjetnostjo napovedal, da bo ponovila dejanje, in ji odredil pripor. Človeški sodnik pa je upošteval njene težke socialne okoliščine in dejstvo, da mora sama skrbeti za tri otroke, zato ji je ponudil še eno priložnost, čeprav se je zavedal, da obstaja velika ponovitvena nevarnost. Kaj je bolj pravilno? Kaj je bolj pravično in kaj bolj moralno? To moramo na koncu še vedno presoditi ljudje.

Bo mogoče kdaj govoriti o etiki algoritmov? Vojaški droni že danes izvajajo smrtne obsodbe, je priznal nekdanji direktor ameriške nacionalne varnostne agencije NSA Michael Hayden.

Pred nekaj leti so v ZDA anketirali državljane, ali bi bili pripravljeni sprejeti računalniškega sodnika. Pripadniki etničnih skupin – zlasti Afroameričani – so povedali, da bi takšnemu sodniku celo bolj zaupali, saj jih ne bi diskriminiral zaradi rase, kar je v ZDA velik problem. So lahko algoritmi res nevtralnejši od človeških sodnikov? Ne verjamem, saj tudi algoritme programirajo ljudje in v programe vnašajo svoj vrednostni sistem. Danes vemo, da vsak od nas pušča zelo specifičen in prepoznaven digitalni »prstni« odtis. Že samo iz analize nakupovalnih navad z veliko gotovostjo določimo spol, raso, etnično pripadnost, spolno usmeritev, zdravstveno stanje in politično prepričanje določenega posameznika. Vse te dejavnike bi upošteval tudi algoritem – naj odloča o popustu v trgovini, kreditu na banki ali priporu. Pravila, po katerih presojajo računalniki, pa niso transparentna.

Regulatorji se izgovarjajo, da nočejo zatreti inovativnosti in tehnološkega razvoja, zato drone in algoritme večinoma prepuščajo trgu. Za katere varovalke bi morali poskrbeti zakonodajalci?

Ko smo lani sprejemali novelo o kazenskem postopku, smo veliko govorili o zahtevah policije, ki je hotela dobiti izredno pooblastilo za uporabo lovilcev imsi – posebnih naprav za prisluhe in prestrezanje mobilnih komunikacij. Pri razlagi te novele bo pomembno ugotoviti, ali sme policija namestiti takšne lovilce tudi na drone, kar bi močno povečalo možnosti elektronskega nadzora. Poleg policije se za brezpilotne letalnike zanima tudi slovenska vojska, čeprav ne vemo, za kakšne namene jih bo uporabljala in kakšna so na tem področju sploh pravila mednarodnega prava. V Sloveniji tako rekoč nimamo pravil za uporabo brezpilotnih letalnikov. Ne vemo, kdo je odgovoren za njihovo varnost. Piloti ne potrebujejo licenc, manjše naprave lahko vsak kupi v spletni trgovini in z njimi počne, kar hoče.

Kdo bi moral poskrbeti za pravila?

Ministrstvo za promet in infrastrukturo, agencija za civilno letalstvo, ministrstvo za pravosodje, ministrstvo za notranje zadeve, informacijski pooblaščenec … Vse te ustanove bi se morale ukvarjati z regulacijo brezpilotnih letalnikov, ampak tega ne počnejo. Še najbolj so dejavni pri informacijskem pooblaščencu, vendar njihove pristojnosti urejajo del problematike. Lahko opozarjajo, ne morejo pa sprejemati zakonov. Dosti bolje ni niti drugod po svetu, saj so v ZDA šele letos začeli zahtevati obvezno registracijo določenih vrst dronov. Nikjer se pa še niso dotaknili globljih vprašanj, ki sva jih omenila pri sodniških algoritmih: katere zakone in vrednostne sisteme bodo upoštevale tehnologije nadzora in kje bomo postavili meje avtomatiziranemu odločanju.

So človeški sodniki pripravljeni na tehnološke spremembe in nove znanstvene ugotovitve o človeškem obnašanju in svobodni volji? Se zavedajo priložnosti in omejitev podatkovne analize, vzorcev DNK, nevroznanstvenih raziskav o delovanju možganov …?

Na teh področjih imamo še absolutno premalo znanja. Pravo je že po naravi konservativno in reaktivno, zato bodo spremembe in prilagoditve zagotovo zelo počasne. Tudi zato, ker imajo sodniki povsod po svetu težave z ohranjanjem avtoritete. Včasih so bile sodbe dolge petnajst strani, danes so desetkrat daljše. Zaupanje v sodstvo je marsikje zelo nizko. Sodniki čutijo pritisk, da morajo pojasniti prav vsako besedo, pojem in zakonski člen, ker vsi prežijo na njihove napake – odvetniki in zdaj še računalniki. Njihovo nesamozavest zelo uspešno izkoriščajo lobisti tehnoloških podjetij, najeti izvedenci in politiki, ki pod krinko varnosti, učinkovitosti in večje znanstvenosti uveljavljajo lastne interese. Čeprav pri tem kratijo državljanske in človekove pravice, ki kljub novim tehnologijam ostajajo enake.