Pot v totalitarizem je tlakovana z všečki

Fotografija LJK

Pred več kot desetimi leti so v modni svetovalnici britanskega dnevnika The Guardian odgovarjali na vprašanje, kako se obleči za Facebook. »Končno sem se pridružila Facebooku,« je povedala bralka Lauren. »A sem se znašla v hudi modni zadregi. Kako naj se oblečem za svojo profilno fotografijo? Naj sledim svojemu odštekanemu modnemu slogu ali mi priporočate kaj bolj umirjenega?«

Odgovora se ne spomnim več, toda nekaj mesecev pozneje sem na srečanju novomedijskih podjetnikov izvedel, da sta londonska študenta – ameriški novinarski fotograf in modna oblikovalka – prav v Laurenini zadregi zaslutila rešitev svojih težav. Padec vrednosti ameriškega dolarja jima je v preteklih nekaj mesecih zelo oklestil študentska kredita, ki sta zaradi visokih londonskih cen skopnela že pred koncem prvega semestra. Vedela sta, da si bosta morala do pomladi poiskati delo, če bosta hotela ostati v Evropi. Kaj pa, ko bi združila znanje in upala, da je na spletu še dovolj podobnih modnih zadreg?

Uredila sta si manjši fotografski studio. Študijski kolega je postavil spletno stran, na voljo sta imela tudi skladišče z oblekami preteklih študentskih modnih revij. Storitev je bila preprosta: fotografiramo za družabna omrežja. Potrebujete resno, zabavno, elegantno ali ekstravagantno fotografijo? Se ne znate odločiti in vam mi izberemo pravo podobo? Čez nekaj mesecev nista več razmišljala o kreditu, toda študija tisto leto nista končala, saj sta imela preveč dela s fotografiranjem in modnim svetovanjem. Sprva sta se specializirala za Facebook, nato sta v ponudbo dodala še druga družabna omrežja: za iskalce službe, zmenkarske platforme in osebne predstavitve.

Pri delu sta se morala najprej prilagoditi precej drugačni fotografski psihologiji. Tradicionalni portretni fotograf je moral pravilno ugotoviti, s kakšno podobno bo zadovoljen naročnik – na kateri fotografiji si bo najbolj všeč. Pri tem si je lahko pomagal s pogovorom in skupnim pregledovanjem preskusnih fotografij, ki so razkrile pričakovanja portretirane osebe. Ta niso bila odvisna samo od okusa, temveč tudi od spola, starosti, družbenega položaja, poklica in vloge, ki jo je uprizarjal posameznik. Fotografija je morala utrjevati to vlogo in dober portretni fotograf jo je znal uprizoriti.

»Fotografiranje za Facebook« je bilo drugačno. Sprva se je zdelo, da je družabno omrežje predvsem spletna preslikava analognega predhodnika – šolskega zbornika s fotografijami in opisi, ki so ga ob koncu letnika prejeli sošolci in sošolke. Takšne so bile tudi profilne fotografije na Facebooku. Uporabniki so objavljali, kar so pač imeli: podobe iz družinskih albumov, portrete iz osebnih dokumentov, izrezke iz skupinskih fotografij, simbolne podobe in ilustracije ali, če so imeli srečo, nekoliko boljše posnetke, ki jih je posnel kolega s »pravim« fotoaparatom. Toda digitalni zborniki so ponujali možnost, ki je zelo hitro postala najpomembnejše merilo za novi družbeni status: števec elektronskih prijateljev in možnost všečkanja objav.

Uredniki lastnega tabloida

V knjigi Zasvojeni (Hooked, 2014) je ameriški publicist in poznavalec internetne industrije Nir Eyal pojasnil, da so se snovalci družabnih omrežij zgledovali po igrah na srečo. Igralni avtomati in druge igre na srečo morajo igralcu ponuditi ravno pravo razmerje med nagradami, naključjem, ugodjem in frustracijo, da težko prekinejo igro. Igralnice imajo za takšno pogojevanje ekonomski interes, saj jim vsaka dodatna minuta za igralnim avtomatom ali mizo povečuje dohodek. Podobno načelo upoštevajo računalniške igre in elektronska družabna omrežja, ki uporabniško pozornost (»angažiranost«) preprodajajo oglaševalcem. Poiskati morajo načine, s katerimi bodo »igralce« čim dlje obdržali pred elektronskimi zasloni in jih prepričali, da se vedno znova vrnejo.

S preskušanjem uporabniškega vedenja so ugotovili, da javno viden števec prijateljev (že poimenovanje vseh elektronskih stikov za »prijatelje« ni naključno) spodbuja pridobivanje novih prijateljev. To pomeni tako hitrejše in manj premišljeno dodajanje novih stikov – oseb, ki jih niti zares ne poznamo – kot tudi vedenje, zaradi katerega nas v svoje sezname dodajajo drugi. Pri tem ima zelo pomembno vlogo všečkanje, saj z všečkanjem tujih objav povečujemo verjetnost, da bomo sprejeti v njihovo omrežje, in hkrati možnost, da bomo tudi sami uživali v nagradi, ki jo prinese tuja pozornost. Če bi se pred dvajsetimi leti vsakih nekaj minut oglasili na pošti in vprašali, ali nas čaka kaka nova pošiljka, bi nas imeli za nore, ugotavlja Eyal. Če vsakih nekaj minut preverimo dogajanje na družabnih aplikacijah, je to postala nova normalnost, ki pa ni brez posledic.

Londonska študenta sta kmalu ugotovila, da za njune naročnike ni pomembno predvsem lastno zadovoljstvo s fotografijami, temveč odzivi, ki jih je objava sprožila na družabnem omrežju. Je prejela dovolj pohvalnih komentarjev in všečkov? Je pritegnila nove prijatelje? Jo je pohvalil ali pograjal kak vplivnik – oseba z višjim statusom in razvejenim družabnim omrežjem? Zato sta se problema lotila podatkovno. Sledila sta spletnim objavam fotografij, ki sta jih posnela, in za vsako izračunala »uspešnostni indeks«. Na vseh družabnih omrežjih in fotografskih knjižnicah sta iskala in analizirala najbolj deljene, komentirane in priljubljene fotografije, da bi morda našla pravi recept za idealno družabno fotografijo.

Ugotovila sta, da imajo najbolj komentirane fotografije nekatere podobne sestavine. Mogoče jih je razvrstiti v nekaj značilnih zvrsti, od »zabavnih« (posnetih v šibki svetlobi in pogosto od zgoraj) in »zasanjanih« (prevladujejo mehkejše barve in svetli toni) do »avanturističnih« (šport in potovanja) in »romantičnih« (v paru). Pozitivna čustva (nasmejani obrazi) so veliko privlačnejša od nevtralnih podob, ekstrovertiran videz ima prednost pred umirjenim. A sta trčila ob podobno oviro kot razvijalci algoritmov za iskanje glasbenih uspešnic. Algoritmi znajo zelo dobro pokazati, zakaj je bila priljubljena skladba priljubljena, saj v veliki večini uspešnic najdejo podobne prvine: harmonije, ritme, prehode in razmerja med refreni. Precej manj uspešni pa so poskusi ustvarjalcev in producentov, ki hočejo z algoritemsko pomočjo in analizo preteklih skladb sestaviti novo uspešnico, ugotavlja Christopher Steiner v knjigi Avtomatiziraj tole (Automate This, 2012). Popularna glasba je postala zaradi uporabe algoritmov vse bolj uniformirana, saj je začel velik del ustvarjalcev slediti enakim pravilom všečnosti. To pa velja tudi za fotografije (in fotografe) na družabnih omrežjih.

Dodajanje povratne zanke – števcev, komentarjev in všečkov – je na družabne platforme vplivalo precej drugače, kakor so upali in verjeli zgodnji teoretiki interneta. Neskončne možnosti objav in osebnega izražanja, ki jih ponujajo blogi in osebni profili, v resnici niso tako neskončne. Tim Wu v knjigi Trgovci s pozornostjo (The Attention Merchants, 2016) pojasnjuje, da morajo lastniki družabnih platform upoštevati enaka pravila industrije pozornosti kot pred njimi lastniki množičnih medijev in oglaševalskih agencij. Če so hotela komercialna medijska podjetja preprodajati pozornost oglaševalcem, so morala pritegniti čim večje občinstvo v demografskih skupinah z največjo porabniško močjo. Zato so brez vsakršne cenzure ali zunanjega ukaza večinoma ponudila podobno razmerje zabavnega, šokantnega in strašljivega, iz česar so zrasli tabloidi – tiskani in pozneje televizijski –, ali, drugače rečeno, sredinskega in očiščenega vsakršne skrajnosti, ki bi lahko odvrnila porabnike.

Spletne platforme so od medijskih podjetij prevzele poslovni model in glavni vir dohodkov – oglase, vendar s pomembno razliko. Večine vsebin niso prispevali plačani profesionalci, torej uredniki, novinarji in publicisti, temveč uporabniki družabnih omrežij. Zato so uspešna spletna podjetja postopoma razvila sisteme spodbud in omejitev, ki so usmerjali uporabniško vedenje v oglaševalcem prijazne načine. Uporabniki Facebooka, Snapchata, Instagrama in drugih družabnih omrežij se zelo hitro naučijo, katere objave jim prinesejo večji družabni izkupiček. Podobno kot lastniki elektronskih platform tudi oni merijo uspešnost objav, odstranijo manj uspešne vsebine in ponudijo več tistega, kar prinaša nagrado. Enakim pravilom sledijo spletni iskalniki in oglasni algoritmi, ki pomembnost določene objave ovrednotijo predvsem z njeno zmožnostjo, da spodbuja odzive uporabnikov. Bolj deljene, komentirane in všečkane vsebine imajo prednost pred tistimi, ki pritegnejo manj pozornosti uporabnikov, ne glede na vsebino. Tudi na spletu so se razvili zelo podobni žanri kot v komercialnih medijih. Namesto državljanskega novinarstva in debatnih idealov starogrške agora sta prevladali tabloidnost in utrjevanje porabniškega družbenega reda, ki jih brezplačno soustvarjajo uporabniki – in hkrati porabniki – spletnih platform.

Ujetniki mehurčka

Idealistično obdobje spletnih študij so zato nadomestili precej bolj realistični, kritični ali pesimistični pogledi, ki jih v knjigi Videni povzema opazovalec in hkrati udeleženec elektronskih družbenih fenomenov Dan Podjed.

Ker se družabni algoritmi učijo iz preteklega uporabniškega obnašanja in nam skušajo »ustreči«, nas neopazno zapirajo v »mnenjske mehurčke«, kjer nas obdajo z znanim in predvidljivim. Ali pa nas, nasprotno, obkrožijo z enako mislečimi, kar lahko radikalizira izolirane posameznike in krepi teorije zarote; pojav, ki ga je med prvimi opisal Eli Pariser v knjigi Filtrirni mehurček (The Filter Bubble, 2011). Nenehna elektronska povezanost in poudarjenost nista povečali vidnosti in bližine, ampak imata pogosto nasproten učinek – odtujenost in osamljenost. Življenje na Facebooku in drugih družabnih omrežjih je zato vse bolj podobno neskončni resničnostni oddaji, kjer je vsaka objava neizprosna bitka za košček pozornosti, primerjanje in strah pred izgubo pridobljenega družbenega statusa.

Takšna izguba ima za posameznika negativne psihološke učinke, saj povzroča stres, zbuja tesnobo in povzroči negativno samopodobo. Toda načrtno izkoriščanje človeške potrebe po razkazovanju in nagradah nima samo psiholoških posledic. Spletni oder, na katerem posamezniki igrajo svoje družbene vloge, je predvsem velikansko zbirališče podatkov, je laboratorij, v katerem smo vsi opazovanci.

Za ponazoritev spletne vidnosti nista več primerni prispodobi, ki so jih uporabili ustvarjalci nemškega filma Življenje drugih (2006), ko so predstavili delo anonimnega uslužbenca nekdanje vzhodnonemške varnostne službe Stasi – posameznika, ki z mikrofoni in kamerami spremlja vsako besedo oporečniškega para, ali podoba popolnega zapora, panoptika, ki ga je v 18. stoletju predvidel britanski filozof Jeremy Bentham in pozneje v romanu 1984 nadgradil George Orwell. Oba sta domnevala, da je občutek nenehne vidnosti najučinkovitejša oblika nadzora, pri katerem sploh ne potrebujemo več dejanskih zaporniških paznikov ali človeških tajnih agentov, ki v avtoritarnih režimih preganjajo problematične posameznike. Živela sta v časih, ko si še noben režim ni mogel privoščiti toliko nadzorovalcev, kolikor je bilo nadzorovancev, zato sta za uresničitev družbe nadzora potrebovala utvaro nenehnega nadzora, v katero so verjeli nadzorovani. Vendar si je danes že mogoče predstavljati prihodnost brez takšne omejitve.

Velika številka je vsota vseh atomov v vesolju, mi je spomladi 2016 v pogovoru povedal nekdanji tehnični direktor ameriške nacionalne varnostne agencije NSA Bill Binney in dodal, da je osem milijard Zemljanov za računske zmožnosti današnjih računalnikov razmeroma majhna podatkovna zbirka. Tudi če zapišemo in analiziramo prav vsa sporočila, klice, lokacije, posnetke, spletna iskanja in elektronske interakcije omreženih posameznikov, še nismo dosegli tehničnih zmogljivosti računskih strojev, ki zmorejo s pomočjo strojnega učenja in algoritmov vse učinkoviteje analizirati veliko podatkovje. To pomeni, da je postala tehnično in operativno uresničljiva tudi dejanska družba nadzora.

Bo tudi uresničena?

Veliko podatkovje in strojno učenje, ki ga pogosto uporabljamo kot sopomenko za umetno inteligenco, je mogoče primerjati z dvema preteklima iznajdbama, ki sta popolnoma spremenili zgodovino znanosti in človeške vednosti – s teleskopom in z mikroskopom. Prvi je približal svetove, ki so preveč oddaljeni za človeška čutila, drugi je razkril premajhne. Oba sta zahtevala drugačno razlago sveta in morda bodo imela podoben učinek tudi orodja, ki zmorejo celotno družbo opisati kot preplet podatkovnih točk in njihovih interakcij. Strojni pogled namreč ne sestavljajo samo izjemno natančna tipala, ki lahko skoraj z roba vesolja preberejo drobno pisavo, spoznajo obraze ali zaznajo drobne spremembe v temperaturi – znanilce bolezni ali skrite človeške dejavnosti. Podatkovni telemikroskopi omogočajo tudi spoznavanje, povezovanje in analizo vzorcev, ki jih prej ni bilo mogoče zaznati.

Gospodarji podatkovnega mikroskopa

Vsak uporabnik elektronskih komunikacijskih orodij pušča unikaten podatkovni prstni odtis, je povedal Binney. Med milijardami Zemljanov ni nobenega drugega posameznika, ki bi se ob enakem času zadrževal na istih lokacijah kot jaz, ki bi imel v imenikih iste stike, ki bi redno komuniciral z istimi osebami, ki bi na spletu iskal enake pojme, kupoval enake izdelke in prebiral iste vsebine.

Nihče drug nima mojega prstnega odtisa, s katerim odklepam pametni mobilnik, ali enakega obraza, kakor je objavljen na mojem družabnem profilu. Stroji na zapestju, na mizi in v žepih preštevajo srčne utripe in korake, poslušajo glasovne ukaze in zaznavajo razlike v govoru, ki lahko opozarjajo na stres, vznemirjenost ali prve znake degenerativne bolezni. Zbrani podatki bi lahko zelo koristili družboslovju, medicinski diagnostiki, napovedovanju naravnih nesreč, sodstvu ali lovcem na korupcijo in kriminal. Vendar imajo nekatere bistvene slabosti, zaradi katerih utegnejo njihovi negativni družbeni učinki prevladati nad pozitivnimi.

Prva je izjemno veliko nesorazmerje med opazovalci in opazovanimi. Za omrežno ekonomijo in strojno učenje je najpomembnejša velikost. Več podatkov omogoča uspešnejše učenje algoritmov in natančnejše rezultate. Največ podatkov pa so zbrale nacionalne države in velika zasebna podjetja, ki so pridobila monopolne ali močno prevladujoče tržne položaje v digitalni ekonomiji: Google, Amazon, Facebook, Apple, Microsoft in drugi. Ti podatki niso javna dobrina, ki bi bila dostopna vsem. Države jih hranijo zaradi strateških in varnostnih razlogov, korporacije jih skrivajo za poslovnimi skrivnostmi in varujejo kot zasebno lastnino. To hkrati povečuje moč lastnikov podatkov in jih varuje pred morebitnimi tekmeci, saj je postala cena vstopa v podatkovno ekonomijo izjemno visoka.

Pri razvoju umetne inteligence bo skoraj nemogoče tekmovati z Googlom, ki je na računalniške strežnike shranil skoraj celoten splet, digitaliziral knjige, zbral velik del človeške pisne komunikacije (v medijih, blogih in elektronski pošti), izdelal natančne zemljevide celotnega planeta in se z operacijskim sistemom Android naselil na večini pametnih mobilnikov. Le države z velikim obveščevalnim proračunom in dolgo vohunsko tradicijo zmorejo ustanoviti in financirati spletne agencije z več deset tisoč zaposlenimi, ki po zgledu Rusije in Kitajske pregledujejo vsebine na spletu in izvajajo propagandne kampanje, s katerimi skušajo vplivati na politične razmere po svetu. Samo največje politične stranke si lahko privoščijo zelo drage storitve analitskih družb, ki si prizadevajo, da z analizami družabnih omrežij, porabniških podatkov in osebnostnih vzorcev volivcev usmerjajo kampanjo ter zboljšajo volilni rezultat. Najmočnejša podatkovna orodja in umetna inteligenca bodo zato – podobno kot nekoč jedrske konice – dosegljiva samo velesilam.

Takšna asimetrija moči morda pomeni konec demokracije, meni izraelski zgodovinar Noah Yuval Harari, ki je v zbirki esejev z naslovom 21 lekcij za 21. stoletje (21 Lessons for the 21st Century, 2018) premišljal tudi o razmerju med informacijsko tehnologijo in totalitarizmom. Trditve, da nas družabna omrežja morda že poznajo bolje, kakor se poznamo sami, je treba razumeti dobesedno. Naši digitalni prstni odtisi razkrivajo vse intimne podrobnosti, osebnostne lastnosti, strahove, misli in čustvena stanja. Leta 2014 so morali pri Facebooku zaradi javnih kritik prekiniti študijo, v kateri so ugotavljali psihološke vplive izpostavljenosti določenim vsebinam, in ugotovili, da prikazovanje negativnih vsebin dejansko vpliva na slabše počutje in razpoloženje uporabnikov. Harari meni, da se bo natančnost takšnega vplivanja z novimi podatki in analitičnimi orodji še izboljševala. To lahko v prihodnosti prinese predvidevanje in oblikovanje človeških odločitev, konec svobodne volje in s tem demokratičnega političnega procesa.

Takšni scenariji niso omejeni samo na visokotehnološke avtokracije, kakršni sta Singapur in Kitajska, kjer preskusno uvajajo sistem družbenega točkovanja, ki bo iz vseh zbranih podatkov izračunaval družbeno sprejemljivost vsakega državljana. Tudi v zahodnih demokracijah je od komentarjev na družabnih omrežjih, objavljenih fotografij in videov, lokacije in drugih podatkov vse bolj odvisno, na katero fakulteto se bo posameznik vpisal, katero delo bo opravljal, koliko kredita bo dobil, s kom bo šel na zmenek in kako visoko premijo življenjskega zavarovanja bo plačeval. Toda teh podatkov večinoma ne pregledujejo ljudje, temveč stroji, kar je druga velika slabost nekritične uporabe podatkovnih telemikroskopov.

Države ne uvajajo informacijskih sistemov samo zaradi nadzora, ampak tudi zaradi obljube večje učinkovitosti in prihrankov. Politiki se odločajo za nakupe videonadzornih sistemov, da bi zmanjšali stroške za policijo in druge človeške programe za zmanjševanje kriminala. A jih nato zaupajo upravljavcem, ki hočejo prav tako zmanjšati stroške za človeške zaposlene in jih nadomestiti z algoritmi. Ti so v praksi še premalo natančni in jim ni mogoče zaupati pomembnih nalog. Najboljši sistemi za prepoznavanje obrazov se zmotijo v najmanj nekaj odstotkih primerov. Če takšen sistem namestimo na železniško postajo ali letališče, kjer je vsak dan milijon potnikov, to pomeni več deset tisoč napačnih prepoznav na dan, kar je povsem neuporabno za preganjanje terorizma in organiziranega kriminala. Toda brez ustreznih varoval lahko napačna strojna prepoznava naključnemu posamezniku zelo zagreni življenje. Uvrsti ga na seznam teroristov ali celo posreduje vojaškemu brezpilotnemu letalniku, ki ga bo prepoznal in razstrelil.

Odgovor na takšne pomisleke je vedno enak. Potrebujemo še več podatkov in natančnejše algoritme, ki ne bodo delali napak.

Vse to kaže na dva možna scenarija za prihodnost. Prvega je v sklepu knjige Videni predvidel tudi Dan Podjed. Vsemogočne elite bodo s podatkovnimi orodji nadzorovale in obvladovale svet, a pri tem ne bodo potrebovale represije ali uporabljale skoraj božjih moči, temveč se jim bodo ljudje podredili prostovoljno: zaradi udobja, popustov in narcistične potrebe po razkazovanju. V drugem bodo človeške usode preračunavali stroji, ki jim bodo politiki, uradniki in menedžerji postopoma prepustili večino odločanja ter jih s pomanjkljivimi podatki programirali za kar največjo učinkovitost. Takšni prihodnosti izbiramo vsakič, ko skušamo – podobno kot nekoč Lauren – z videzom pritegniti kar največ odobravanja na Facebooku ali drugih družabnih omrežjih. Za drugačne prihodnosti pa bo treba morda najprej postati manj družaben in bolj neviden: obrniti razmerje med nadzorovalci in nadzorovanimi, zahtevati dostop do podatkovnih orodij in nadzor nad njimi, si prisvojiti lastništvo nad lastnimi podatki ter si prizadevati za pravico do zasebnosti. In vztrajati, čeprav za takšne zahteve ni mogoče pričakovati nagrad, prijateljstev ali všečkov – ne na spletu ne v družbi.

Prispevek je izvirno objavljen kot spremna beseda knjigi Dana Podjeda, »Videni: Zakaj se vse več opazujemo in razkazujemo«, ki je izšla pri založbi ZRC (2019).