Tristan Harris je bil nekoč zaposlen kot etik pri eni največjih internetnih korporacij na svetu, danes pa je digitalni aktivist in soustanovitelj neprofitnega Centra za humano tehnologijo (Center for Humane Technology). Na videoklic se poveže prek pametnega telefona, in takoj je jasno, da ne kliče iz kakšne zatohle pisarne. Na prvi pogled je videti sproščen, celo vesel, s svojim pozdravom pa to le še potrdi: »Morali bi videti ta čudovit razgled – gorovja Arizone, nebo, oblaki. Čutim, kako se mi prav v tem trenutku polnijo baterije.« Digitalizacija je lahko velik blagoslov. Omogoča nam več prilagodljivosti in odpira nove priložnosti za organizacijo našega dela in naših življenj. Ampak – in to je tisti veliki 'ampak' v osrčju prizadevanj Tristana Harrisa – če ne bomo previdni, bomo vso to svobodo izgubili, še preden se je sploh zavemo.

Prihodnost je že tu

Znanstvenofantastični filmi in romani že desetletja burijo strahove o daljni prihodnosti, v kateri bo umetna inteligenca prevzela nadzor nad našo družbo. »Te zgodbe so nas med drugim učile, da je za premoč nad nami potrebna sovražna sila,« pravi Harris. »Če želim nasprotnika premakniti v določeno smer, moram biti močnejši od njega.« Toda nadzorovanje sploh ne zahteva veliko napora – to se je Harris naučil že kot otrok, ko je za zabavo izvajal čarovniške trike, svoje razmišljanje pa je utrdil med študijem v Laboratoriju za prepričevalne tehnologije (Persuasive Technology Lab) na univerzi v Stanfordu. »Kako ustvariš iluzijo? Poznati moraš le eno stvar o psihologiji svojega občinstva, ki je sami ne vedo, in že lahko vplivaš na njihovo razmišljanje in delovanje. Ni jih treba napadati tam, kjer so najmočnejši, osredotočiti se moraš na njihove šibkosti.«

Harris je prepričan, da na povsem enak način deluje večina platform za družbene medije, programov e-pošte in aplikacij, ki so danes sestavni del življenja milijard posameznikov. »To, kar vsi nosimo v žepih, niso zgolj pametni telefoni, so roboti, ki imajo na naš nevrološki sistem nagrajevanja podoben učinek kot igralni avtomati v kazinojih.«

Informacijska vrzel se povečuje

Če se kot uporabniki ne zavedamo, da se naši možgani na tako imenovane občasne spremenljive nagrade odzovejo s samodejnim sproščanjem hormonov sreče, potem seveda ne moremo biti kos kibertehnološki industriji in vsemu znanju, ki ga je nakopičila. Harris pojasni logiko spremenljivih nagrad: »Ko pritiskam na gumb, včasih dobim slastno nagrado (kako razburljivo!), včasih pa ne.« Zgolj en primer tega, kako se da naše najbolj primitivne možganske funkcije obrniti proti nam: ko vsakih nekaj minut preverjamo naš e-poštni predal in drsamo gor ali dol, da bi ga osvežili, vedno upamo na 'nagrado'. Ali lahko temu iskreno rečemo zavestna uporaba komunikacijske tehnologije? In ali se res sami odločamo o tem, kako bomo porabili svoj čas? Če vprašate Tristana Harrisa in mnoge druge raziskovalce, je odgovor odločen ne.

»Storitve pretočnega videa (video streaming), aplikacije za mreženje in novičarski portali med seboj tekmujejo za našo pozornost,« pravi Harris. To je bistvo problema. Tehnologija se ne razvija po naključju; vsaka inovacija je odziv nekoga na inovacijo njegovega tekmeca. Hitro širjenje lažnih novic je eden od nesrečnih stranskih učinkov tega začaranega kroga. »Jeza poveča čas, ki ga preživimo pred ekranom, mnogo bolj učinkovito kot zadovoljstvo,« pove Harris. Novice, ki nas razburijo, delimo z večjim številom prijateljev, jih raziskujemo na več kanalih in jih obsedeno spremljamo. Relevantni algoritmi to zaznajo in nam ponujajo vedno bolj stresne vsebine. Čeprav ni nujno, da gre vselej za lažne novice, pa nekaj zagotovo drži: ni verodostojnost vsebine tista, ki določa, kaj se bo pojavilo na naših tablicah in časovnicah. »Vedeti moramo, da personaliziranih novic ne ustvarjajo ljudje, temveč algoritmi,« doda Harris. »In ti niso programirani za to, da nam prikažejo tisto, kar bi bilo dobro ali zdravo za nas, temveč tisto, kar bo za dlje časa pritegnilo našo pozornost.«

Kako naprej?

Pa obstajajo rešitve za to težavno dilemo? Harris verjame, da obstajajo. »Za začetek moramo bolje razumeti šibke točke naših možganov, da se bomo lahko učinkoviteje upirali nezdravim impulzom.« Etik poziva k drugi dobi razsvetljenstva, tokrat digitalni. »Poleg tega potrebujemo nove modele odgovornosti,« nadaljuje Harris. »To pomeni, da se morajo odločevalci v velikih tehnoloških podjetjih zavedati svoje odgovornosti. In zagotoviti, da bodo nosili odgovornost za svoja dejanja.« Kot tretjo rešitev pa Harris zagovarja – in pri tem na svojo stran pridobiva vedno več direktorjev iz Silicijeve doline – »pravo renesanso v razvoju.«

V ospredju bi moralo biti varstvo potrošnikov, vendar gre tudi za to, da uporabnike opolnomočimo, jim ponudimo možnost, da svoj čas izrabijo za bolj pomenljive stvari. Oblikovati moramo skupne cilje. Kaj si uporabniki resnično želijo od vsakodnevnih interakcij z družbenimi mediji? Da jih posrka vrtinec neskončnih videov in vse bolj razgretih pogovorov na forumih? Ali pa imajo rajši aktivno podporo pri načrtovanju dragocenega časa onkraj zaslonov? »Lahko bi jih na primer spodbujali k temu, da priredijo spontano večerjo, pomagali pri seznamu povabljenih gostov in zbiranju odgovorov,« razmišlja Harris.

Odgovornosti in priložnosti

Naj bo dobro ali slabo, umetna inteligenca »optimizira« naša vedenja, pozna našo psihologijo, predvideva in manipulira z našimi željami. Po Harrisovem mnenju nas je nedvomno že zdavnaj prehitela. Kolesja časa ne moremo zavrteti nazaj, lahko pa se – namesto prodajanja pozornosti uporabnikov najvišjemu oglaševalskemu ponudniku – osredotočimo na zdrave vrednote. »Tudi zdravniki in odvetniki imajo pred svojimi pacienti in strankami veliko prednost v znanju. Toda profesionalna etika od njih zahteva, da ravnajo v skladu z njihovimi najboljšimi interesi.« Harris verjame, da je sprememba paradigme v tehnološki industriji neizogibna, seveda v povezavi z odgovornim, previdnim ravnanjem uporabnikov. S tem v mislih se Harris od nas poslovi s praktičnim nasvetom: »Ne odpovedujte se uporabi družbenih medijev, namesto tega si rajši zavestno dovolite, da se večkrat na dan odklopite. Čas brez povezave izkoristite za zabavne, razburljive, sproščujoče stvari.« Navsezadnje tudi na ta način stimuliramo naš sistem nagrajevanja.