Ejmi Veb (Amy Webb) je jedna od vodećih američkih futuristkinja, svetska referenca za masovne podatke i analizu i predviđanje trendova u oblasti tehnologije i nauke. Neko je ko vidi u budućnost, ko zna predvideti koliko crni scenariji će biti u budućnosti ukoliko ništa ne učinimo i koliko bolji bi mogao biti svet ako nešto promenimo. O svemu tome piše u svojim poznatim knjigama. U pretposlednjoj knjizi objašnjava veštačku inteligenciju, čiji razvoj je u rukama šačice tehnoloških velikana koji kroje našu budućnost. U poslednjoj knjizi, objavljenoj ove godine, piše o vremenu sintetičke biologije i pet scenarija koji pokazuju kako programiranje DNK može prodreti u sve sfere života, od genetske selekcije do proizvodnje hrane.

Ejmi Veb je kvantitativna futuristkinja i osnivačica Future Today Institute, vodeće kompanije za predviđanje i strategiju, koja pomaže liderima i njihovim organizacijama da se pripreme za kompleksniju budućnost, te profesorka strateškog predviđanja na Stern School of Business Univerziteta u Njujorku.

Kao dugogodišnja obožavateljka naučne fantastike, blisko sarađuje sa holivudskim scenaristima i producentima u stvaranju filmova, televizijskih emisija i reklama o nauci, tehnologiji i budućnosti. Magazin Forbs ju je proglasio je jednom od pet žena koje menjaju svet. Bila je jedna od 100 žena u 2020. godini na listi BBC-a, a uvrštena je i na listu Thinkers50, na kojoj je 50 najuticajnijih svetskih mislilaca u oblasti menadžmenta.

Za N1 Slovenija je govorila o ključnim tehnološkim trendovima, napretku veštačke inteligencije, neobičnoj privlačnosti metakosmosa i virtualnim megajahtama, mogućnostima sintetičke biologije i dve moguće budućnosti. Koju ćemo izabrati?

N1: Ko su zapravo futuristi i koja je uloga praćenja tehnoloških trendova?

Futurista je neko ko koristi podatke i gradi modele za sistematsko istraživanje mogućih budućih scenarija. Zadatak futurista zapravo nije predviđanje budućnosti – ovde se ljudi često zbune – mi futuristi ne predviđamo, već pripremamo ljude za budućnost.

To možemo različito raditi. I sama se u velikoj meri oslanjam na kvantitativne podatke i metodologije, kako bih shvatila kakve dugoročne efekte mogu imati različite sile i trendovi koji danas postoje. Ustvari, mi futuristi osveštavamo o tome šta će se dogoditi sutra.

Za nas su trendovi samo smernice koje nam pomažu da razumemo, kako se stvari tokom vremena mogu promeniti. Da bi mogli reći da je nešto trend, mora biti ispunjeno mnogo kriterijuma.

Moramo biti sposobni sastaviti model, kvalifikovati ga i testirati. Obično su za nas trendovi veoma dugoročni. Ne zanimaju nas toliko najmodernije stvari, nego velike sile koje oblikuju različite delove društva.

N1: Svake godine pripremate obiman izveštaj o budućim trendovima, pitanjima koja oni aktiviraju i budućim scenarijima koje bi ti trendovi mogli doneti. Ove godine je 15. po redu, u njemu na 668 stranica predstavljate 547 tehnoloških i naučnih trendova u oblastima kao što su veštačka inteligencija, metakosmos, rad, mediji, blokčejn, klima… Kada sam slušala vaše ovogodišnje predstavljanje, prvo sam bila oduševljena, a zatim šokirana, zabrinuta – čini mi se neverovatnim šta se sve već dešava i šta nas čeka u budućnosti. Brine li vas kuda idemo i kojom brzinom? Jeste li puni nade za budućnost?

U Future Today Institutu konstantno modeliramo trendove i to u mnogim različitim oblastima. I sama se uglavnom fokusiram na tehnologiju i nauku. Istraživanja sprovodimo tokom cele godine, a jednom godišnje objavljujemo izveštaj koji služi prvenstveno da pomogne drugima da razmisle o tome šta je već dostupno u različitim oblastima i šta dolazi.

Pragmatičar sam. Ne mislim da će budućnost nužno biti bolja ili gora od sadašnjosti. Budućnost je naime rezultat odluka koje donosimo. Zato bi moj odgovor vama bio – mislim da imamo mnogo prilika, ali i da svi donosimo loše odluke. To važi za sve zemlje, svuda se donose razne loše odluke, koje nam ne pomažu u razmišljanju kako da stvorimo bolju budućnost i bolje društvo.

N1: Jedno od najvažnijih područja tehnološkog razvoja je nesumnjivo veštačka inteligencija. Neki kažu da smo u ranoj fazi veštačke inteligencije, da još ništa nismo videli. Koje su neke od zanimljivih i zabrinjavajućih aplikacija veštačke inteligencije u ovom trenutku?

Veštačka inteligencija je ono što zovemo područje ili polje tehnologije sa dugim horizontom. Biće potrebno još mnogo, mnogo godina da se veštačka inteligencija razvije do kraja i pojavi.

Mnogi ljudi nisu svesni da se veštačka inteligencija u nekom obliku razvija već 150 godina, možda 200 godina. To je zato što su prvi računari, nazvani računskim mašinama, izumljeni otprilike u to vreme. Još u 19. veku, matematičarka Ada Lovlejs je razmišljala šta bi ova mašina vremenom mogla da uradi. Objavljivala je tekstove o algoritmima i načinima na koje mašine mogu same razmišljati. Dugo je bilo potrebno da dobijemo dovoljno jake računare, dovoljno mreža, kako bismo mogli raditi ono što danas možemo da radimo.

Ovo ističem jer, iako je veštačka inteligencija tehnologija s dugim horizontom, zanimljivi napreci dešavali su se sve brže. To je zato što nova tehnologija omogućava još više nove tehnologije.

Jedno od važnih dostignuća bilo je kada je pre deset godina prva gigantska neuronska mreža, jedna od metoda veštačke inteligencije koja oponaša funkcionisanje ljudskog mozga, uz pomoć 16.000 računara i deset miliona video zapisa na YouTube, naučila da sama prepoznaje mačke na snimcima. Nakon toga je neko pre nekoliko godina napravio web stranicu pod nazivom This cats do not exist, koja je generisala slike mačaka koristeći posebnu vrstu tehnologije nazvanu generativna kontradiktorna mreža (generative adverserial network odn. GAN). Međutim, te mačke još nisu izgledale stvarno – radilo se o veoma čudnim mačkama.

Danas, samo pomoću mobilnog telefona možete stvoriti beskonačan broj mačaka koje izgledaju kao prave mačke. Ovo su dvodimenzionalne, ravne slike mačaka, a sada se približavamo tome da možemo stvoriti pokretne mačke, koje proizvode zvuk, koje izgledaju kao prave mačke, ali su zapravo veštački stvorene.

Ovo je samo jedan primer razvoja veštačke inteligencije, ali mi se čini važnim, jer sadrži mnogo inovacija i razvoja u periodu od jedne decenije.

Slično ubrzan put napretka primećujemo i u korišćenju tehnika mašinskog učenja za pomoć u otkrivanju novih lekova. Recimo, veštačku inteligenciu su takođe koristili i za određivanje redosleda genoma SARS-CoV-2… Napredak vidimo posvuda.

Nalazimo se na trajektoriji dugog horizonta, ali tokom naših života počećemo primećivati prilično korenite promene. I tvrdim da smo mnoge već doživeli.

N1: S druge strane, ova tehnologija donosi i mnogo opasnosti, etičkih dilema. Jedan primer je sposobnost tehnologije veštačke inteligencije da prepozna naša lica, što izaziva mnogo kontroverzi, posebno kada se koristi na javnim površinama bez javnog obaveštenja. Ali istina je, vi tvrdite, da sistemi veštačke inteligencije više ne trebaju naše lice kako bi znali ko smo. Koliko su danas napredne ove tehnologije?

Mi smo pokretni kontejneri podataka. Puni smo podataka. Naša lica su podaci, naše držanje su podaci, način na koji hodamo je podatak. Ako imate sistem koji može identifikovati ove vaše jedinstvene karakteristike, može vas prepoznati.

Više ne morate da vidite lice osobe da biste znali ko je ta osoba, jer se novi sistemi mogu osposobiti da vas prepoznaju i na osnovu vaših ličnih osobina, načina na koji se ponašate u datom trenutku. Na osnovu vaših prethodnih karakteristika ponašanja i osobina, oni čak mogu utvrditi da li se vaše ponašanje u datom trenutku podudara s predviđenim ponašanjem.

Što više koristimo uređaje i što više prenosimo svoje podatke uređajima i sistemima, to su oni u stanju bolje da odrede ne samo ko smo, već i šta smo u datom trenutku.

Naše lice je najočitiji podatak, koji je i jednostvano dobiti – gotovo svi koristimo društvene mreže, na kojima ima mnogo naših fotografija, na osnovu kojih se uče algoritmi.

Međutim, teže je dobiti podatke kao što je otisak srca. Ovo nije isto što i otkucaji srca, već se radi o specifičnom pokretu na, recimo, koži ili našoj odeći, koji je uzrokovan otkucajima srca. To su tačke podataka koje bi se mogle sa pravom vrstom tehnologije, pravom vrstom lasera, detektovati na udaljenosti od hiljadu metara. Zatim bi te podatke uporedili sa bazom podataka i otkrili da ste to vi. Čak i ako vas ne vide.

Takve aplikacije se već koriste u vojne svrhe, a delom se tamo i razvijaju. Međutim, možemo zamisliti budućnost kada više ne budemo imali lične karte, jer će nas moći identifikovati samo na osnovu našeg disanja ili otisaka srca dok se krećemo po gradovima ili u unutrašnjosti prostora.

Postoje i tehnologije koje nisu distopijske i zastrašujuće, kao što su senzori koji detektuju da li ste imali srčani udar ili ne, ili koje prate koliko se krećete tokom dana. Kao i tehnologije koje pomažu ljudima nakon moždanog udara da ponovo počnu koristiti svoje telo ili da ponovo nauče govoriti nakon traumatskih događaja.

N1: Mnogi stručnjaci upozoravaju da problem s veštačkom inteligencijom nije toliko u samoj tehnologiji koliko u podacima i tome ko ih poseduje. Ako znamo da su podaci u rukama devet velikih kompanija (Amazon, Google, Facebook, Tencent, Baidu, Alibaba, Microsoft, IBM i Apple), kako kažete u svojoj knjizi The big Nine, koliko bi trebalo da budemo zabrinuti?

Smatram da svaka konsolidacija kompanija, bez obzira na oblast, treba da bude razlog za zabrinutost.

Najveći izazov je da kada u svetu ostane samo jedan, dva ili devet velikih igrača, mnogo nade polažemo u šačicu ljudi koji na kraju donose odluke umesto svih nas. To je istovremeno i neizbežno. Teško mi je zamisliti oblast ili industriju – što uključuje i medije – u kojoj ne bi došlo do konsolidacije tokom vremena i gde je na kraju ostalo samo nekoliko tržišnih lidera.

U slučaju tehnološke industrije, jasno je da postoji samo nekoliko kompanija koje donose odluke za sve i koje grade sisteme koje koriste svi. To važi za društvene mreže, digitalnu reklamu i naravno veštačku inteligenciju. Mislim da je to nešto o čemu treba razmišljati i ozbiljno razmisliti o tome, da li je to pravi smer za društvo u budućnosti.

N1: Jedan od najvažnijih trendova koje ste istakli u svom poslednjem Izveštaju o tehnološkim trendovima je da veštačka inteligencija trajno menja našu percepciju stvarnosti. Na koji način? Šta danas oblikuje našu stvarnost?

Upravo u ovom trenutku imamo jednostavan primer – međusobno razgovaramo preko Zooma. Iz nekog razloga u mojoj verziji Zooma je postavljen preuzeti filter, koji poboljšava izgled – imam osećaj da je nešto mutno. Kada koristim Microsoft Teams, moje lice jače blista nego kada koristim Zoom, zato radije koristim Zoom, jer mislim da izgledam malo lepše. Ovo je mali primer, ali nam pomaže da shvatimo kako veštačka inteligencija menja naš osećaj stvarnosti.

U Kini su sprovedene neke zanimljive studije u kojima su ljudi vršili plaćanja uz pomoć biometrijskih podataka o licu. Neki terminali su imali filter zbog kojeg se ljudima činilo da izgledaju dobro kada se vide na ekranu, drugi terminali taj filter nisu imali. Podaci govore da ljudi sami sebe bez filtera ne žele gledati, zato neće izvršiti kupovinu na terminalima bez filtera. Ovo su zanimljivi podaci o ponašanju koji su inače još u ranoj fazi, ali nam na neki način pomažu razumeti kako veštačka inteligencija počinje iskrivljavati naš osećaj stvarnosti. Ali postoji i mnogo drugih načina.

Ako pogledate društvene mreže i koliko brzo se preko njih šire dezinformacije i objave koje su kreirali roboti – gotovo biste pomislili da tako, kako piše u tim objavama, svi na planeti misle jer je to tako prošireno na vašem zidu. U stvarnosti nije tako. Ali s vremenom počnete verovati u ono što čitate, počinjete verovati u te dezinformacije. I zbog toga ljudi donose užasne odluke.

Nedavno smo doživeli još jednu zaista užasnu pucnjavu u SAD. Osamnaestogodišnjak je ušao u razred pun učenika četvrtog razreda i ubio ih. Delimično zbog društvenih mreža – zbog onoga što je tamo pročitao i toga šta je želeo tamo pokazati. Trebalo bi da razmislimo o tome kako odlučujemo i kako biramo, zašto vidimo stvari koje vidimo i kakav je naš odnos prema tim informacijama. Trebalo bi zahtevati i transparentnost, uvid u odluke koje se donose u razvoju tih sistema.

Jedan od primera koji pokazuje da je stvarnost sve manje stabilna, a mogućnosti manipulacije sve su veće, su sintetički mediji – računarski generirani sadržaji kreirani pomoću veštačke inteligencije. Među sintetičke medije spadaju, recimo, deep fake videi (duboki falsifikati) kao i virtuelni influenseri. Na gornjoj slici vidimo Shudu, poznatu kao prvi digitalni supermodel.

N1: Kada govorimo o promeni stvarnosti, moramo govoriti o metakosmosu (čija je jedna od varijanti Facebookov metakosmos/metaverse), mreži nekakvih paralelnih, virtuelnih svetova u kojima ljudi mogu komunicirati, poslovati… Metakosmos je drugi trend kojeg ističete u svom izveštaju. Zašto je tolika pompa oko toga? Zašto bi ljudi želeli da žive u njemu?

Ideja o metakosmosu vrlo je usko povezana sa sledećom verzijom weba, kojeg neki nazivaju web tri (promena paradigme na Internetu – ka decentraliziranom, korisnički orijentisanom i produbljenom online iskustvu). Zašto su ljudi sada toliko oduševljeni? Ubeđena sam da je zbog toga jer je Mark Zuckerberg u oktobru promenio ime svoje kompanije iz Facebook u Meta.

Koncept metakosmosa nije nov, ljudi već neko vreme pričaju o virtuelnoj stvarnosti i stvaraju pompu. Dakle, ništa od toga nije novo. Ono što je novo je da su neka vrlo velika tehnološka imena počela iz različitih razloga pozicionirati svoje kompanije na malo drugačiji način.

To uključuje kompaniju Square, koja se preimenovala u Block (kao Blockchain) i time jasno naznačila svoj pomak ka metakosmosu, i Facebook, koji se preimenovao u Meta. Mislim da na taj način kompanije pokušavaju zabiti svoju zastavu u pesak, kako bi dominirale određenim područjima i pomogle u stvaranju novih pravila.

Uređaj za praćenje celog tela za metakosmos kompanije Shiftall.

Ali hoćemo li svi živeti kao crtani avatari i ići na posao kao crtani avatari? Verovatno ne ovako kako to danas izgleda. Budućnost je obično samo delić onoga što si danas predstavljamo da će biti, ali obično se ispostavi da je nešto drugačije.

Znamo, međutim, da mnogi ljudi koji igraju igrice provode svoje vreme na Twitchu i drugim platformama. Postoji i generacija dece koja je opsednuta igranjem Minecrafta i korištenjem Robloxa (platforme za igranje i programiranje igrica).

Ali razlog zašto su svi ludi za tim i što ima toliko pompe je taj, što pompa izaziva još više pompe. Ako šačica uticajnih ljudi počne da priča o nečemu, a vi ne znate o čemu pričaju, pojavljuje se „FOMO“ (fera of missing out) – strah od propuštanja nečega. Mislim da je ono što sada primećujemo to da se poslovna zajednica oseća kao da nešto propušta, zato svi žure da urade ono što se može. To delimično objašnjava šta se dešava.

Do 2024. godine, metakosmos bi mogao postati tržište vredno 800 milijardi dolara. Tehnološki velikani poput Facebooka ili Meta, Microsofta, Applea i Googlea već ulažu mnogo novca da bi se to ostvarilo.

N1: Čini se da ljudi metakosmos shvataju prilično ozbiljno. Nedavno je iz metakosmosa odjeknula vest da je luksuzni NFT – virtuelna megajahta, s kojom se možete voziti po metakosmosu – prodat za 650.000 dolara.

Prema mom mišljenju, mnogo je ljudi koji su uložili u nezamenjive žetone (NFT) jer su mislili da je to brz način, brz visokotehnološki način da ulože nešto novca i postignu visoke prinose, ili da kuju NFT (eng.minting; znači proces pretvaranja digitalne datoteke u digitalno dobro na bazi blockchaina) i dobiju visoke povrate. Obično s tako naglim porastom aktivnosti – i ovde se radilo o prilično velikom povećanju – u određenom trenutku sledi slom.

N1: Nedavno je objavljena Vaša nova knjiga o sintetičkoj biologiji pod naslovom The genesis machine. U njoj upoređujete sintetičku biologiju sa računarskim programiranjem i tvrdite da sada možemo programirati biološke sisteme na način na koji programiramo računare. Zar to ne pokreće alarm u vašoj glavi?

U oblasti koja se zove sintetička biologija, sada se dešavaju prilično neverovatne stvari. Sintetička biologija je relativno nova oblast, koja kombinuje računarstvo, inženjerstvo i dizajn sa biologijom.

Alati za sintetičku biologiju omogućuju vam da uređujete i kreirate, stvarate nove organizme ili organizmima dajete drugačije sposobnosti nego što su imali pre. Sintetička biologija stvarno gleda na biologiju sa inžinjerske tačke gledišta. To nam daje neke vrlo zanimljive opcije.

To bi moglo značiti da možete napraviti pivo koje svetli u mraku. To je zaista uzbudljivo. Obično, kada ljudi počnu da rade u toj oblasti, među prvim projektima su svetleće stvari – svetleće ribe, svetleće biljke, svetleće pivo. Međutim, može se učiniti mnogo više.

Danas se svi oslanjamo na najlon, prilično izdržljiv i jak materijal koji se koristi u raznim stvarima – u užadima, cipelama, svuda u svetu. Budući da je za njegovu proizvodnju potrebna nafta, veliki je zagađivač, zato nije dobar za planetu, osim toga, povezan je s geopolitičkim trenjima, a time i neizvesnošću. Ipak to je supstanca koja nam je potrebna i na koju se oslanja moderno društvo.

Neki istraživači su otkrili način kako korištenjem sintetičke biologije napraviti najlon koji je održiv, bolji za planetu i nije vezan za geopolitička usklađivanja. Uz pomoć sintetičke biologije su iz fermentisanog šećera i sličnih stvari napravili istu molekulu koju bi dobili i od nafte.

Zato mislim da su pred nama neke zaista zanimljive mogućnosti – bilo da se radi o stvaranju održivog tekstila i materijala ili smanjenju naše zavisnosti o đubrivima za useve. Uz pomoć sintetičke biologije, možemo recimo promeniti usev tako da bude otporan na klimatske promene ili će ga biti moguće uzgajati u zatvorenim prostorima. Možemo proizvoditi meso na ćelijskoj osnovi bez štete po životinju. Puno je nade na horizontu. Postoje i pokušaji da se uspori starenje ili razvoj personalizovanih lekova ili razvoj vakcina. Neki ljudi širom sveta su tokom pandemije primili vakcinu zasnovanu na informacijama RNK. To je takođe proizvod sintetičke biologije.

N1: Jedna od stvari koje futuristi poput Vas rade je da na osnovu podataka i dokaza objasnite kakva je verovatna budućnost. Kakva bi mogla biti budućnost po najpesimističnijem i najoptimističnijem scenariju?

Najgori ishod je da bi neke zemlje koristile sve ove podatke u svoje autoritarne svrhe kao način kontrole ljudi. Dok bi u nekim drugim zemljama regulacija i planiranje potpuno izostali, zbog čega bi razvoj bio prepušten privatnom sektoru – profitnim organizacijama čiji cilj je da zarade novac. Ni u jednom od tih slučajeva, dakle, niko zaista ne razmišlja o dugoročnim efektima i o tome kako će to uticati na buduće generacije, društvo.

To takođe stvara tenzije, jer znači da su vrednosti nekih zemalja veoma različite od drugih i da su te vrednosti ugrađene u tehnologiju koja se razvija. To važi za veštačku inteligenciju, sintetičku biologiju, kvantno računarstvo, poluprovodnike – za mnogo ključnih tehnologija koje pokreću moderno tehnološko doba.

Ukoliko želimo da izbegnemo ovaj katastrofalni scenario, prema mom mišljenju je veoma važno da uradimo suprotno, što će istovremeno biti u interesu oba sveta – da kompanije i dalje zarađuju mnogo novca, da zemlje i dalje mogu da poštuju svoju lokalnu kulturu i norme, da vlade vode državu kako žele, ali da u centar svega toga stavljaju ljude i sprovode dugoročno planiranje koje tehnologiju posmatra kao javno dobro.

Mislim da postoji način kako to učiniti i podstaći obe strane da sednu za isti sto, ali to mora biti naš prioritet. Dobra budućnost ne dolazi slučajno, uistinu sjajna budućnost je rezultat jako napornog rada i deo tog rada je ponekad donošenje odluka koje nam kratkoročno nešto otuđuju ili nam stvaraju neugodnosti, a dugoročno pomažu. To su teški izbori i moramo se odlučiti da li smo spremni na takav način ulagati u našu budućnost. Mislim da je to optimističan scenario ako to uradimo.

N1: Možete li nam konkretnije reći – šta bi zemlje, kompanije i civilno društvo trebalo da urade?

Vlade treba dugoročno da planiraju, bez obzira ko je na vlasti u bilo kom trenutku. Moraju imati zajedničku viziju i složiti se oko nje, te nastojati da je pretvore u stvarnost. Pre pedeset godina toga je bilo više, ali sada je sve manje jer su vlade vrlo fragmentirane zbog polarizacije i ekstremne politike. A ja vam govorim iz SAD, gde se sve ovo dešava. Postoje zemlje širom sveta koje oblikuju dugoročne vizije i jako nastoje da ih ostvare.

Takođe bi bilo dobro da vlade počnu uvoditi regulatorne inovacije. Previše regulative naime usporava napredak, ali ako regulacije uopšte nema i ako nema odgovarajućih politika, nalazimo se u nezgodnom položaju. Regulatori ne smeju čekati i moraju biti kreativni.

Tvrdim da mnoge postojeće strukture, pravni i regulatorni okviri danas više nemaju smisla zbog razvoja nauke i tehnologije. Moramo postati kreativni i početi razmišljati malo drugačije.

Kompanije moraju unaprijed proceniti rizike i dugoročno planirati – na koje načine se nešto može pokazati kao dobro i koji su to slučajevi kada to postaje loše. Moraju razmišljati eksponentno i raditi postepene promjene, uvek iznova i iznova, kako bi mogli stvoriti stvari koje će za sve biti u najboljem interesu. I da uistinu razmisle, da li postoji način da nastavimo zarađivati puno novca, a istovremeno raditi bolje.

Na nivou pojedinaca, međutim, moramo se probuditi. Stalno koristimo stvari zaista ne razmišljajući o tome kako, recimo, radi ovaj telefon, kako radi internet, koje podatke dajemo, da li nam to odgovara. Mislim da treba da budemo razboritiji i da razvijemo određeni nivo pismenosti. U svim tim slučajevima moraćemo da donosimo neprijatne odluke, što je u redu. Neprijatne odluke danas mogu pomoći da se uspostavi mnogo bolje sutra.

N1: Koja naučnofantastična knjiga ili film najbolje opisuje svet u koji ulazimo?

Trenutno bih rekla „Prekrasni novi svet“ Oldusa Hakslija ili „Priča o devojci“ Margaret Atvud… Ne mogu odabrati samo jedan naučnofantastični film ili knjigu koja bi opisivala budućnost, jer takvih koje mi se čine neprijatno blizu onome što se sada događa, ima previše.

Ali mislim da nije nužno da je tako. Želim da za deset godina ne budemo imali osećaj da svi živimo u seriji „Black Mirror“.