Epizody Black Mirror, které už ŽIJEME!

Seriál Black Mirror nás vždy nutil zamyslet se nad tím, co by se mohlo stát ne za 100 let, ale možná už zítra. Koneckonců i sám tvůrce tohoto antologického titulu Charlie Brooker zastává názor, že technologii vlastně nelze úplně rozdělit kategoriemi dobra a zla. Nejde totiž o vynálezy samotné, ale náš vztah k nim. Představují jednoduše černé zrcadlo, které nám neukazuje nic víc, než to, co už v lidech dávno bylo. Jednotlivé epizody seriálu nezřídka zdvihají varovný prst před inovací, kterou jsme nekriticky a s lehkostí začlenili do svého osobního života, ale pořádně nepromysleli důsledky i dopad na celou společnost. Přesto nás tyto, ač temné a občas pořádně tragické scénáře přitahují. Vyjadřují totiž skryté napětí mezi obavou a nadějí – na budoucnost jsme zvědaví, těšíme se, jaké zázraky nám přinese. Navzdory tomu hledíme do této černé obrazovky se strachem, že by nám technologie mohla jednoho dne přinést víc škody než užitku. Black Mirror nenabízí jednoduché otázky ani jednoduché odpovědi. Mnozí seriál chválí, protože umožňuje prožít extrémní situace bez reálného ohrožení – takříkajíc „zaočkovat se“ proti úzkosti pomocí intenzivního emočního prožitku z fiktivního děje. Pravdou však je, že autoři čerpají náměty z aktuálního dění a mnohé jejich příběhy dnes až překvapivě připomínají skutečné události.

Epizoda s názvem „Pád střemhlav“ (Nosedive) se odehrává ve světě, kde každý jedinec hodnotí ostatní pomocí mobilní aplikace. Jakákoli interakce – pozdrav, prodej kávy či krátký pokec na veřejnosti – je okamžitě hodnocena jednou až pěti hvězdičkami. Výsledné průměrné skóre však určuje sociální status jednotlivce a ovlivňuje všechno od možností bydlení, přes zaměstnání až po společenské příležitosti. Hlavní hrdinka Lacie (Bryce Dallas Howard) se se svým skóre 4,2 řadí do mírného nadprůměru, ale odjakživa sní, že se dostane mezi elitu. Když se objeví šance být čestnou družičkou na svatbě své populární známé, vidí v tom příležitost, jak si výrazně zlepšit postavení. Naneštěstí cestou tam zažívá sérii katastrof, kvůli kterým se propadne téměř na samé dno žebříčku.

Touha po sociální validaci prostřednictvím technologie nám však vůbec není cizí. V době sociálních sítí lidé nezřídka definují svou hodnotu na základě vnějšího posuzování. Sbírají „lajky“, komentáře a sledující – čím víc jich mají, tím vyšší společenský status získávají. Mnohé vztahy se tak stávají transakčními – člověk se snaží zaujmout anonymní množinu uživatelů ve virtuálním prostoru, často jen proto, že potřebuje rostoucí čísla, která přinášejí dopaminovou odměnu. Nevidí za nimi skutečné osoby a nepřeje si je ani poznat. Mezi své krátkodobé cíle klidně řadí snahu získat si sympatie nějakého influencera, který by posílil jeho dosah a popularitu. K tomu si možno připsat i úsilí kvantifikovat téměř všechny myslitelné parametry každodenního života do agregovaných hodnocení. Řidiči Uberu, pronajímatelé Airbnb či kurýři Woltu, ale i obyčejní lidé s profilem na LinkedIn – všichni jsme takříkajíc neustále posuzováni podle našich doporučení, dovedností a kontaktů ještě dřív, než cokoli uděláme. Naše online aktivita zvyšuje důvěryhodnost a šance na kariérní růst, ale může nás i lehce potopit. Tento trend otevírá otázky o povaze společnosti, ve které každý hodnotí každého a člověk je tak tlačen do permanentního předstírání pozitivních reakcí, nadšení či zdvořilostí.

Pokud by však toto nebylo dostatečně přesvědčivým argumentem, tak vězte, že Čína od roku 2014 testuje vlastní sociální kreditní systém. V praxi jde o vládní iniciativu, která si klade za cíl hodnotit spolehlivost občanů a firem. Shromažďuje údaje z různých zdrojů včetně finanční situace, chování v dopravě, zaměstnání, podnikání, dobrovolnické činnosti, dárcovství, péče o rodiče nebo zmíněné online aktivity. Je třeba říci, že zatím neexistuje jednotné celostátní skóre pro každého občana, přičemž většina opatření funguje lokálně na úrovni měst a provincií. Tyto programy se liší způsobem hodnocení i mírou sankcí. Na druhé straně nejvýznamnějším nástrojem sociálního kreditu v Číně jsou tzv. černé listiny, které spravují různé vládní instituce. Může jít o seznamy nespolehlivých osob, na které se dostanete například nesplněním soudního rozhodnutí či neplacením dluhů. Pokud se tak stane, může vám systém omezit přístup do luxusních hotelů, zakázat kupovat letenky nebo rychlovlakové jízdenky, zredukovat šance na zaměstnání ve veřejném sektoru, zablokovat půjčky a kreditní karty, dokonce snížit skóre dětí při přijímacích zkouškách do škol. Aby toho nebylo málo, vaše jméno na seznamu figuruje veřejně a listiny se cíleně zviditelňují. 

Samozřejmě Čína vyzdvihuje pozitivní důsledky tohoto projektu, mezi které patří zefektivnění státní správy, zlepšení veřejného pořádku, pokles přestupků jako znečišťování, přecházení na červenou a násilí, ale také zvýšení zájmu o komunitně prospěšné aktivity. Lidé s dobrým skóre mohou získat levnější hypotéky, rychlejší víza, lepší příležitosti při hledání práce a kratší čekací doby na letišti. Jenže negativní dopady tyto utopické možnosti jaksi zastiňují. Kritici upozorňují na diskriminaci, stigmatizaci i šikanu sociálně vyloučených, ale i nedostatek transparentnosti a právní jistoty. Systém může společenské rozdíly zakonzervovat, což způsobí, že bohatí ještě víc zbohatnou a chudí se jen propadnou. Vládní garnitura dokáže potenciálně projekt používat i na potlačování nesouhlasu – např. penalizováním novinářů, aktivistů nebo „nepohodlných“ občanů.

Ve výsledku však můžeme bez problémů konstatovat, že epizoda „Pád střemhlav“ je extrémně přesná satira na současnou „kulturu lajků“ a její znepokojivě reálné důsledky.

V tématu digitálních stop ještě zůstaneme, protože epizoda „Celá tvá minulost“ (The Entire History of You)pojednává o blízké budoucnosti, kde má většina lidí všechny své vzpomínky uložené na harddiscích implantovaných přímo v lebce. Malé zařízení za uchem nepřetržitě nahrává všechno, co člověk vidí a slyší, přičemž každý záznam si může kdykoli přehrát – buď soukromě přes čočky, nebo veřejně na obrazovce. Právník Liam (Toby Kebbell)se však stane obětí tohoto malého zázraku, když začne svou manželku podezřívat z nevěry. Pomocí neustálého přehrávání detailů minulých rozhovorů a interakcí začíná posedle analyzovat všechna drobná gesta, výrazy i slova. Když jste si na začátku říkali, že možnost přesně uchovávat zrakové a zvukové vjemy nositele by se vám celkem hodila, pohled na Liama, který se postupně propadá hlouběji do paranoie, vás zřejmě přesvědčí o opaku. 

Je pravdou, že naše přirozená paměť je velmi nespolehlivá a někdy vychází spíš z pocitů než faktů. Tato skutečnost člověka občas dostává do nepříjemností, protože si události vybavuje jinak, než se staly. Jenže tyto odchylky a zkreslení mají své opodstatnění. Lidský mozek si nevytváří objektivní záznamy – ale smysluplné příběhy, které takříkajíc „rozmazávají hrany“. Díky tomu můžeme filtrovat negativní zážitky, odpouštět, vnitřně se vyvíjet. Pokud bychom měli k dispozici dokonalý záznam jako Liam, mohli bychom uvíznout ve starých křivdách, hádkách či zraněních. Postavy v této epizodě přestávají žít okamžikem, protože ho dokumentují pro budoucí kontrolu.

A tady se opět objevuje cosi pro nás mimořádně povědomého. „Living for the feed“ efekt nebo „performance life“ jsou termíny, které popisují nutkání neustále digitálně zaznamenávat přítomnost, namísto spontánního a autentického prožívání toho, co právě děláme. Zážitky se mění na archiv v telefonu, notebooku či Instagramovém výběru. Pokud něco nezachytíme na kameru – stalo se to vůbec? Tento druh mentality způsobuje, že si vybíráme aktivity a místa podle toho, co bude vypadat dobře na fotce či videu. Pokud je všechno zdokumentováno a potenciálně veřejné, život se stává výkonem, který člověk hraje pro své virtuální publikum. V takovém případě se soukromí rozpadá, protože ho dobrovolně přetváříme na produkt. Vlogování tvoří nepochybně zábavný a zajímavý obsah, ale psychologové varují před jeho dopadem na lidskou psychiku. Neustálé porovnávání se s „highlighty“ jiných může potenciálně vést k frustraci, úzkosti nebo FOMO efektu.

Futuristické implantáty zatím ještě nemáme, ale existují takzvané „Lifelogging technologie“, které slouží k automatizovanému zaznamenávání různých aspektů každodenního života. Patří sem všelijaké digitální deníky a trackery jako Moves, RescueTime, Gyroscope nebo Daylio. Podobné aplikace vám umožňují monitorovat pohyb, fyzickou aktivitu, čas strávený na mobilu, náladu, menstruační cyklus, spánek, jídlo a zvyky. K tomu si ještě nasadíte wearables zařízení jako smart hodinky, náramky, prsteny nebo brýle. Zatímco některé sledují srdeční tep, stres, EKG nebo kyslík v krvi, jiné dokážou natáčet video či fotit a přenášet obsah do smartphonu. Věda v tomto směru neustále postupuje a vznikají další experimentální projekty. Ačkoliv se hodně mluvilo o Neuralinku, který vytvoří rozhraní mezi mozkem a počítačem, za zmínku stojí i RFID čipy pod kůží. Už dnes využívají lidé ve Skandinávii tyto miniaturní implantáty k bezkontaktní identifikaci, platbám, cestování vlakem a vstupu do pracovních prostor. Samozřejmě nejde o běžnou součást života ve Švédsku, přičemž se tyto dobrovolné čipy objevují převážně v technologicky progresivních komunitách ke zjednodušení života.

Shromáždění dat ze všech už nyní běžně používaných technologií by však bohatě stačilo k rekonstrukci celé vaší historie i bez implantátů v těle. Obzvlášť lidé narození po roce 2000 mají potenciálně v cloudu svou digitální stopu ještě dřív, než se stačili poprvé nadechnout.

Příběh epizody „Sklapni a tancuj“ (Shut Up and Dance) nás seznamuje s teenagerem Kennym (Alex Lawther), který tajně sleduje pornografii na svém notebooku. Neví, že jeho webkamera je hacknutá a někdo cizí na druhé straně ho natáčí. Krátce poté obdrží anonymní zprávu, ve které ho dotyčný vydírá, že pokud Kenny neuposlechne pokyny útočníka, jeho choulostivé tajemství bude zveřejněno. Kluk začne v panice poslušně plnit stále bizarnější a extrémnější požadavky, přičemž se zkontaktuje s dalšími vydíranými osobami.

Kennyho cesta je opravdu stresující a stále temnější, ale na konci přichází nechutný zvrat: obsah, který sledoval, byl nejen nevhodný, ale i v rozporu se zákonem – vzhledem k věku zobrazených osob. Je tak zřejmé, že tento jev není předmětem vzdálené budoucnosti, ale temným odrazem reálného světa.

Mezi hlavní motivy této epizody patří problém digitální zranitelnosti, protože vše, co děláme online - i když si myslíme, že jsme sami - může být zaznamenáno, zneužito a obráceno proti nám. Již dlouho totiž platí, že co není vidět, neexistuje. Útočníci nejednají jako klasičtí zločinci s fyzickými zbraněmi, ale používají stud. Hrozby jsou postaveny výhradně na emocionálním a sociálním nátlaku, který nejlépe funguje nejen proti Kennymu. Všichni máme v jistém smyslu právo na „soukromou hanbu“ a společenská reputace je pro nás nesmírně důležitá. Na druhou stranu v průběhu děje dochází u diváka k určitému morálnímu posunu: zpočátku Kenny vystupuje jako nevinný, nesmělý chlapec, se kterým soucítíme. Všechny jeho činy vnímáme jako obranné a tragické. Ke konci jsme však nuceni své sympatie přehodnotit a položit si otázku, zda můžeme někoho litovat, ale zároveň odsuzovat. Kdy vlastně člověk ztrácí právo na soucit? Odpověď pochopitelně nedostaneme, protože epizoda nás konfrontuje s morální nejednoznačností reality. Zároveň otevírá aktuální otázku, kde končí spravedlnost a začíná pomsta. Moc bez odpovědnosti totiž může být nebezpečnější než systém, který kritizujeme, a vydírání se sexuálním obsahem je stále častějším jevem. Příkladů z reality je mnoho, což činí tuto epizodu obzvláště silnou a realistickou. 

Epizoda „Přijdu hned“ (Be Right Back) začíná tragicky. Mladý muž jménem Ash (Domhnall Gleeson) umírá při autonehodě a jeho partnerka Martha (Hayley Atwell) se s jeho ztrátou těžko vyrovnává. Na radu známé vyzkouší inovativní službu, která využívá umělou inteligenci trénovanou na digitální stopě zesnulého. Z chatů, e-mailů a sociálních sítí vznikne jakási technologická entita napodobující Ashe a Martha prochází fázemi „náhrady“ jeho přítomnosti. Nejdříve si s tímto chatbotem jen píše, ale později se přidá i komunikace pomocí syntetického hlasu. Nakonec si nechá poslat tělesnou repliku Ashe – androida, který se ho snaží věrně imitovat. Martha však zjišťuje, že tento nový umělý Ash je jen stínem skutečného muže, kterého milovala. Nemá jeho smysl pro humor, spontánnost ani opravdové emoce. Martha si tedy uvědomuje, že „být s někým“ znamená víc než jen napodobit jeho digitální stopy.

Tato myšlenka poukazuje na dnešní kulturu rychlých řešení, kde chceme na každou bolest aplikovat technologii jako náplast. Je tedy otázkou, zda by se rána v Marthině srdci opravdu „zahojila“, kdyby neztratila s Ashem kontakt ani po smrti. Smutek je totiž přirozenou cestou k uzdravení a umělá náhrada pouze prodlužuje popírání reality. Technologie tak může v tomto případě narušit potřebný psychologický proces, který je sice zraňující, ale léčivý. Koneckonců člověk je víc než jen součet údajů. Naši identitu tvoří kontext, paměť, selhání a vývoj. Umělý Ash je „živý algoritmus“, který sice ví „co by měl říct“ a všechno je „správně“, ale nikdy ne skutečné.

V realitě také existují způsoby, jak simulovat zesnulé prostřednictvím umělé inteligence. Americký softwarový vývojář Jason Rohrer v roce 2021 vytvořil takzvaný Project December, který umožňuje uživatelům komunikovat s AI chatboty. Ti jsou trénováni na informacích a modelových zprávách, které klient poskytne o mrtvém člověku. Projekt má však časová omezení a zpoplatněný systém kreditů. Mnohem víc epizodu Black Mirror připomíná aplikace novinářky Eugenie Kuyda s názvem Replika, která vznikla po smrti jejího blízkého přítele. Na vytvoření komunikačního modelu rovněž použila jeho staré zprávy a celý nápad se později rozvinul do veřejně dostupné aplikace pro miliony lidí. Společnost StoryFile zase umožňuje zaznamenat rozhovory se živými osobami, které jsou následně zpracovány do interaktivního AI systému. Po smrti dotyčného mohou být tyto dialogy přehrány na pohřbu, přičemž zesnulý „dokáže odpovědět“ na otázky přítomných. Příkladem je pedagožka Marina Smith, která prostřednictvím StoryFile promluvila na své poslední rozlučce. Aktuálně se vyvíjejí i služby jako HereAfter AI, konzervující vzpomínky a příběhy, které jim člověk svěří. Když zemře, vytvoří se z těchto materiálů digitální „kopie“, která hlasem zesnulého své myšlenky opět zpřítomňuje. Rodina a přátelé s ním mohou mluvit, protože i tento AI model reaguje na otázky.

Ačkoliv tyto technologie mohou poskytnout dočasnou útěchu, odborníci upozorňují na možná psychologická rizika. Je zde už zmíněný problém s brzděním přirozeného procesu truchlení, což může vést k vážným emočním problémům. Zdá se však, že minimálně základní koncept epizody „Přijdu hned“ už dávno není žádná hudba budoucnosti. Děje se to právě teď.

Joan (Annie Murphy) je obyčejná žena po třicítce – má poměrně standardní kancelářský život, přítele, kterého vlastně až tak nemiluje, a ne zcela vyřešenou minulost. Avšak jednoho večera si zapne platformu Streamberry – parodii na Netflix – a zjistí, že se tam právě vysílá nový seriál „Joan je hrozná“. Titul přesně mapuje její život s tím rozdílem, že ji na obrazovce ztvárňuje herečka Salma Hayek. Každý detail – od rozhovorů přes nevěru až po výpověď – je přesně reprodukován v knihovně streamovací platformy. Joan zjistí, že společnost Streamberry legálně získala práva na doslova celý její životní příběh jen tím, že ona odsouhlasila smluvní podmínky. Pomocí generativní umělé inteligence a kvantového počítače se v reálném čase generuje dramatizovaná verze jejího života a zveřejňuje se světu. Přichází však překvapivý obrat, když nám dojde, že v podstatě sledujeme seriál o seriálu o seriálu. Joan je totiž také jen simulace, protože onen kvantový počítač vytváří nekonečné multiverzum AI-příběhů založených na lidech ve skutečném světě.

Seriál „Joan je hrozná“ je vytvářen bez lidského zásahu. Sama Joan ztrácí kontrolu nad vlastním životem a její nejintimnější momenty se stávají předmětem zábavy pro jiné. Jde o satiru na automatizaci médií, zneužití podobizny známých osob bez jejich vědomí a depersonalizaci reality skrze AI. Technologie projektů DeepFaceLab, Synthesia nebo ElevenLabs umožňují vytvářet realistická videa s tvářemi a hlasy lidí, kteří nejsou skuteční. Co je však horší, dochází ke krádežím identity slavných a veřejně známých celebrit, ale také obyčejných uživatelů aktivních online. Velkou skupinu tvoří pornografie bez souhlasu, ale vznikají i různé finanční podvody a pokusy o diskreditaci politiků či novinářů. Diskusi vyvolala například herečka Scarlett Johansson, která tvrdila, že firma OpenAI neautorizovaně použila její hlas. V roce 2023 ji oslovili s nabídkou poskytnout hlas pro nový systém ChatGPT, což však odmítla. Společnost přesto spustila hlasovou asistentku, která velmi nápadně zněla jako Scarlett Johansson. OpenAI tvrdila, že šlo o hlas profesionální herečky, jejíž identitu nezveřejnila, ale hlasovou asistentku přesto pozastavili. 

V Hollywoodu se už nějakou dobu debatuje o „digitálních dvojnících“ a podepisují se smlouvy, které umožňují studiím použít tvář či hlas herců i po smrti nebo bez jejich přítomnosti. V mnoha zemích neexistuje zákon, který by deepfaky výslovně zakazoval nebo reguloval. Tento trend AI videí však posiluje ztrátu důvěry v realitu, protože si přestáváme být stoprocentně jisti věrohodností obsahu. Pod našimi vlastními videi se běžně objevují kritické komentáře o použití AI hlasu, který však patří našemu šéfredaktorovi Vurhorovi. A rozhodně není syntetizovaný. Ještě před pár měsíci se to nestávalo. Na téma umělé inteligence a umění jsme nicméně podrobně zpracovali videoesej, kde se věnujeme nejpalčivějším otázkám i obavám:

Kromě toho se epizoda obouvá i do faktu, že většina z nás si nečte podmínky používání. Tyto dokumenty bývají dlouhé, technické, nepřehledné a navíc navržené tak, abychom je ignorovali. Důsledky bychom však podobně jako Joan mohli jednoho dne trpce litovat. FaceApp a podobné aplikace mohou vaše fotky natrvalo uchovávat a komerčně využívat. TikTok a Snapchat často žádají přístup k mikrofonu i kameře, což jim dává možnost zaznamenávat i mimo aktivní používání. Ačkoli to úúúdajně nedělají. Meta, která vlastní Facebook i Instagram, sbírá informace o svých uživatelích pro personalizaci reklam. Na druhé straně skandál s Cambridge Analytica odhalil, že zřejmě nemá problém poskytnout je třetím stranám za účelem politické kampaně. Právní rámec je opět složitý a ačkoli Evropská unie zavedla GDPR, které vyžaduje „informovaný souhlas“, nezabránilo to, aby lidé klikali bez rozmyslu.

Epizoda nakonec kritizuje nejen tuto pasivitu, ale v závěru se mění na meta-komentář o nahrazování reality algoritmem. Nahlodává v nás znepokojení, že právě algoritmus je hlavní postavou našeho seriálu a my ho jen krmíme svými životy.