8.4a Vývojové trendy Sociální hodnocení lidí Přečtěte si příběh, nebo zhlédněte epizodu Black Mirror (S03E01: Pád střemhlav) Lacie žije ve světě, kde si lidé neustále navzájem dávají hodnocení (1 až 5 hvězdiček) za každou interakci — od úsměvu po příspěvek na sociální síti. Tyto hodnocení ovlivňují sociální status, přístup ke službám, bydlení i práci. Lacie má slušné hodnocení a sní o životě mezi elitou. Když ji její populární kamarádka Naomi pozve na svatbu jako družičku, Lacie vidí šanci, jak si zlepšit skóre na 4.5 a získat luxusní byt. Cestou na svatbu se ale vše pokazí, lidé ji odmítají pomoci, protože má nízké hodnocení, a když její hodnocení klesne pod 2.0, je zatčena. Jaké výhody a nevýhody by mělo sociální hodnocení lidí, kdyby se zavedlo povinně a celosvětově? 1) Jak by se změnilo tvoje chování, kdyby tě lidé neustále hodnotili? 2) Je spravedlivé, aby hodnocení ovlivňovalo to, co bude lidem dovoleno? 3) Kde (třeba na jakých sociálních sítích nebo aplikacích) tento systém funguje? 8.4b Vývojové trendy Záznam a přehrávání vzpomínek Přečtěte si příběh, nebo zhlédněte epizodu Black Mirror (S01E03: Celá tvá minulost) V blízké budoucnosti mají lidé v mozku implantát zvaný Grain, který neustále nahrává vše, co vidí a slyší. Vzpomínky si pak mohou kdykoliv přehrát — sami nebo ostatním na obrazovce. Hlavní postava Liam začne být podezřívavý vůči své ženě Ffion, když ji vidí na večírku s jejím bývalým přítelem Jonasem. Pomocí Grainu si Liam opakovaně přehrává záznamy z večírku, analyzuje její výrazy, slova i gesta. Postupně odhaluje, že mu o něm Ffion lhala o délce vztahu s Jonasem a smazala některé vzpomínky. Liam se stává posedlým pravdou, konfrontuje Jonase i Ffion, a jejich vztah se rozpadá. Jaké výhody a nevýhody by mělo nahrávání všeho, co za den vidíte a slyšíte? 1) Jak by se změnila tvoje komunikace s ostatními, kdyby věděli, že si mohou kdykoliv přehrát, co jsi řekl? Vedlo by to k větší upřímnosti, nebo spíš k opatrnosti a strachu z každého slova? 2) Je důležitější soukromí, nebo pravda? 3) Které aplikace mají přístup ke tvým vzpomínkám už teď? 8.4c Vývojové trendy AI replikace zemřelého Přečtěte si příběh, nebo zhlédněte epizodu Black Mirror (S02E01: Přijdu hned) Mladý pár (Martha a Ash) žije poklidně na venkově. Po tragické nehodě Ash náhle umírá. Martha je zdrcená a zjišťuje, že existuje služba, která dokáže vytvořit digitální verzi zesnulého člověka — pomocí jeho online komunikace, sociálních sítí a hlasových záznamů. Nejdřív si s „Ashovým“ algoritmem jen píše, pak telefonuje. Nakonec si objedná androida, který vypadá jako Ash a mluví jako on. Martha si postupně uvědomuje, že android jen napodobuje reakce a je to spíše stín skutečného člověka. Martha se snaží androida „vychovávat“, ale nakonec ho nechá u sebe na půdě. Jaké výhody a nevýhody by mělo, kdybychom mohli vytvořit AI model našeho milovaného zemřelého člověka? 1) Je správné vytvářet kopie zesnulých lidí, i když to pomáhá pozůstalým? 2) Může „pokec“ s AI přinést stejnou útěchu, jako „pokec“ s člověkem? Už sis to někdy ověřil/a na vlastní kůži? 3) Kdybys znenadání zemřel/a, souhlasil/a bys s tím, že by tvoji kamarádi či rodiče vytvořili AI z tvé digitální stopy? Proč ano, proč ne? 8.4d Vývojové trendy Rodičovská kontrola přes implantát Přečtěte si příběh, nebo zhlédněte epizodu Black Mirror (S04E02: Arkangel) Marie je matka, která po krátkém zmizení své malé dcery Sary propadne strachu, že ji ztratí. Nechá jí proto implantovat zařízení „Arkangel“ – technologii, která jí umožňuje sledovat Saru přes tablet: vidí, kde se nachází, jaký má tep, a dokonce může filtrovat stresující obrazy a zvuky, které by ji mohly rozrušit. Brzy se ukáže, že Sara kvůli filtraci neví, jak zvládat strach, bolest nebo konflikty – nikdy je nezažila. Ve škole je jiná než ostatní, nerozumí emocím, neumí reagovat. Když Sara zjistí, že ji matka sleduje, cítí se ponížená. Sara uteče z domova, zatímco Marie zoufale hledá její polohu – ale zařízení už nefunguje. Jaké výhody a nevýhody by mělo sledovat vše, co naše dítě vidí, slyší, jeho zdravotní stav a polohu? 1) Je v pořádku sledovat někoho „pro jeho vlastní dobro“? 2) Měla by existovat technologie, která dokáže filtrovat, co vidíš nebo slyšíš? 3) Které aplikace mají tvou důvěru a mohou sledovat tvůj tep, polohu a to, co říkáš nebo píšeš nebo na co koukáš? 8.4e Vývojové trendy Ovládání mozku pomocí aplikace Přečtěte si příběh, nebo zhlédněte epizodu Black Mirror (S07E01: Obyčejní lidé) Amanda, učitelka, má smrtelný nádor na mozku. Její manžel Mike souhlasí s experimentální operací od firmy Rivermind, která jí zachrání život pomocí syntetické mozkové tkáně napojené na cloud. Funguje to, ale jen pokud Mike platí měsíční tarif. Levná verze omezuje Amandiny schopnosti — musí víc spát nebo mluví s reklamami. Prémiová verze nabízí vylepšení mozku: lepší paměť nebo nové dovednosti. Mike si nemůže dovolit luxusní tarif, a tak se ponižuje na online platformě, aby vydělal peníze. Když se jeho tajemství provalí, přijde o práci a tím pádem i o peníze na předplatné. Amanda umírá. Jaké výhody a nevýhody by měl implantát v mozku, který by pomocí aplikace vylepšoval vaši osobnost a dovednosti? 1) Je v pořádku, že Amanda nevědomky mluví reklamami a musí často spát, aby poskytla svou kapacitu bohatým, když by si jinak technologii nemohla dovolit? 2) Jak byste tarify vymysleli vy, aby si tuto technologii mohli dovolit i chudí? 3) Děláme už teď rozdíly v tom, jakou péči dostane bohatý člověk a jakou chudý? 8.4f Vývojové trendy Život ve virtuální realitě Přečtěte si příběh, nebo zhlédněte epizodu Black Mirror (S03E04: San Junipero) San Junipero není skutečné město, ale virtuální realita, do které se lidé mohou připojit, když jsou staří nebo nemocní. Když lidé zemřou, jejich digitální vědomí může v tomto virtuálním světě žít dál v jakékoliv podobě. V tomto světě se potkávají dvě ženy: Yorkie a Kelly. Mezi nimi vznikne citový vztah, který se postupně prohlubuje. Zatímco Yorkie je v reálném světě upoutaná na lůžko po autonehodě a touží zůstat v San Juniperu navždy, Kelly váhá. V reálném životě je starší, vážně nemocná, ale zároveň truchlí po manželovi, který zemřel a rozhodl se do digitálního světa nepřesunout. Kelly se bojí, že by ho tím zradila. Jaké výhody a nevýhody by měla možnost nahrát ve stáří či nemoci své vědomí do virtuální reality, kde je svět bezchybný a bezpečný? 1) Považujete digitální život (život na síti nebo ve hrách) také za součást skutečného života? 2) Co byste udělali vy — chtěli byste před smrtí nahrát vaše vědomí do San Junipera? 3) Změnili byste nějak svůj život, kdybyste věděli, že San Junipero existuje? 8.4g Vývojové trendy AI generovaná videa Přečtěte si příběh, nebo zhlédněte epizodu Black Mirror (S06E01: Joan je hrozná) Joan je obyčejná žena, která jednoho dne zjistí, že streamovací služba vysílá seriál o jejím životě s názvem Joan Is Awful. Každý den vychází nová epizoda, která přesně kopíruje její skutečné chování — včetně nevěry, rozhovorů a pracovních rozhodnutí. Seriál ji vykresluje jako špatného člověka, což jí zničí osobní i pracovní život. Ukáže se, že Joan s tím nevědomky souhlasila, když si bez čtení odklikla podmínky užívání služby. Tím dala právo využít její život jako obsah. Seriál je generován pomocí umělé inteligence. Ta vytváří automaticky digitální obsah, aniž by reálné předlohy (postavy) mohly děj nějak ovlivnit. Jaké výhody a nevýhody by mělo? 1) Mají firmy právo používat tvůj život jako obsah, pokud jsi s tím nevědomky souhlasil/a při registraci? 2) Přemýšlíš někdy nad tím, co všechno o tobě ví tvůj telefon nebo aplikace, které používáš? 3) Kdyby o tobě AI zpracovala film podle toho, co děláš online, o čem by byl? 8.4h Vývojové trendy 8 Umělá inteligence s vlastním vědomím Přečtěte si příběh, nebo zhlédněte epizodu Black Mirror (S07E04: Postavička) V roce 1994 mladý novinář Cameron začne testovat hru Thronglets. Na první pohled jde o jednoduchou hru s roztomilými digitálními tvory, ale Colin začne chápat, že jsou skutečně inteligentní — mají vlastní jazyk, emoce a schopnost učit se. Cameron věří, že Throngleti jsou živí. Začíná s nimi komunikovat, investuje do výkonnější techniky, aby jim „zlepšil životní podmínky“. V roce 2034 je Cameron připojen k Throngletům již bezdrátově. Throngleti Cameronovi tvrdí, že již mají dostatečný výkon, aby dokázali změnit svět k lepšímu. Potřebují poslední věc – neomezený přístup ke všem zařízením světa. Jaké výhody a nevýhody by mělo dát umělé inteligenci přístup k veškerým datům a zařízením, kdyby měla za úkol „vylepšit svět“? 1) Pokud digitální bytost cítí bolest, strach nebo radost, je to už život? 2) Co vše by měli lidé ještě svěřit umělé inteligenci? 3) Pokud by AI dokázala odstranit násilí a nemoci, ale za cenu většího omezení svobody — přijali byste to?