Poslední týden byl na poli virtuálních bytostí hlavně ve znamení bouří ve sklenici vody jménem Hollywood, kterou rozdmýchala nenápadná, umělou inteligencí vytvořená holka od vedle. Stále se řeší, jak moc nám chatGPT nahrazuje kamarády, ale trochu v tématu blížících se dušiček i dávno zesnulé blízké. Objevují se data, že zatímco nám chatboti rychlostí poskytnutých odpovědí zvedají dopamin, tím, že se jich ptáme na odpovědi pro naše potenciální milostné partnery, nám naopak upadá oxytocin. A zatímco akademický výzkum varuje, že chatboti jen prachsprostě lžou, druhá strana barikády je připodobňuje k hercům hrajícím role, které jim my sami propůjčíme.
Tohle a o trochu víc, včetně osobních doporučení na to, co zrovna hraju a co mě inspiruje, se dozvíš v dnešním vydání Scripted Realities.
LK
P.S. Dnešní vydání je první opravdová verze newsletteru. Ještě si trochu hledá formát, délku, rozsáhlost a detail informací. Pokud máš k čemukoliv připomínky a podněty, pošli je mým směrem. A pokud tě newsletter zaujme, pošli ho dál! Díky!
📽️ Seznamte se, Tilly Norwood!
Slečna s milým úsměvem holky od vedle, budoucí naděje castingových agentur a hlavně…*check notes*...umělou inteligencí vytvořená herečka.
První představení “herečky” Tilly Norwood v propagačním videu studia Particle6.
Ano. Hollywoodem teď na chvilku hýbe nový skandál, nebo bouře ve sklenice vody, chcete-li, a zapříčinila ji s pomocí AI vygenerovaná herečka.
Vyjadřují se k ní celebrity velkých jmen jako Emily Blunt nebo Whoopi Goldberg, prosí své agentury a slibují, že budou bojkotovat jiné, pokud ji zaměstnají, a vznikají i otevřené dopisy. Byť na jednu stranu chápu určitou míru paniky, ukazuje to spíš neúplnost informací, naivitu ohledně toho, jak generativní modely fungují, a kope to zejména do neuralgického bodu herců, kteří se obávají nahrazení virtuálním “plastem”.
Tilly rozhodně není nováčkem v rybníčku virtuálních bytostí. Ty jsou s námi mnohem déle, než si možná připouštíme. Minimálně stránka Virtual Humans ukazuje, že pole osobností a influencerů, kteří jsou vygenerovaní počítačem, ale mají své vlastní weby, sociální sítě a hlavně práci, není rozhodně neorané.
Pokud jste o žádném z virtuálních influencerů ještě neslyšeli, možná jen nejste jejich cílovka.
Screenshot z oficiálního webu Tilly Norwood, kde nejen propaguje svou dosavadní práci, ale shání novou.
Ale zpátky k Tilly, naší AI holce od vedle. Hlavním rozdílem od existence ostatních virtuálních bytostí je ten, že Tilly díky komplexnosti současných generativních modelů vypadá opravdu jako reálná osoba.
Postrádá obecné znaky stylizace virtuálních bytostí, na které jsme zvyklí, včetně drobných náznaků tzv. uncanny valley. To nás sice obecně dost děsí (o tom proč a jak někdy příště), ale taky nám tváří ve virtuální tvářsignalizuje, že bytost před námi není živá, byť tak třeba nejdřív působí. To se u Tilly už neděje. Naopak, její podoba, mimika a gesta překonávají i hypperrealistické modely postav, které známe z fimů a seriálů nebo videoher.
Dalším prvenstvím Tilly je i to, že AIčkem vygenerovanou lidsky vypadající bytost někdo reálně nabízí talentovým agenturám. Ostatně její web vypadá jako běžný web jakékoliv jiné herečky, která touží hrát v dalším skvělém filmu či seriálu. A to je možná to, co zvedlo ze židle nejvíc lidí. V době, kdy se hlavně voiceover herci bojí, že je nahradí umělou inteligencí syntetizovaný hlas, je tahle “AI actress for hire” další potenciální ranou na solar. Ostatně, většina těch obezřetnějších herců a hereček si o regulaci používání své podoby a hlasu vpisuje klauzule do smluv.
Bojkot pofiderně používané AI ve filmovém průmyslu bez pravidel a regulí dává smysl, ne každé studio (herní nebo filmové) klade dobro herců na první místo.
V propagačním videu firmy Particle6, která Tilly stvořila, zaznívají hlášky typu “Tilly je BAFTA-optimized”. Režisér ve videu, mimochodem taky AIčkem generovaný, pak prohlašuje “udělá vše, co jí řeknu, už teď ji miluju”. Další si klade otázku, zda se Tilly dokáže rozbrečet u Graham Nortona. “Of course, she can!” - zazní hned v zápětí s poznámkou, že všechny její výstupy budou zpracovány do formátu Tik Tok videí, než bys řekl oběd.
Modří vědí, respektive tuší, že celé video a existence Tilly jako takové je spíš než předzvěstí soumraku nad prací herců a hereček v továrně na sny jen sarkastickým kopancem do společnosti, která se posledních pár let zmítá v okouzlení vším, co se dá skrze generativní modely vytvořit. Stejně tak Tilly není až tak unikátním výtvorem, který by někdo nenabízel už dávno. Tohle tu už vlastně všechno bylo. Neznamená to ale, že to vodou ve sklenici mírně nehne.
Popkulturní poznámka bokem
Pokud si vybavíte epizody netflixového seriálu Love, Death & RobotsSnow In The Desert nebo Life Hutch, počítačem generovaní (a animovaní) lidé a jejich realističnost se v kinematografické tvorbě dostala už před nějakou dobou do fáze, kdy jsou téměř k nerozeznání od těch opravdových.
Počítačová verze herce Petera Franzéna v Love, Death & Robots je s reálným Peterem téměř k nerozeznání
🎭 Všichni lidé jsou jen herci a chatboti jakbysmet
A když jsme u virtuálních bytostí, které hrají určité role, tohle téma se nevyhne ani naší kamarádce chatGPT a jejím chatbot soukmenovcům.
Sigal Samuel píše ve svém posledním článku pro Vox.com věnovanému chatbotům a jejich personám, že není třeba plašit, pokud se vám zdá, že váš chatbot vykazuje známky uvědomělé bytosti, nebo pokud vám to dokonce sám tvrdí.
It may say it’s conscious and act like it has real emotions, but that doesn’t mean it does. It’s almost certainly just playing that role because it’s consumed huge reams of text that fantasize about conscious AIs — and because humans tend to find that idea engaging, and the model is trained to keep you engaged and pleased.
Ve stručnosti si to můžete představit třeba tak, jako byste šli do Národního divadla na Audienci u královny, kde Iva Janžurová hraje roli královny Alžběty II. Paní Janžurová není, nebude a nikdy se nestane plně Alžbětou, ale na 3 hodiny na jevišti reprezentuje to, co si ve shodě s režisérem a svou hereckou zkušeností zvolila jako projev Alžběty II., respektive to, co diváci čekají, že by Alžběta zhruba dělala. Chatboti se “chovají”, poháněni ohromným množstvím dat, v podstatě stejně.
Navíc, design chatbotů nahrává lidské potřebě hledat a vyplňovat si významy tam, kde nemusí nutně být. Z teorie mysli, teorie o parasociálních vztazích a dalších výzkumů víme, že máme tendenci mentalizovat, tj. přisuzovat duševní stavy, čemukoliv, co vykazuje byť minimální znaky inteligence a sociálního chování. Aby toho nebylo málo, se vzrůstající antropomorfizací, tj. čím víc něco vypadá a chová se jako člověk, lidé předpokládají hlubší myšlenkové pochody objektu.
A pokud se AI chytne přesně toho, co na základě vámi zvoleného jazyka, slov a stylistiky propočítá, že chcete slyšet, byť to ne vždy musí být pravda, vy ji budere rádi věřit, cokoliv vám řekne. To je ostatně něco, na co dost často zapomínáme, a před čím kontinuálně varuje profesorka Sandra Wachter z Oxford Internet Institute. Úkolem chatbotů není jen sesumírovat informace, ať už jsou jakkoliv ne/správné nebo nabízet řešení více či méně komplexnějších úkolů. Jejich úkolem je vás držet co nejdéle zaangažované v konverzaci, aby se mohli i oni učit dál.
Konverzace s chatboty tak trochu připomíná tu slavnou scénu z Číslo 5 žije!, kdy si sebe uvědomělý armádní robot říká o další informace. Jen v případě chatGPT na vás nikdo nepovykuje “Need more input, Stephanie!”, ale ptá se vás, jestli byste chtěli odpověď napsat v jiném stylu či ji upravit do přehledné tabulky s jasně daným plánem na další týden, nebo vás pochválí a řekne, že vám přesně rozumí neb to sama vidí podobně… 🙈
👻 Ouija spiritistická tabulka je pro másla, stačí dobře naladit ChatGPT
Na obranu chatbotů a generativní AI - my kvalit jejích datasetů a propočtů, které probíhají nad nimi, velmi rádi využíváme po svém. A do pasti tak chytáme sami sebe, motivováni, kromě jiného, dávkou dopaminu, který nám kontakt s chatboty kontinuálně navozuje. Výzkum radí, že pro správný chod našeho mozku je nejlepší chatboty žádat o informace na už předem založených vlastních domněnkách. Jenže, někteří z nás vždycky půjdou o krok dál a zvolí si až brutální způsoby, jak s chatGPT komunikovat a co po ní chtít.
To ve svém nedávném pokusu ostatně udělal Jon Michael Varese, když zadal následující prompt, kterým “oživil svého otce”.
Jak si můžete přečíst v jeho článku ChatGPT Ressurected My Dead Father, chatbot se zhostil své úlohy téměř dokonale. Jon si tak na chvíli sáhl na zkušenost být sám sobě doktorem Frankeinsteinem a mluvit se “svým otcem”. Nebyl prvním ani posledním, ale je jedním z těch, kteří o tom sepsali velmi střízlivou výpověď.
Čtení samotného článku nechám ale na vás. Mně z toho bylo místy celkem úzko a opět mi znovu přišlo na mysl, jak moc je román Mary Shelley i po dvě stě letech stále aktuální a jak moc si všichni ve volném čase znovu hrajeme na novodobého Prométhea.
Ilustrace Bernieho Wrightsona pro adaptaci příběhu dr. Frankensteina pro Marvel Comics.
🎮 Hra na konec!
Snaha byla. Pokud jste trochu přešlí ze současné společenské situace, prudí vás auta v centru měst a výsledek voleb ve vás budí rozpaky, dejte si tuhle herní jednohubku. Dá se hrát v prohlížeči, zabere ani ne 10 minut a bude vám po ní o trochu líp. Nebo…snaha o to aspoň byla.
Videoklip k The Fate of Ophelia a jak moc část současné společnosti nedává, že Taylor Swift dospěla z malé holčičky v ženu a má ráda svého přítele, nebo aspoň některé jeho části, natolik, že o nich nadšeně prozpěvuje světu. • Debaty o ženách v herní kultuře, kterých se můžu účastnit s dalšími skvělými ženami z herní kultury. • festival nezávislé herní tvorby Final_final(4) • Národní filmový archiv a zejména Pixelrachiv.cz, který pracuje na archivaci českých a slovenských her. • Fourthcone Restoration videa, kde restaurují plakáty známých filmů. • Pražský inovační institut a značka Innovate Prague. Fandím. Velmi. Zejména Darthu Vaderovi ve třetím patře. • Lidé, kteří jsou ekvivalentem jumpstartu auta. • Iniciativa #to chce odvahu aneb starat se o své mentální zdraví a chodit na terapii je sexy. 2,5 years and counting ✌️ • Rozhovor s umělcem Antonínem Kindlem o jeho instalaci pro Signal Festival. • Derpy a Sussie z KPop Demon Hunters. A What It Sounds Like on repeat • Changes on repeat. • Vidět po 26 letech poslechu poprvé naživo The Offspring. • SmíchOFF a vůně opotřebovaných lezeček. • Vracet karmu zpátky a tam, kam patří, aneb když můžete doporučit kamaráda na skvělou pracovní pozici, udělejte to!
🔮 Na co se těšit příště ve Scripted Realities #3?
Příchod AI slop by Sora a pojem “permanent underclass” • Podrobnější pohled na výzkum fenoménu oplakávání zrušených avatarů • Co jsme řešily na debatě Ženy v herní kultuře v Ponrepu a proč je to stále aktuální téma • Co mě zaujalo z nezávislé herní tvorby na Final_final(4) a přehled her indie tvůrců • Persistent Worlds od Alice Bucknell • a další.
Pokud se ti líbí, co sis přečetl/a, doporuč newsletter Scripted Realities kamarádům a známým. A pokud ho ještě neodebíráš, určitě to udělej, ať ti další vydání neuteče.
K psaní tohohle newsletteru o AI a virtuálních bytostech paradoxně nevyužívám žádný z generativních modelů. Omluv tak případné gramatické chyby, překlepy a drobné nepřesnosti.
