Od „virtuálních dětí“ k AI dítěti
V posledních letech jsme svědky vzrůstající popularity aplikací, které využívají umělou inteligenci k vytvoření našeho potenciálního budoucího dítěte. Tento trend začal jednoduše, uživatelé nahrávali fotografie sebe a svého partnera do aplikací, které pak na základě těchto snímků generovaly obrázek, jak by mohlo jejich dítě vypadat. Oblíbené jsou například aplikace Remini nebo Baby Generator.
Aplikace, které umožňují uživatelům „vytvořit“ dítě na základě zadaných parametrů, vzbuzují fascinaci, ale rovněž otázky právní povahy. V těchto aplikacích často dochází ke zpracování nejen fotografií, ale i dalších osobních údajů.
AI dítě – Tong Tong
Zatímco v R.U.R. Karla Čapka lidé vytvářeli roboty jako bytosti podobné lidem, ale bez emocí, dnešní vývoj v oblasti umělé inteligence směřuje spíše k tomu, aby AI co nejlépe porozuměla lidem a dokázala s nimi komunikovat.
Pekingský institut pro umělou inteligenci BIGAI představil projekt, který jde ještě dál, když vytvořil „AI dítě“ s názvem Tong Tong. Tento inovativní projekt je zaměřen na rodiny v Číně, které nemohou mít vlastní děti, což je nejen v Číně rostoucí problém. Tong Tong může rovněž sloužit jako kvalitní společník pro seniory nebo také jako „parťák“ pro děti, které se pomocí interakce s Tong Tong mohou vzdělávat.
Projekt Tong Tong byl poprvé představen na výstavě Frontiers of General Artificial Intelligence Technology v roce 2024. Tento projekt představuje antropomorfní hologram, který dokáže vykazovat emoce a neustále se učí prostřednictvím kontaktu s lidmi. Vzhledem připomíná malou holčičku a momentálně se nachází na úrovni asi tří až čtyř letého dítěte. Podle výzkumníků by však mohla růst a simulovat vývoj dítěte až do 18 let.
Tong Tong holčička nevyžaduje vstup nebo podnět ani specifické učení, protože je schopná si přiřazovat úkoly sama a učit se tak autonomně. Tong Tong má schopnost vykonávat jednoduché úkoly, jako je domácí úklid, ale její hlavní předností je schopnost samostatně přiřazovat úkoly a chápat jejich smysl. Tato vlastnost ji odlišuje od běžných AI chatbotů, které reagují pouze na konkrétní pokyny.
Tong Tong představuje krok směrem k vyrovnání rozdílu mezi umělou inteligencí a lidskou inteligencí. V tomto kontextu je Tong Tong vnímán jako další fáze vývoje, která nás posouvá k „obecné umělé inteligenci“ (AGI).
Tong Tong ale není jediným projektem, který řeší spojení umělé inteligence a projevů emocí. Například projekt EMO vyvinutý na Kolumbijské univerzitě v New Yorku je integrován do humanoidního těla, a dokáže reagovat na výrazy tváře člověka, se kterým komunikuje. Tento robot je vybaven schopností předpovědět úsměv člověka a přizpůsobit se mu, čímž se vyhýbá efektu umělého úsměvu. Rozdíl není jen ve fyzickém aspektu, ale také v autonomii.
Jaká rizika může Tong Tong přinést?
Projekty spojující umělou inteligenci s rozpoznáváním emocí mohou s sebou nést řadu rizik.
Ochrana soukromí ve spojení s rozpoznáním emocí člověka: Jedním z rizik je rozpoznávání emocí. Tong Tong dokáže číst emoce uživatelů na základě biometrických, behaviorálních a psychologických indikátorů. To vyvolává otázky týkající se práva na soukromí a svobody seberealizace, stejně jako možného omezování projevu vlastních emocí, které mohou být sledovány a následně analyzovány.
Ochrana osobních údajů: Tong Tong je interaktivní umělá inteligence, která je schopná komunikovat s uživateli a reaguje na jejich podněty. I když ještě nelze určit, jaké konkrétní osobní údaje bude shromažďovat v běžném provozu, lze předpokládat, že bude sbírat obrovské množství osobních údajů včetně citlivých dat. V rámci komunikace s uživatelem může sbírat údaje z hlasových příkazů a konverzace. Pokud bude schopna rozpoznat hlas konkrétního uživatele, může na tohoto uživatele reagovat a „pamatovat“ si jeho jméno, věk, preference, co má rád, jaké má záliby a další údaje včetně citlivých údajů, které uživatel Tong Tong sdělí během konverzace. Tong Tong může být schopná rovněž sbírat informace související s historií interakcí, kdy bude sbírat informace o minulých rozhovorech, aby mohla v dalších rozhovorech „přirozeněji“ pokračovat.
Je potřeba se zamyslet, jak osobní údaje budou ukládány, zda budou předávány třetím stranám nebo do zahraničí (třeba do Číny) a především jak budou chráněny před možným zneužitím nebo únikem.
Manipulace: Tong Tong by mohla představovat riziko manipulace, především pokud by byla používána jako „parťák“ pro děti. S jejími schopnostmi interakce a přizpůsobení se emocím by mohla například i „nevědomky“ ovlivňovat názory nebo chování uživatelů, což by bylo obzvlášť problematické v případě mladých a zranitelných osob.
Právní status: Roboti a umělá inteligence stále více pronikají do života lidí. S každým pokrokem se blížíme ke dni, kdy budou mít schopnosti, které se budou více a více podobat lidským, a to ve všech aspektech inteligence, vědomí a emoce. Když jde o to, zda bychom AI a robotům měli přiznat práva, jde o složitou otázku, která musí být posuzována z mnoha perspektiv, a to především etiky, sociologie, práva, neurobiologie a rovněž teorie posuzující AI jako celek.
A jak to bude dál?
Od vize AI dítěte, jakým byl malý David ve filmu AI: Umělá inteligence od Stevena Spielberga, jsme ještě daleko. Holčička Tong Tong, která zatím nemá schopnosti ani myšlení jako David toužící po skutečné mamince, je na jiném stupni vývoje.
Projekty jako Tong Tong jsou však neuvěřitelně fascinující nejen z technologického hlediska, ale mohou také znamenat velký přínos pro bezdětné páry, zejména pokud by se podobné virtuální bytosti daly přetvořit do fyzické podoby, která by odpovídala vzhledem i povahou konkrétnímu páru. Mohly by se stát hodnotnými společníky pro stárnoucí populaci a také dětem by mohly nabídnout nejen společnost, ale i příležitost ke vzdělávání prostřednictvím interaktivní komunikace.
Vždy je třeba pamatovat na ochranu soukromí, což je obzvlášť důležité u dětí. Rizika nelze podceňovat. Je nezbytné zvažovat nejen technologické výzvy, ale i etické otázky, které s těmito projekty souvisejí. Praktické a právní problémy, které mohou vzniknout při využívání AI, nám připomínají „první zákon robotiky“ vytvořený spisovatelem sci-fi Isaacem Asimovem: „Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.“ Tento zákon by se dal aplikovat i na AI, avšak v případě autonomní Tong Tong vyvstává otázka: Jak snadno ho bude možné naplnit?
