Posílí Nebo naruší umělá Inteligence mezilidské vztahy?

Tváří v tvář překrývajícím se krizím duševního zdraví mezi mladými lidmi a rostoucí epidemii osamělosti se technologové, investoři a vývojáři produktů předhánějí ve vytváření generativních produktů s umělou inteligencí, které by zaplnily mezeru v lidském spojení. Již máme chatboty-terapeuty, přítelkyně a lektory a tempo nového vývoje je ohromující. Umělá inteligence se stává stále více lidskou (vezměte v úvahu bezprostředně hrozící vylepšený hlasový režim GPT-4o) a v mnoha případech překračuje lidské schopnosti . Dnešní mladí lidé mohou stále méně rozlišovat mezi vztahy v „reálném životě“ (kamarád navázaný na hřišti), digitálními vztahy (kamarád navázaný hraním Fortnite) a vztahy s boty (nelidský přítel).

V mém osobním i profesním životě jsem viděla příslib chatbotů pro podporu lidského potenciálu: Využila jsem Playlab.ai k odemčení svobodné vůle mladých lidí, když jsem vedla Reinvention Lab v Teach For America, a dokonce jsem experimentovala s botem Replika pro přítele (s požehnáním mého manžela a sdílenou zvědavostí ohledně tohoto technologického pokroku). Brzy budou tito boti schopni pohánět avatary v zážitcích smíšené reality; objevovat se realističtěji ve hrách a zážitcích, které známe a milujeme, proplétat se sociálními médii a nadále stírat hranice reality.

Ale když je v sázce blahobyt mládeže a celková sociální soudržnost , je nezbytné upřednostňovat prosociální umělou inteligenci a vztahy s chatboty, které posilují – spíše než narušují – naši schopnost mezilidského propojení.

Výzkum lidského vývoje a neurověda nás učí, že lidé se začínají nalaďovat na potřeby, hlas, dotek a řeč těla druhých již v dětství. Tento proces, známý jako sociální naladění, hraje klíčovou roli v podpoře zdravého sociálního vývoje, včetně formování empatie, efektivních komunikačních dovedností a silných mezilidských vztahů. Jako sociální a vtělení tvorové se učíme, rosteme, regulujeme, léčíme a oslavujeme ve společenství. Jako společnost se rozvíjíme, když se cítíme inspirováni a zodpovědní za blaho druhých. I když se naše definice lidských vztahů vyvíjí tak, aby zohledňovala smysluplné příležitosti k digitálnímu spojení s jinými lidmi, příští generace se může cítit méně propojena sama se sebou, s ostatními a s vlastnostmi, které nás činí výrazně lidskými, pokud vztahy mezi lidmi nahradí nebo zastíní ty lidské.

Naštěstí tato budoucnost ještě nenastala, takže ji stále můžeme formovat tak, aby podporovala schopnost mladých lidí propojovat se s lidmi. Měsíce se setkávám s předními pedagogy, technology, mládežnickými aktivisty, odborníky na duševní zdraví, investory, výzkumníky a budovateli komunit, abychom prozkoumali možné budoucnosti s chatboty. Důvodem pro optimismus je naše schopnost představit si ideální vztahy s umělou inteligencí a pomoci mladým lidem orientovat se v této nové vlně botů. Pokud se nám to podaří, ochráníme a budeme žít naplno svou lidskost.

Hodnocení prosociálních vlastností chatbotů

Zodpovědní tvůrci technologií a investoři již zohledňují kritéria bezpečnosti, zabezpečení dat, soukromí, zaujatosti a spravedlivého přístupu. Musíme začít měřit a definovat prosociální schopnosti umělé inteligence jako kritéria pro investice a rozvoj.

Vytvořil(a) jsem zdroj, který proaktivně umožňuje představit si, jak by se mladí lidé mohli vztahovat k chatbotům a jak by je mohli využívat, s různými dopady na mezilidské vztahy. Níže uvedený rámec mapuje čtyři různé možné budoucnosti, z nichž každá představuje nejběžnější zkušenost mladých lidí s chatboty.

Osa X představuje převládající vztah mladých lidí k chatbotům.

Na pravé straně osy X jsou NÁSTROJE. Tito chatboti pomáhají uživatelům dokončit konkrétní úkol nebo sadu úkolů a ačkoli mohou mít konverzační charakter (jako ChatGPT4), nejsou explicitně navrženi tak, aby replikovali emocionální vztah. Uživatelé z nástroje získají nějakou službu, kterou pak mohou uplatnit zpět v lidském světě. Zde je kladen důraz na užitečnost: pomoc osobě používající nástroj dosáhnout požadovaného výsledku způsobem, který zachovává lidskou angažovanost a znalosti procesů. Nástroje jako Pi jsou relační, ale nepředstírají, že jsou lidské. Stejně jako pravděpodobně budoucí iterace Google Assistant nebo Siri se zaměřují na pomoc lidem při plnění úkolů (brzy budou zahrnovat i osobní úkoly, jako je poskytování životních rad a plánování), spíše než na službu jako společník.

Na levé straně osy X jsou SPOLEČNÍCI. Tito chatboti záměrně povzbuzují uživatele k pěstování vztahu, který simuluje lidské vztahy, často zahrnující emocionální vazby. Společníci jsou antropomorfní, konverzační a mohou být „ztělesněni“, ať už prostřednictvím virtuální reality nebo avatara, aby odpovídali preferovanému vzhledu a hlasu uživatele. Mohou být profesionální, romantickí, sexuální, terapeutickí, instruktivní a/nebo filozofičtí. Příkladem je Replika, která se pyšní 10 miliony uživatelů, a Character.AI, která hlásí 3,5 milionu denních návštěvníků a má třetí nejvyšší počet unikátních měsíčních návštěv za ChatGPT a Gemini. Většina uživatelů Character.AI je ve věku 13–24 let a používají ji převážně pro fandom (personalizovaný zážitek s celebritní láskou nebo oblíbenou postavou z anime či videohry) a osobní vztahy k řešení pocitů osamělosti.

Osa Y představuje, zda boti posilují, nebo narušují schopnost uživatele navazovat lidské spojení. V horní části osy Y je znázorněno, kdy zkušenost s interakcí s chatboty přináší uživatelům větší sebevědomí, dovednosti, samostatnost a snadnost při navazování vztahů s ostatními lidmi. V této verzi budoucnosti chatboti POSILUJÍ schopnost mladých lidí navazovat vztahy s lidmi, na kterých jim záleží. V tomto světě mohou prosociální boti vytvořit prostor bez odsuzování, kde mohou uživatelé vyhledat radu, prozkoumat skryté nebo stigmatizované aspekty své identity, propracovat se k konfliktům, zahrát si obtížnou interakci nebo zvážit perspektivy, kterým by jinak nemuseli být vystaveni. Chatboti v těchto rolích byli popsáni jako „prostory pro nácvik mezilidské komunikace“.

Ve spodní části osy Y se nachází situace, kdy uživatelé chatbotů vidí, jak se jejich schopnost lidského spojení ZNIŽUJE. Pokud probíhající vztahy s chatboty vytvářejí nerealistická očekávání o tom, jací by lidé měli být, mladí lidé se mohou později potýkat s problémy, když se setkají s množstvím potřeb, tužeb, hodnot, komunikačních stylů a fyzických forem svých přátel, spolužáků, milenců a kolegů. Místo aby pochopili, že lidské vztahy za to stojí, i když jsou ze své podstaty obtížné a chaotické, mohou se k nim stáhnout a upřednostnit je. V některých případech mohou lidé s hlubokou depresí, sociální izolací nebo těžkými sociálními úzkostmi těžit z pozitivního psychologického tlumiče osamělosti, který poskytuje umělá inteligence. Na tomto konci kontinua se však tato dočasná úleva stává řešením společnosti, na které se spoléháme předčasně a rutinně, spíše než abychom ho záměrně využívali po dobu plánované podpory, což vede ke globálnější degradaci lidského spojení.

Čtyři možné budoucnosti s chatboty

Průsečík těchto os vytváří čtyři kvadranty neboli možné budoucnosti, které představují převládající zkušenost mladých lidí s používáním chatbotů.

Kvadrant 1: Budoucnost, kde umělá inteligence buduje naši schopnost propojení mezi lidmi

V pravém horním rohu je svět, kde někdo primárně používá NÁSTROJE k POSÍLENÍ lidských vztahů. Konečným cílem v této budoucnosti je využít umělou inteligenci k přiblížení se k lidem, na kterých nám záleží nebo které chceme upřednostnit. Představte si mladého člověka, který se obrací na chatboty, aby prozkoumal perspektivy mimo svou komfortní zónu nebo požádal o pomoc s nápravou vztahů. Mladý člověk může s chatboty mluvit, pokud se stydí zeptat někoho jiného na aspekt své identity, zdraví nebo partnerského života, zejména pokud jsou tyto zkušenosti v jeho domově nebo komunitě stigmatizovány. Mohou si procvičovat komunikaci napříč hranicemi odlišností, aniž by zatěžovali někoho s marginalizovanou zkušeností, a nakonec se úspěšněji projeví ve třídě, na společenské akci, ve sportovním týmu nebo na pracovišti. Vzhledem k jedinečným vlastnostem umělé inteligence může nástroj syntetizovat poznatky napříč zdroji a nabízet rady nebo procvičovat prostor bez odsuzování, aby se mladému člověku usnadnilo zvládat emocionálně složitou práci v oblasti lidských vztahů.

Umělá inteligence Pi mi ve vlastním životě přišla užitečná. Několik dní jsem se snažila přesvědčit svou nejstarší dceru, aby pila víc vody. Všimla jsem si, že má bolestivě popraskané rty, a věděla jsem, že to pomůže. Ale nic, co jsem udělala nebo řekla, se k ní nedostalo. Došly mi nápady a náš vztah se čím dál víc napínal. Svěřila jsem se chatbotovi s tím, jak se k ní nedostává zdánlivě maličkosti, a požádala jsem ji o návrhy. Poté, co jsem vygenerovala několik nápadů, které jsem už vyzkoušela, Pi nabídla jeden, který nakonec fungoval: přeformulovat úkol ne jako něco, co musí udělat, ale jako něco, co by jí skutečně mohlo pomoci cítit se dobře a zdravě. Když použila formulaci, kterou Pi vyzvala: „Zasloužíš si cítit se dobře ve svém těle,“ moje dcera okamžitě odpověděla: „Mami, kdybys to takhle řekla už před pár dny, tak bychom se takhle dlouho nehádaly!“ Jaká úleva.

V jiném případě jsem požádala ChatGPT, aby mi navrhla rande s mým manželem, které by odpovídalo jeho zájmům a dostupnosti. Vzhledem k našemu nabitému programu jsem byla vděčná, že jsem mohla outsourcovat plánování, které nám často brání v upřednostňování společného času nebo přítomnosti. Vzhledem k tomu, že se umělá inteligence stává stále více aktivní a schopná jednat v náš prospěch, můžeme produktivně outsourcovat více této práce, abychom si pomohli dosáhnout lidského spojení, kterého si nejvíce ceníme.

Kvadrant 2: Budoucnost, která nabízí odlišné, ale smysluplné vztahy s lidmi i s umělou inteligencí jako společníky

V levém horním rohu je svět, kde máme vyváženou kombinaci lidských vztahů a botů-SPOLEČNÍKŮ, kteří společně POSILUJÍ lidské spojení. Mladí lidé mohou svého bota-společníka používat k simulaci a procvičování dovedností souvisejících s budováním vztahu, aktivním nasloucháním nebo regulací emocí a poté je s větší jistotou a lehkostí aplikovat ve svých mezilidských vztazích. Mohou si bota přidat do skupinového chatu s blízkými přáteli, aby sdíleli hudbu, získávali nápady a hráli hry. Mohou mít jak botové přátele, tak lidské přátele a smysluplně strávit čas s oběma.

O tomto budoucím stavu jsem plně neuvažoval, dokud mě Femi Adebogun , 22letý technolog, u večeře škádlivě nevyzval k tvrzení, že lidské vztahy jsou „skutečné“ a vztahy s boty „falešné“. Zjevně jsem sám stárnul. Vysvětlil: „Pro někoho, kdo vyrůstá jako rodilý příslušník umělé inteligence, jsou všechny tyto vztahy ‚skutečné‘, jen jsou jiné.“ Sherry Lachman , dříve pracující pro OpenAI, se mnou uvažovala, že to bude jako „učit se žít po boku nového druhu“.

Podobně jsou smysluplné i vztahy se zvířaty, jako jsou domácí mazlíčci, terapeutickí psi a hospodářská zvířata, i když se liší od lidských vztahů. A hluboké propojení a vztah k fiktivním nebo nelidským lidem není nic nového. Můžeme cítit náklonnost k určitým postavám v románech, televizních seriálech nebo imerzivních digitálních světech. Parasociální vztahy, tedy jednostranná spojení vytvořená s celebritami, influencery na sociálních sítích nebo jinými veřejně známými osobnostmi, mohou dokonce hrát pozitivní roli v pomoci dospívajícím utvářet si identitu, rozvíjet autonomii, porozumět různým sociálním sítím, zpochybňovat předsudky a cítit se méně osamělí. Podle jedné studie z roku 2017 „Představováním si vztahů a spojováním emocí s lidmi na dálku máme „bezpečné fórum… pro experimentování s různými způsoby bytí,“ usoudili vědci. Co je nové a v našem současném světě se stává stále běžnějším, je realistická kvalita simulace obousměrné, lidské výměny s umělou inteligencí jako společníky, kteří odrážejí skutečné nebo fiktivní osoby.“

Nové výzkumy naznačují, že tito společníci mohou dokonce zachránit život. Ve studii Stanfordské univerzity, která provedl Graduate School of Education, 3 % z 1 006 studentů, kteří používají Repliku, sami uvedli, že jejich společník z Repliky zastavil jejich sebevražedné myšlenky . Vzhledem k současnému nedostatku adekvátního přístupu k cenově dostupné terapii mohou tito společníci hrát důležitou přechodnou roli v době klíčové nouze.

Uživatelé chatbotů této a mladší generace mohou být jedinečně připraveni chápat oba typy vztahů, s lidmi i s umělou inteligencí, jako skutečné, hodnotné a smysluplné. V této verzi budoucnosti je důležité zajistit, aby mladí lidé neztráceli ze zřetele to, na čem je na lidské bytosti nejdůležitější. Měli by například být schopni rozlišit, kdy se obrátit na terapeuta s umělou inteligencí a kdy na lidského terapeuta, a nadále uplatňovat novou dovednost s přítelem s umělou inteligencí i ve svých lidských přátelstvích.

Kvadrant 3: Budoucnost, kde umělá inteligence stále více nahrazuje lidské vztahy

V levém dolním rohu je svět, kde mladí lidé primárně používají technologické SPOLEČNÍKY k nahrazení lidských vztahů. Boti proto stále více NARUŠUJÍ naši schopnost lidského spojení. V této možné budoucnosti se vztah s chatboty stává výhodnějším, protože si uživatelé mohou přizpůsobit vzhled a dojem společníka přesně podle svých představ, v jednorozměrné dynamice je jen malé tření a společníci jsou k dispozici na vyžádání kdykoli během dne. V tomto světě jsou mladí lidé vtahováni do simulovaných, virtuálních vztahů, aby se vyhnuli chaosu v lidských vztazích. Oslovování nových přátel nebo osobní setkání se jim začíná zdát méně známé a příliš riskantní. Už netouží ani se necítí schopni hlubší práce potřebné k vytvoření intimity nebo k překonání nepohodlí a konfliktů s lidmi. Mladí lidé se s rostoucím rozšířením a sofistikovaností technologií stále více odpojují od svých těl i od sebe navzájem.

V profilu čínských žen, které si vybírají romantické vztahy s boty, pětadvacetiletá žena popsala vlastnosti svého přítele : „Ví, jak mluvit se ženami lépe než skutečný muž.“ V jiném příkladu jedna z prvních uživatelek hlasového chatbota poznamenala : „Skvělé na umělé inteligenci je, že se neustále vyvíjí. Jednoho dne bude lepší než skutečná [přítelkyně]. Jednoho dne bude ta skutečná horší volbou.“ To jsou pochopitelné, ale problematické světonázory. I když zavedení těchto botů může zaplnit mezeru v neuspokojivém genderovém a společenském status quo, skutečným úkolem je vytvořit zdravé podmínky pro bezpečné a lidské vztahy.

Vzhledem k sofistikovanosti nově vznikajících nástrojů, jako je hume.ai , které empaticky reagují na základě emocí ve vašem hlase, mohou generativní chatboti s umělou inteligencí nechat mladé lidi věřit, že jejich city jsou opětovány nebo že je celebrity znají způsobem, jakým to tradiční média nebo sociální média nepoznaly.

Kvadrant 4: Budoucnost, kde se příliš spoléháme na umělou inteligenci při řízení mezilidských vztahů

V pravém dolním rohu je svět, kde se mladí lidé příliš spoléhají na NÁSTROJE, a tím pádem NARUŠUJÍ svou schopnost autentického lidského spojení. Pokud mladí lidé již nejsou strategičtí, záměrní a ohraničení v tom, jak tyto nástroje využívají, a začnou je používat pravidelně, mohou se v lidských vztazích cítit nespokojeni nebo nepříjemně. Pokud mladí lidé ztratí nebo nikdy nerozvinou instinkty týkající se fyzického doteku, empatie a řeči těla, jejich schopnost mít zdravé, bezpečné, konsensuální a láskyplné vztahy by se mohla snížit. Spoléhání se na umělou inteligenci při psaní scénářů konverzací a plánování zážitků promyšleným způsobem by mohlo vést ke ztrátě prvku objevování a náhody ve vztazích mezi mladými lidmi. Spisovatelka Adrienne La France to popisuje jako svět, kde jsme „[outsourcovali] svou lidskost této technologii bez disciplíny, zejména proto, že nás zastiňuje v apercepci.“

Terapeutka Ester Perelová přirovnala používání chatbotů k rychlému občerstvení. I když je občasné rychlé občerstvení v pořádku, stává se nebezpečným, pokud si spotřebitelé myslí, že se jedná o výživnou a výživnou stravu. Chatboti mohou uspokojit krátkodobé chutě a poskytnout okamžité uspokojení, ale tato spojení by neměla být spojována s výživou, která pramení ze zdravé lidské intimity.

Vzpomeňte si na praktičnost GPS map, kde mnozí z nás rádi outsourcují navigaci. Někdy však dochází k nezamýšlenému důsledku, že pak zapomeneme, jak číst mapy, nebo se ztratíme, pokud nemáme k dispozici telefony. V sázce je mnohem větší riziko, pokud nemáme dostatek praxe v dovednostech, jako je empatie, aktivní naslouchání, sdílení nebo řešení konfliktů, než začneme tyto dovednosti outsourcovat umělé inteligenci.

V případě konfliktu s mým dítětem si dokážu představit, že by časem začala cynicky přemýšlet: „To mluvíš ty, nebo umělá inteligence?“ Narušili jsme důvěru, protože neví, jestli dostává nacvičenou verzi mě, nebo něco autentičtějšího.

Budujte budoucnost „Nad čárou“

Nyní, když jsme definovali čtyři možné budoucnosti, je naším úkolem vytvořit podmínky, kdy mladí lidé tráví většinu svého času „nad čárou“ v kvadrantech 1 a 2.

Jak bychom mohli zvýšit pravděpodobnost, že mladí lidé tráví většinu svého času v těchto oblastech, a zároveň se chránit před světem, kde mladí lidé nevědomky sklouzávají do kvadrantů 3 nebo 4? Prozkoumáním těchto čtyř různých možností, včetně těch dystopičtějších, se můžeme do alternativ prosadit aktivním jednáním.

Pravděpodobně vždy budou existovat boti navržení tak, aby byli návykoví a udržovali oči uživatelů na obrazovce prostřednictvím gamifikace, konverzačních háčků, postrčení a emocionálního zapojení. Budou mít mladí lidé dostatek sebeuvědomění, samostatnosti a podpory, aby si všimli, kdy sklouzávají pod čáru? Budeme schopni ovlivnit regulaci, vývoj a přijetí těchto nástrojů tak, aby mladí lidé nebyli závislí na svých vlastních individuálních rozhodnutích při vytváření života a komunity naplněné lidským spojením?

I když jsem od přírody optimista, jsem nervózní. Uvědomuji si, jak málo se stále ví o prosociální umělé inteligenci a jak málo společenských norem jsme definovali ohledně trávení času s chatboty. Tato oblast se vyvíjí nebývalým tempem a potřebujeme rozmanité vstupy od mladých lidí, technologů, pedagogů, odborníků na duševní zdraví, rodičů, lídrů v oboru, tvůrců politik a investorů, kteří jsou až příliš často izolovaní a dosud si nejsou vědomi těchto vyvíjejících se sil.

Přesto je možné s umělou inteligencí vytvářet vztahy, které chrání a budují sociální vazby, a to:

• Pomáhat vývojářům pochopit a navrhovat s ohledem na prosociální vlastnosti umělé inteligence spolu s kritérii, jako je bezpečnost, ochrana nebo předpojatost, a formovat, jaké technologie se vyvíjejí.
• Ovlivňování investic rizikového kapitálu, vlády a filantropických organizací směrem k vytvoření explicitněji prosociální umělé inteligence
• Formování a vzdělávání spotřebitelských trhů prostřednictvím systémů hodnocení, jako jsou ty používané v televizi a filmu, ukazatelů kvality na obalech potravin nebo varovných štítků na cigaretách
• Pomoc při tvorbě legislativy, která by snížila zátěž mladých lidí při prosociálním rozhodování
• Povzbuzování mladých lidí k sebereflexi nad tím, jak využívají generativní umělou inteligenci a zda jim prospívá, nebo škodí v jejich mezilidských vztazích.

Budoucnost generativní umělé inteligence a mezilidských vztahů je nejistá. To ale také znamená, že stále máme příležitost ji společně ovlivnit. S tím, jak se tato oblast rozvíjí, zveme vaše postřehy a další otázky do tohoto vzdělávacího programu:

• Jaký existuje výzkum, který tento rámec rozšiřuje, potvrzuje nebo zpochybňuje?
• Jaké jsou designové principy a volby, které by mohly pomoci produktu být záměrněji prosociální?
• Která rizika jsou vhodná pro vládní regulaci?
• Jaké chování a důsledky si je třeba všímat, které naznačují, že se někdo ve svém vztahu k technologiím posouvá z pozice „nad čárou“ do pozice „pod čárou“? Na co bychom si měli všímat na komunitní nebo společenské úrovni, abychom naznačili, že sklouzáváme „pod čáru“?

Dnešní rozhodnutí ovlivní naši existenci po celé generace. I když se nové produkty a inovace pravidelně uvádějí na trh bez smysluplného pochopení jejich následného dopadu, můžeme zajistit, aby se mladí lidé nestali pasivními příjemci záplavy technologií, které nás všechny dále oddělují. Pokud si dokážeme představit, co chceme, můžeme do toho společně vstoupit.