La Ia enfortirà O erosionarà Les Relacions interhumanes?

Davant de les crisis de salut mental que se superposen entre els joves i d'una epidèmia de soledat creixent, els tecnòlegs, els inversors i els desenvolupadors de productes s'estan precipitant a crear productes d'IA generatius per omplir un buit de connexió humana. Ja tenim terapeutes, núvies i tutors amb chatbots, i el ritme dels nous desenvolupaments és sorprenent. La IA s'està tornant més semblant a la humana (penseu en el mode de veu millorat imminent de GPT-4o) i en molts casos supera les capacitats humanes . Els joves d'avui dia poden experimentar cada cop menys diferenciació entre les relacions de la "vida real" (un amic fet al pati), les relacions digitals (un amic fet jugant al Fortnite) i les relacions amb bots (un amic no humà).

En la meva vida personal i professional, he vist la promesa dels chatbots per donar suport al potencial humà: he aprofitat Playlab.ai per desbloquejar l'agència juvenil mentre dirigia el Reinvention Lab a Teach For America i fins i tot he experimentat amb un bot de nuvis Replika (amb la benedicció del meu marit i la curiositat compartida sobre aquest avenç tecnològic). Aviat aquests bots podran impulsar avatars en experiències de realitat mixta; aparèixer de manera més realista en jocs i experiències que coneixem i estimem, teixir-se a les xarxes socials i continuar desdibuixant les vores amb la realitat.

Però quan hi ha tant en joc el benestar dels joves i la cohesió social general, és essencial prioritzar la IA prosocial i les relacions amb chatbots que millorin —en lloc d'erosionar— la nostra capacitat de connexió humana.

La recerca sobre el desenvolupament humà i la neurociència ens ensenyen que els humans comencen a sintonitzar amb les necessitats, la veu, el tacte i el llenguatge corporal dels altres des de la infància. Aquest procés, conegut com a sintonització social, juga un paper fonamental en la promoció d'un desenvolupament social saludable, incloent-hi la formació d'empatia, habilitats de comunicació efectives i relacions interpersonals sòlides. Com a criatures socials i encarnades, aprenem, creixem, regulem, curem i celebrem en comunitat. Avancem com a societat quan ens sentim inspirats i responsables del benestar dels altres. Fins i tot a mesura que la nostra definició de les relacions humanes evoluciona per tenir en compte les oportunitats significatives de connectar digitalment amb altres persones, la propera generació pot sentir-se menys connectada amb si mateixa, entre ella i amb les qualitats que ens fan distintament humans si les relacions entre bots substitueixen o eclipsen les humanes.

Afortunadament, el futur encara no ha arribat, així que encara podem donar-li forma perquè nodreixi la capacitat dels joves per a la connexió humana. Durant mesos, m'he estat reunint amb educadors, tecnòlegs, activistes juvenils, professionals de la salut mental, inversors, investigadors i constructors de comunitats destacats per explorar possibles futurs amb chatbots. L'argument per a l'optimisme rau en la nostra capacitat de visualitzar relacions ideals amb la IA i ajudar els joves a navegar per aquesta nova onada de bots. Si ho fem, protegirem i viurem més plenament la nostra humanitat.

Avaluació de les qualitats prosocials dels chatbots

Els creadors i inversors tecnològics responsables ja consideren els criteris de seguretat, seguretat de les dades, privadesa, biaix i accés equitatiu. Hem de començar a mesurar i definir les capacitats prosocials de la IA també com a criteris per a la inversió i el desenvolupament.

He creat un recurs per visualitzar proactivament com els joves es podrien relacionar i utilitzar els chatbots, amb diferents impactes en la connexió humana. El marc següent mapeja quatre futurs possibles diferents, cadascun dels quals representa l'experiència de chatbot més comuna per als joves.

L'eix X representa la relació predominant dels joves amb els chatbots.

A la dreta de l'eix X hi ha les EINES. Aquests chatbots ajuden els usuaris a completar una tasca o un conjunt de tasques concretes, i tot i que poden ser de naturalesa conversacional (com ChatGPT4), no estan dissenyats explícitament per replicar una relació emocional. Els usuaris reben algun tipus de servei de l'eina, que després poden aplicar al món humà. Aquí, l'èmfasi es posa en la utilitat: ajudar la persona que utilitza l'eina a aconseguir el resultat desitjat d'una manera que preservi l'agència humana i el coneixement del procés. Eines com Pi són relacionals, però no pretenen ser humanes. Com les presumibles futures iteracions de Google Assistant o Siri, se centren en ajudar els humans a realitzar tasques (aviat inclouran tasques personals com ara donar consells i planificar la vida), en lloc de servir com a companys.

A l'esquerra de l'eix X hi ha els COMPANYS. Aquests chatbots encoratgen intencionadament els usuaris a fomentar una relació que simuli les relacions humanes, sovint incloent-hi vincles emocionals. Els companys són antropomòrfics, conversacionals i poden estar "encarnats", ja sigui a través de la realitat virtual o d'un avatar, per coincidir amb l'aspecte i la veu preferits de l'usuari. Poden ser professionals, romàntics, sexuals, terapèutics, instructius i/o filosòfics. Un exemple és Replika, que compta amb 10 milions d'usuaris, i Character.AI, que registra 3,5 milions de visitants diaris i té el tercer nombre més alt de visites mensuals úniques, darrere de ChatGPT i Gemini. La majoria dels usuaris de Character.AI tenen entre 13 i 24 anys i l'utilitzen principalment per fer fandom (tenir una experiència personalitzada amb un enamorament famós o un personatge d'anime o videojoc preferit) i per a les relacions personals per abordar els sentiments de soledat.

L'eix Y representa si els bots enforteixen o erosionen la capacitat de connexió humana de l'usuari. A la part superior de l'eix Y és quan l'experiència d'interactuar amb chatbots aporta als usuaris més confiança, habilitat, agència i facilitat per relacionar-se i connectar-se amb altres humans. En aquesta versió del futur, els chatbots ENFORTEN la capacitat dels joves per estar en relació amb els humans que els importen. En aquest món, els bots prosocials poden crear un espai lliure de judicis perquè els usuaris busquin consell, explorin aspectes ocults o estigmatitzats de les seves identitats, treballin en conflictes, representin una interacció difícil o considerin perspectives a les quals d'altra manera no estarien exposats. Els chatbots en aquests rols s'han descrit com a "espais d'assaig per a la comunicació interpersonal".

A la part inferior de l'eix Y és quan els usuaris de chatbots veuen com s'EROSIONA la seva capacitat de connexió humana. Si les relacions contínues amb els chatbots creen expectatives poc realistes sobre com haurien de ser els humans, els joves poden tenir dificultats més tard quan s'enfrontin a la multitud de necessitats, desitjos, valors, estils de comunicació i formes físiques dels seus amics, companys de classe, amants i col·legues. En lloc d'entendre que les relacions humanes valen la pena, tot i ser inherentment difícils i desordenades, poden retrocedir i desprioritzar-les. En alguns casos, les persones amb depressió profunda, aïllament social o ansietats socials greus poden beneficiar-se del tampon psicològic positiu de la IA contra la soledat. Tot i això, en aquest extrem del continu, aquest alleujament temporal esdevé la solució de la societat en la qual confiem prematurament i rutinàriament en lloc d'aprofitar-la intencionadament durant períodes de suport dissenyat, la qual cosa resulta en una degradació més global de la connexió humana.

Quatre futurs possibles amb ChatBots

La intersecció d'aquests eixos crea quatre quadrants o futurs possibles, que representen l'experiència predominant per als joves que utilitzen chatbots.

Quadrant 1: Un futur on la IA desenvolupa la nostra capacitat de connexió entre humans

A la cantonada superior dreta hi ha un món on algú utilitza principalment EINES per ENFORTIR la connexió humana. L'objectiu final en aquest futur és aprofitar la IA per apropar-nos a les persones que ens importen o que volem prioritzar. Imagineu-vos un jove que recorre a chatbots per explorar perspectives fora de la seva zona de confort o demanar ajuda per reparar relacions. Un jove pot parlar amb chatbots si té massa vergonya de preguntar a algú altre sobre un aspecte de la seva identitat, salut o vida sentimental, sobretot si aquestes experiències estan estigmatitzades a casa seva o a la seva comunitat. Poden practicar parlar a través de les línies de diferència sense carregar algú amb una experiència marginada i, en última instància, presentar-se amb més èxit en una aula, un esdeveniment social, un equip esportiu o un lloc de treball. Donades les característiques úniques de la IA, l'eina pot sintetitzar coneixements a través de recursos i oferir consells o espai de pràctica sense judicis per facilitar que el jove assumeixi la tasca emocionalment complexa de les relacions humanes.

Vaig trobar que la IA de Pi era útil a la meva vida. Durant dies, vaig intentar convèncer la meva filla gran que begués més aigua. Em vaig adonar que tenia els llavis molt esquerdats i sabia que l'ajudaria. Però res del que vaig fer o vaig dir li va arribar. M'havia quedat sense idees i la nostra relació s'estava tensant. Em vaig desfogar amb el chatbot sobre com alguna cosa aparentment petita no s'estava comprenent i vaig demanar suggeriments. Després de generar una ronda d'idees que ja havia provat, Pi va oferir una idea que finalment va funcionar: reformular la tasca no com una cosa que havia de fer, sinó com una cosa que realment la podia fer sentir bé i saludable. Quan va utilitzar el llenguatge que li va suggerir Pi, "Et mereixes sentir-te bé amb el teu cos", la meva filla va respondre de seguida: "Mare, si ho haguessis dit així fa uns dies, no hauríem tingut aquesta llarga discussió!" Quin alleujament.

En un altre cas, vaig demanar a ChatGPT que em suggerís una cita nocturna amb el meu marit que s'adaptés als seus interessos i disponibilitat. Tenint en compte les nostres agendes atapeïdes, vaig estar agraïda de poder externalitzar la planificació que sovint ens impedeix prioritzar el temps junts o estar presents. A mesura que la IA esdevé cada cop més agentiva i capaç d'actuar en nom nostre, podem externalitzar de manera productiva més d'aquesta feina per ajudar-nos a aconseguir la connexió humana que més valorem.

Quadrant 2: Un futur que ofereixi relacions diferents però significatives tant amb humans com amb companys d'IA

A la cantonada superior esquerra hi ha un món on tenim una barreja equilibrada de relacions humanes i COMPANYS bot que, junts, ENFORTEN la connexió humana. Els joves poden utilitzar el seu bot acompanyant per simular i practicar habilitats relacionades amb la construcció de compenetració, l'escolta activa o la regulació emocional i després aplicar-les amb més confiança i facilitat en les seves relacions humanes. Poden afegir un bot a un xat en grup amb amics propers per compartir música, obtenir idees i jugar a jocs. Poden tenir amics bot i amics humans, i passar temps de manera significativa amb tots dos.

No havia considerat completament aquest estat futur fins que Femi Adebogun , una tecnòloga de 22 anys, em va desafiar de manera burleta durant el sopar per insinuar que les relacions humanes són "reals" i les relacions entre bots són "falses". Pel que sembla, jo també estava envellint. Va explicar: "Per a algú que creix com a natiu de la IA, aquestes relacions són totes 'reals', simplement són diferents". Sherry Lachman , anteriorment d'OpenAI, va reflexionar amb mi que això serà com "aprendre a viure al costat d'una nova espècie".

De la mateixa manera, les relacions amb animals com ara mascotes, gossos de teràpia i animals de granja són significatives, fins i tot si són diferents de les relacions humanes. I la connexió i la relació profundes amb persones fictícies o no humanes no són noves. Podem sentir afecte per certs personatges de novel·les, sèries de televisió o mons digitals immersius. Les relacions parasocials, aquelles connexions unilaterals que es formen amb famosos, influencers de les xarxes socials o altres figures públiques, poden fins i tot tenir un paper positiu per ajudar els adolescents a formar la seva identitat, desenvolupar l'autonomia, comprendre diferents xarxes socials, desafiar els biaixos i sentir-se menys sols. Segons un estudi del 2017 ... "En imaginar relacions i associar emocions amb persones a distància, tenim un 'fòrum segur... per experimentar amb diferents maneres de ser'", van concloure els investigadors. El que és nou i cada cop més comú en el nostre món actual és la qualitat realista de poder simular un intercanvi bidireccional i humà amb companys d'IA que reflecteixen persones reals o fictícies.

Investigacions emergents indiquen que aquests acompanyants poden fins i tot salvar vides. En un estudi de la Facultat de Postgrau d'Educació de la Universitat de Stanford, el 3% de 1.006 estudiants usuaris van revelar que el seu acompanyant Replika havia aturat la seva ideació suïcida . Atesa l'actual manca d'accés adequat a una teràpia assequible, aquests acompanyants poden tenir un paper transitori poderós en un moment de necessitat urgent.

Els usuaris de chatbots d'aquesta generació i els més joves poden estar en una posició única per entendre els dos tipus de relació, amb els humans i amb la IA, com a reals, valuoses i significatives. El que és important garantir en aquesta versió del futur és que els joves no perdin de vista el que més importa de ser humà. Per exemple, haurien de ser capaços de diferenciar quan consultar un terapeuta d'IA enfront d'un terapeuta humà i continuar aplicant la pràctica d'una nova habilitat amb un amic d'IA també a les seves amistats humanes.

Quadrant 3: Un futur on la IA substitueix cada cop més les relacions humanes

A la cantonada inferior esquerra hi ha un món on els joves utilitzen principalment COMPANYS tecnològics per substituir les relacions humanes. Per tant, els bots EROSIONEN cada cop més la nostra capacitat de connexió humana. En aquest possible futur, estar en relació amb chatbots esdevé preferible perquè els usuaris poden adaptar l'aspecte i la sensació del company al seu gust exacte, hi ha poca fricció en la dinàmica unidimensional i els companys estan disponibles a demanda en qualsevol moment del dia. En aquest món, els joves es veuen atrets per relacions virtuals simulades per evitar el desordre de les relacions humanes. Contactar amb nous amics o estar en persona comença a semblar menys familiar i massa arriscat. Ja no desitgen ni se senten capaços de la feina més profunda necessària per crear intimitat o superar la incomoditat i el conflicte amb els humans. Els joves es desconnecten cada cop més dels seus cossos i entre ells a mesura que la tecnologia es torna més omnipresent i sofisticada.

En un perfil de dones xineses que trien relacions romàntiques amb bots, una jove de vint-i-cinc anys va descriure les qualitats del seu xicot : "Sap parlar amb les dones millor que un home real". En un altre exemple, un usuari dels primers d'un chatbot de veu va reflexionar : "El millor de la IA és que està en constant evolució. Un dia serà millor que una [xicota] real. Un dia, la real serà l'opció inferior". Aquestes són visions del món comprensibles però problemàtiques. Si bé cobrar aquests bots pot omplir el buit en un statu quo decebedor de gènere i social, la veritable feina és crear condicions saludables per a relacions humanes segures.

Donada la sofisticació d'eines emergents com hume.ai , que responen empàticament en funció de l'emoció de la teva veu, els chatbots d'IA generativa poden fer que els joves creguin que els seus sentiments són corresposts o que les celebritats els coneixen d'una manera que els mitjans tradicionals o les xarxes socials no ho feien.

Quadrant 4: Un futur on confiem massa en la IA per guiar les relacions humanes

A la cantonada inferior dreta hi ha un món on els joves depenen massa de les EINES i, per tant, EROSIONEN la seva capacitat de connexió humana autèntica. Si els joves ja no són estratègics, intencionals i limitats en la manera com consulten aquestes eines i comencen a utilitzar-les habitualment, poden sentir-se insatisfets o incòmodes en les relacions humanes. Si els joves perden o mai desenvolupen instints al voltant del tacte físic, l'empatia i el llenguatge corporal, la seva capacitat per tenir relacions saludables, segures, consensuades i amoroses podria disminuir. La dependència de la IA per escriure converses i planificar experiències de manera calculada podria fer que les relacions entre els joves perdin l'element de descobriment i serendipitat. L'escriptora Adrienne La France descriu això com un món on hem "[externalitzat] la nostra humanitat a aquesta tecnologia sense disciplina, sobretot perquè ens eclipsa en apercepció".

La terapeuta Ester Perel va comparar l'ús de chatbots amb el menjar ràpid. Si bé és acceptable menjar menjar ràpid de tant en tant, esdevé perillós si els consumidors arriben a creure que és una dieta nutritiva i nutritiva. Els chatbots poden satisfer desitjos a curt termini i donar gratificació immediata, però aquestes connexions no s'han de confondre amb la nutrició que prové d'una intimitat humana sana.

Penseu en la practicitat dels mapes GPS, on molts de nosaltres estem disposats a externalitzar la navegació. Però de vegades hi ha la conseqüència no desitjada que després oblidem com llegir mapes o ens perdem si els nostres telèfons no estan disponibles. Els riscos són molt més greus si no tenim prou pràctica en habilitats com l'empatia, l'escolta activa, el compartir o la resolució de conflictes abans de començar a externalitzar-ho a la IA.

En l'exemple del conflicte amb la meva filla, puc imaginar que amb el temps començaria a preguntar-se cínicament: "Ets tu qui parla o és la IA?". Hem erosionat la confiança perquè no sap si està rebent la versió assajada de mi o alguna cosa més autèntica.

Construeix un futur "Per sobre de la línia"

Ara que hem definit quatre futurs possibles, la nostra missió és crear les condicions on els joves passin la major part del temps "per sobre de la línia" als quadrants 1 i 2.

Com podem augmentar la probabilitat que els joves hi passin la major part del temps i protegir-nos contra un món on els joves cauen inconscientment als quadrants 3 o 4? En explorar aquestes quatre possibilitats diferents, incloses les que són més distòpiques, podem actuar per arribar a les alternatives.

Probablement sempre hi haurà bots dissenyats per ser addictius i mantenir els ulls dels usuaris a la pantalla mitjançant la gamificació, els ganxos de conversa, els impulsos ràpids i la participació emocional. Tindran els joves prou autoconsciència, agència i suport per adonar-se quan estan caient per sota la línia? Podrem influir en la regulació, el desenvolupament i l'adopció d'aquestes eines perquè els joves no depenguin de les seves pròpies decisions individuals per crear una vida i una comunitat plenes de connexions humanes?

Tot i que sóc una persona optimista per naturalesa, estic nerviós. Sóc conscient de la poca informació que encara se sap sobre la IA prosocial i de les poques normes socials que hem definit sobre passar temps amb chatbots. El camp està evolucionant a un ritme sense precedents i necessitem aportacions diverses de joves, tecnòlegs, educadors, professionals de la salut mental, pares, líders de la indústria, responsables polítics i inversors, que massa sovint estan aïllats i encara no són conscients d'aquestes forces en evolució.

Tot i això, és possible crear relacions amb la IA que protegeixin i construeixin connexions socials mitjançant:

• Ajudar els desenvolupadors a comprendre i dissenyar tenint en compte les qualitats prosocials de la IA juntament amb criteris com la seguretat, la protecció o el biaix, i a donar forma a la tecnologia que es desenvolupa.
• Influir en el capital de risc, el govern i la inversió filantròpica cap a la creació d'una IA més explícitament prosocial
• Donar forma i educar els mercats de consum mitjançant sistemes de classificació com els que s'utilitzen a la televisió i el cinema, indicadors de qualitat en els envasos dels aliments o etiquetes d'advertència en els cigarrets.
• Assistència en la creació de legislació per reduir la càrrega que suposa per als joves prendre decisions prosocials.
• Animar els joves a reflexionar sobre el seu ús de la IA generativa i si aquesta serveix o perjudica les seves relacions humanes.

El futur de la IA generativa i les relacions humanes és incert. Però això també significa que encara tenim l'oportunitat d'influir-hi junts. A mesura que el camp emergeixi, us convidem a aportar les vostres opinions i preguntes addicionals a aquesta agenda d'aprenentatge:

• Quina recerca existeix que amplia, valida o qüestiona aquest marc de treball?
• Quins són els principis i les opcions de disseny que podrien ajudar a que un producte sigui més intencionadament prosocial?
• Quins riscos són adequats per a la regulació governamental?
• Quins són els comportaments i les conseqüències que cal tenir en compte que suggereixen que algú està passant de "per sobre de la línia" a "per sota de la línia" en les seves relacions amb la tecnologia? Què hauríem de tenir en compte a nivell comunitari o social per indicar que estem caient "per sota de la línia"?

Les decisions actuals ens afectaran durant les generacions futures. Tot i que nous productes i innovacions es llancen regularment sense una idea significativa del seu impacte posterior, podem assegurar-nos que els joves no es converteixin en receptors passius d'una allau de tecnologies que ens desconnecta encara més a tots. Si podem visualitzar el que volem, podem fer-ho junts.