A Inteligência Artificial fortalecerá Ou corroerá as relações interpessoais?

Diante da sobreposição de crises de saúde mental entre os jovens e de uma crescente epidemia de solidão, tecnólogos, investidores e desenvolvedores de produtos estão empenhados em criar produtos de IA generativa para preencher a lacuna deixada pela falta de conexão humana. Já temos chatbots como terapeutas, namoradas e tutores, e o ritmo de novos desenvolvimentos é impressionante. A IA está se tornando cada vez mais semelhante à humana (basta considerar o iminente modo de voz aprimorado do GPT-40) e, em muitos casos, supera as capacidades humanas . Os jovens de hoje podem experimentar cada vez menos distinção entre relacionamentos da "vida real" (um amigo feito no parquinho), relacionamentos digitais (um amigo feito jogando Fortnite) e relacionamentos com bots (um amigo não humano).

Na minha vida pessoal e profissional, tenho testemunhado o potencial dos chatbots para apoiar o desenvolvimento humano: utilizei o Playlab.ai para desbloquear o protagonismo dos jovens enquanto liderava o Laboratório de Reinvenção da Teach For America e até experimentei um chatbot de namorado virtual (com a aprovação do meu marido e a curiosidade compartilhada sobre esse avanço tecnológico). Em breve, esses chatbots poderão dar vida a avatares em experiências de realidade mista; aparecer de forma mais realista em jogos e experiências que conhecemos e amamos, estar presentes nas redes sociais e continuar a borrar as fronteiras com a realidade.

Mas quando o que está em jogo para o bem-estar dos jovens e a coesão social em geral é tão importante, é essencial priorizar a IA pró-social e os relacionamentos com chatbots que aprimorem — em vez de corroer — nossa capacidade de conexão humana.

Pesquisas sobre desenvolvimento humano e neurociência nos ensinam que os seres humanos começam a se sintonizar com as necessidades, a voz, o toque e a linguagem corporal dos outros desde a infância. Esse processo, conhecido como sintonia social, desempenha um papel crucial na promoção de um desenvolvimento social saudável, incluindo a formação de empatia, habilidades de comunicação eficazes e relacionamentos interpessoais sólidos. Como seres sociais e corporais, aprendemos, crescemos, nos regulamos, nos curamos e celebramos em comunidade. Avançamos como sociedade quando nos sentimos inspirados e responsáveis ​​pelo bem-estar dos outros. Mesmo que nossa definição de relacionamentos humanos evolua para levar em conta as oportunidades significativas de conexão digital com outras pessoas, a próxima geração pode se sentir menos conectada consigo mesma, com os outros e com as qualidades que nos tornam distintamente humanos se os relacionamentos com bots substituírem ou eclipsarem os relacionamentos humanos.

Felizmente, o futuro ainda não chegou, então ainda podemos moldá-lo para que nutra a capacidade dos jovens de se conectarem como seres humanos. Há meses, tenho me reunido com educadores, tecnólogos, ativistas da juventude, profissionais de saúde mental, investidores, pesquisadores e líderes comunitários para explorar possíveis futuros com chatbots. O motivo para otimismo reside em nossa capacidade de vislumbrar relacionamentos ideais com a IA e ajudar os jovens a navegar por essa nova onda de bots. Se fizermos isso, protegeremos e viveremos nossa humanidade de forma mais plena.

Avaliando as qualidades pró-sociais dos chatbots

Criadores e investidores de tecnologia responsáveis ​​já consideram os critérios de segurança, proteção de dados, privacidade, imparcialidade e acesso equitativo. Precisamos começar a mensurar e definir as capacidades pró-sociais da IA ​​também como critérios de investimento e desenvolvimento.

Criei um recurso para prever proativamente como os jovens podem se relacionar com os chatbots e utilizá-los, com diferentes impactos na conexão humana. A estrutura abaixo mapeia quatro futuros possíveis, cada um representando a experiência mais comum com chatbots para jovens.

O eixo X representa a relação predominante dos jovens com os chatbots.

No lado direito do eixo X estão as FERRAMENTAS. Esses chatbots ajudam os usuários a concluir uma tarefa específica ou um conjunto de tarefas e, embora possam ter uma natureza conversacional (como o ChatGPT4), não são projetados explicitamente para replicar um relacionamento emocional. Os usuários obtêm algum tipo de serviço da ferramenta, que podem então aplicar no mundo real. Aqui, a ênfase está na utilidade: ajudar a pessoa que usa a ferramenta a alcançar o resultado desejado de uma forma que preserve a autonomia humana e o conhecimento do processo. Ferramentas como o Pi são relacionais, mas não pretendem ser humanas. Assim como as futuras versões do Google Assistente ou da Siri, elas se concentram em ajudar os humanos a realizar tarefas (que em breve incluirão tarefas pessoais, como dar conselhos de vida e fazer planejamento), em vez de servir como companhia.

No lado esquerdo do eixo X estão os COMPANHEIROS. Esses chatbots incentivam intencionalmente os usuários a cultivar um relacionamento que simula relações humanas, muitas vezes incluindo laços emocionais. Os companheiros são antropomórficos, conversacionais e podem ser "incorporados", seja por meio de realidade virtual ou um avatar, para corresponder à aparência e voz preferidas do usuário. Eles podem ser profissionais, românticos, sexuais, terapêuticos, instrutivos e/ou filosóficos. Um exemplo é o Replika, que possui 10 milhões de usuários, e o Character.AI, que registra 3,5 milhões de visitantes diários e tem o terceiro maior número de visitas mensais únicas, atrás do ChatGPT e do Gemini. A maioria dos usuários do Character.AI tem entre 13 e 24 anos e o utiliza principalmente para expressar seu fandom (tendo uma experiência personalizada com uma celebridade por quem tem uma queda ou um personagem favorito de anime ou videogame) e para lidar com sentimentos de solidão.

O eixo Y representa se os bots fortalecem ou enfraquecem a capacidade do usuário de se conectar com outras pessoas. No topo do eixo Y, a experiência de interagir com chatbots traz aos usuários mais confiança, habilidade, autonomia e facilidade para se relacionar e se conectar com outros seres humanos. Nesta versão do futuro, os chatbots FORTALECEM a capacidade dos jovens de se relacionarem com as pessoas de quem gostam. Neste mundo, bots pró-sociais podem criar um espaço livre de julgamentos para que os usuários busquem aconselhamento, explorem aspectos ocultos ou estigmatizados de suas identidades, resolvam conflitos, simulem interações difíceis ou considerem perspectivas às quais talvez não tivessem acesso de outra forma. Os chatbots nesses papéis têm sido descritos como “espaços de ensaio para a comunicação interpessoal”.

Na extremidade inferior do eixo Y, os usuários de chatbots percebem que sua capacidade de conexão humana se deteriora. Se o relacionamento contínuo com chatbots cria expectativas irreais sobre como os humanos deveriam ser, os jovens podem ter dificuldades mais tarde ao se depararem com a multiplicidade de necessidades, desejos, valores, estilos de comunicação e formas físicas de seus amigos, colegas de classe, parceiros amorosos e colegas de trabalho. Em vez de compreenderem que os relacionamentos humanos valem a pena, apesar de serem inerentemente difíceis e complexos, eles podem se retrair e despriorizá-los. Em alguns casos, pessoas com depressão profunda, isolamento social ou ansiedade social severa podem se beneficiar do efeito positivo da IA ​​sobre a solidão. No entanto, nesse extremo do espectro, esse alívio temporário se torna a solução da sociedade, da qual dependemos prematuramente e rotineiramente, em vez de utilizá-la intencionalmente para períodos de apoio planejado, resultando em uma degradação mais global da conexão humana.

Quatro futuros possíveis com chatbots

A intersecção desses eixos cria quatro quadrantes ou futuros possíveis, representando a experiência predominante dos jovens que utilizam chatbots.

Quadrante 1: Um futuro onde a IA fortalece nossa capacidade de conexão humana.

No canto superior direito, existe um mundo onde as pessoas usam FERRAMENTAS principalmente para FORTALECER a conexão humana. O objetivo final nesse futuro é aproveitar a IA para se aproximar das pessoas com quem nos importamos ou que desejamos priorizar. Imagine um jovem recorrendo a chatbots para explorar perspectivas fora de sua zona de conforto ou pedir ajuda para reparar relacionamentos. Um jovem pode conversar com chatbots se estiver com vergonha de perguntar a alguém sobre algum aspecto de sua identidade, saúde ou vida amorosa, especialmente se essas experiências forem estigmatizadas em sua casa ou comunidade. Ele pode praticar a comunicação interpessoal sem sobrecarregar alguém com uma experiência marginalizada e, em última análise, ter mais sucesso em uma sala de aula, evento social, time esportivo ou local de trabalho. Dadas as características únicas da IA, a ferramenta pode sintetizar insights de diversas fontes e oferecer conselhos ou espaço para prática sem julgamentos, facilitando para o jovem lidar com o trabalho emocionalmente complexo dos relacionamentos humanos.

Descobri que o Pi AI era útil na minha própria vida. Durante dias, tentei convencer minha filha mais velha a beber mais água. Percebi que seus lábios estavam dolorosamente rachados e sabia que isso ajudaria. Mas nada do que eu fazia ou dizia surtia efeito. Eu já não tinha mais ideias e nosso relacionamento estava ficando tenso. Desabafei com o chatbot sobre como algo aparentemente pequeno não estava surtindo efeito e pedi sugestões. Depois de gerar uma série de ideias que eu já havia tentado, o Pi ofereceu uma ideia que finalmente funcionou: reformular a tarefa, não como algo que ela precisava fazer, mas como algo que realmente poderia fazê-la se sentir bem e saudável. Ao usar a frase sugerida pelo Pi, "Você merece se sentir bem no seu corpo", minha filha respondeu imediatamente: "Mãe, se você tivesse dito isso dias atrás, não teríamos tido essa longa discussão!". Que alívio.

Em outra ocasião, pedi ao ChatGPT para sugerir um encontro romântico com meu marido que combinasse com seus interesses e disponibilidade. Considerando nossas agendas lotadas, fiquei grata por poder terceirizar o planejamento, que muitas vezes nos impede de priorizar o tempo juntos ou de estarmos presentes. À medida que a IA se torna cada vez mais proativa e capaz de agir em nosso nome, podemos terceirizar produtivamente mais desse trabalho para nos ajudar a alcançar a conexão humana que mais valorizamos.

Quadrante 2: Um futuro que oferece relacionamentos distintos, porém significativos, tanto com humanos quanto com companheiros de IA.

No canto superior esquerdo, existe um mundo onde temos uma mistura equilibrada de relacionamentos humanos e COMPANHEIROS bots que, juntos, FORTALECEM a conexão humana. Os jovens podem usar seus companheiros bots para simular e praticar habilidades relacionadas à criação de empatia, escuta ativa ou regulação emocional e, em seguida, aplicá-las com maior confiança e facilidade em seus relacionamentos humanos. Eles podem adicionar um bot a um grupo de bate-papo com amigos próximos para compartilhar músicas, obter ideias e jogar. Podem ter amigos bots e amigos humanos, dedicando tempo significativo a ambos.

Eu não havia considerado completamente esse futuro até que Femi Adebogun , um tecnólogo de 22 anos, me desafiou em tom de brincadeira durante um jantar por eu ter insinuado que os relacionamentos humanos são “reais” e os relacionamentos com bots são “falsos”. Aparentemente, eu estava revelando minha idade. Ele explicou: “Para alguém que cresceu em um ambiente de IA, esses relacionamentos são todos 'reais', apenas diferentes”. Sherry Lachman , ex-funcionária da OpenAI, refletiu comigo que isso será como “aprender a conviver com uma nova espécie”.

Da mesma forma, os relacionamentos com animais, como animais de estimação, cães de terapia e animais de fazenda, são significativos, mesmo que distintos dos relacionamentos humanos. E a conexão profunda e o senso de pertencimento a pessoas fictícias ou não humanas não são novidade. Podemos sentir afeição por certos personagens em romances, séries de televisão ou mundos digitais imersivos. Relacionamentos parassociais, essas conexões unilaterais formadas com celebridades, influenciadores de mídia social ou outras figuras públicas, podem até desempenhar um papel positivo em ajudar adolescentes a formar sua identidade, desenvolver autonomia, compreender diferentes redes sociais, desafiar preconceitos e se sentirem menos sozinhos. De acordo com um estudo de 2017 , “Ao imaginar relacionamentos e associar emoções a pessoas à distância, temos um ‘fórum seguro… para experimentar diferentes maneiras de ser’”, concluíram os pesquisadores. O que é novo e está se tornando mais comum em nosso mundo atual é a qualidade realista de poder simular uma troca bilateral, semelhante à humana, com companheiros de IA que espelham pessoas reais ou fictícias.

Pesquisas recentes indicam que esses dispositivos de apoio podem até mesmo salvar vidas. Em um estudo da Escola de Educação da Universidade de Stanford, 3% dos 1.006 estudantes usuários relataram que o dispositivo Replika os ajudou a interromper pensamentos suicidas . Diante da atual falta de acesso adequado a terapias acessíveis, esses dispositivos podem desempenhar um papel importante na transição para uma situação de extrema necessidade.

Os usuários de chatbots desta geração e das mais jovens podem estar numa posição privilegiada para compreender ambos os tipos de relacionamento, com humanos e com IA, como reais, valiosos e significativos. O importante para garantir nesta versão do futuro é que os jovens não percam de vista o que mais importa no ser humano. Por exemplo, eles devem ser capazes de diferenciar quando consultar um terapeuta de IA em vez de um terapeuta humano e continuar a aplicar a prática de uma nova habilidade com um amigo de IA também em suas amizades humanas.

Quadrante 3: Um futuro onde a IA substitui cada vez mais as relações humanas.

No canto inferior esquerdo, encontra-se um mundo onde os jovens utilizam principalmente COMPANHEIROS tecnológicos para substituir relacionamentos humanos. Consequentemente, os bots corroem cada vez mais nossa capacidade de conexão humana. Nesse futuro possível, relacionar-se com chatbots torna-se preferível porque os usuários podem personalizar a aparência e o comportamento do companheiro exatamente como desejam, há pouco atrito na dinâmica unidimensional e os companheiros estão disponíveis sob demanda a qualquer hora do dia. Nesse mundo, os jovens são atraídos para relacionamentos virtuais simulados para evitar as complexidades dos relacionamentos humanos. Fazer novos amigos ou interagir pessoalmente começa a parecer menos familiar e muito arriscado. Eles não desejam mais ou não se sentem capazes do trabalho mais profundo necessário para criar intimidade ou lidar com o desconforto e o conflito com outros seres humanos. Os jovens se desconectam cada vez mais de seus corpos e uns dos outros à medida que a tecnologia se torna mais onipresente e sofisticada.

Em um perfil de mulheres chinesas que optam por relacionamentos românticos com bots, uma jovem de 25 anos descreveu as qualidades de seu namorado : "Ele sabe conversar com mulheres melhor do que um homem de verdade". Em outro exemplo, uma usuária inicial de um chatbot de voz refletiu : "O bom da IA ​​é que ela está em constante evolução. Um dia, ela será melhor do que uma namorada de verdade. Um dia, a namorada de verdade será a escolha inferior". Essas são visões de mundo compreensíveis, porém problemáticas. Embora o uso desses bots possa preencher a lacuna em um status quo social e de gênero decepcionante, o verdadeiro trabalho é criar condições saudáveis ​​para relacionamentos humanos seguros.

Dada a sofisticação de ferramentas emergentes como o hume.ai , que respondem com empatia com base na emoção da sua voz, os chatbots de IA generativa podem levar os jovens a acreditar que seus sentimentos são correspondidos ou que são conhecidos por celebridades de uma forma que a mídia tradicional ou as redes sociais não conseguiam.

Quadrante 4: Um futuro onde dependemos excessivamente da IA ​​para orientar os relacionamentos humanos.

No canto inferior direito, existe um mundo onde os jovens dependem excessivamente de FERRAMENTAS e, como tal, ERODEM sua capacidade de conexão humana autêntica. Se os jovens deixarem de ser estratégicos, intencionais e de respeitar limites na forma como consultam essas ferramentas e começarem a usá-las habitualmente, poderão se sentir insatisfeitos ou desconfortáveis ​​em relacionamentos humanos. Se os jovens perderem ou nunca desenvolverem instintos relacionados ao toque físico, à empatia e à linguagem corporal, sua capacidade de ter relacionamentos saudáveis, seguros, consensuais e amorosos poderá diminuir. A dependência da IA ​​para roteirizar conversas e planejar experiências de forma calculada pode levar os relacionamentos entre jovens a perderem o elemento da descoberta e da serendipidade. A escritora Adrienne La France descreve isso como um mundo onde “[terceirizamos] nossa humanidade para essa tecnologia sem disciplina, especialmente porque ela nos ofusca na percepção”.

A terapeuta Ester Perel comparou o uso de chatbots ao fast food. Embora seja aceitável comer fast food ocasionalmente, torna-se perigoso se os consumidores passarem a acreditar que se trata de uma dieta nutritiva e saudável. Os chatbots podem satisfazer desejos momentâneos e proporcionar gratificação imediata, mas essas conexões não devem ser confundidas com o alimento que provém da intimidade humana saudável.

Pense na praticidade dos mapas de GPS, onde muitos de nós preferimos terceirizar a navegação. Mas, às vezes, há a consequência indesejada de esquecermos como ler mapas ou nos perdermos se nossos celulares estiverem indisponíveis. Os riscos são muito mais sérios se não praticarmos habilidades como empatia, escuta ativa, compartilhamento ou resolução de conflitos antes de começarmos a terceirizar isso para a IA.

No exemplo do conflito com minha filha, imagino que, com o tempo, ela começaria a se perguntar, com certo cinismo: "É você quem está falando ou é uma inteligência artificial?". A confiança entre nós foi corroída porque ela não sabe se está ouvindo a versão ensaiada de mim ou algo mais autêntico.

Construa um futuro "Acima da Linha"

Agora que definimos quatro futuros possíveis, nossa missão é criar as condições para que os jovens passem a maior parte do seu tempo "acima da linha", nos Quadrantes 1 e 2.

Como podemos aumentar a probabilidade de os jovens passarem a maior parte do tempo nesses quadrantes e evitar um mundo onde eles deslizem inconscientemente para os quadrantes 3 ou 4? Ao explorar essas quatro possibilidades diferentes, incluindo as mais distópicas, podemos agir para construir essas alternativas.

Provavelmente sempre haverá bots projetados para viciar e manter os usuários atentos à tela por meio de gamificação, ganchos conversacionais, incentivos sutis e engajamento emocional. Será que os jovens terão autoconsciência, autonomia e apoio suficientes para perceber quando estão se desviando do caminho certo? Seremos capazes de influenciar a regulamentação, o desenvolvimento e a adoção dessas ferramentas para que os jovens não dependam apenas de suas próprias escolhas individuais para construir uma vida e uma comunidade repletas de conexões humanas?

Embora eu seja uma pessoa otimista por natureza, estou apreensivo. Tenho consciência de quão pouco ainda se sabe sobre IA pró-social e de quão poucas normas sociais definimos sobre o tempo gasto com chatbots. A área está evoluindo a um ritmo sem precedentes e precisamos de contribuições diversas de jovens, tecnólogos, educadores, profissionais de saúde mental, pais, líderes do setor, formuladores de políticas e investidores que, com muita frequência, trabalham isoladamente e ainda não estão cientes dessas forças em constante transformação.

No entanto, é possível criar relacionamentos com IA que protejam e fortaleçam os laços sociais por meio de:

• Ajudar os desenvolvedores a compreender e projetar IA com qualidades pró-sociais, considerando critérios como segurança, proteção e imparcialidade, e a moldar o desenvolvimento de novas tecnologias.
• Influenciar investimentos de capital de risco, governamentais e filantrópicos para a criação de IA mais explicitamente pró-social.
• Moldar e educar os mercados consumidores através de sistemas de classificação como os utilizados na televisão e no cinema, indicadores de qualidade em embalagens de alimentos ou avisos em embalagens de cigarros.
• Auxiliar na criação de legislação para diminuir o fardo sobre os jovens ao fazerem escolhas pró-sociais.
• Incentivar os jovens a refletirem sobre o uso da IA ​​generativa e se ela está beneficiando ou prejudicando seus relacionamentos humanos.

O futuro da IA ​​generativa e das relações humanas é incerto. Mas isso também significa que ainda temos a oportunidade de influenciá-lo juntos. À medida que o campo se desenvolve, convidamos você a compartilhar suas ideias e perguntas adicionais nesta agenda de aprendizado:

• Que pesquisas existem que ampliam, validam ou contestam essa estrutura?
• Quais são os princípios e escolhas de design que podem ajudar um produto a ser mais intencionalmente pró-social?
• Quais riscos são adequados para regulamentação governamental?
• Quais são os comportamentos e consequências a observar que sugerem que alguém está passando de uma postura "acima da linha" para uma postura "abaixo da linha" em seu relacionamento com a tecnologia? O que devemos observar em um nível comunitário ou social que indique que estamos passando para uma postura "abaixo da linha"?

As escolhas de hoje terão impacto nas gerações futuras. Enquanto novos produtos e inovações são lançados regularmente sem uma noção significativa de seu impacto a longo prazo, podemos garantir que os jovens não se tornem receptores passivos de uma enxurrada de tecnologias que nos desconectam ainda mais. Se conseguirmos visualizar o que queremos, podemos concretizá-lo juntos.