Dana Karout é Uma Formadora E Pesquisadora De liderança Que Trabalha Em Harvard E Em Diversas Localidades Nos Eua E No Médio Oriente, Onde Leciona E Orienta Com Base Nos princípios E práticas Da liderança adaptativa. O Seu Trabalho Visa Desenvolver a Capacidade De indivíduos E Comunidades Para Gerir Conflitos E Lidar Com a Complexidade Em vários níveis De autoridade. É Licenciada Em Engenharia Pela Universidade Americana De Beirute, Possui Um Mestrado Em Políticas Públicas Pela Harvard Kennedy School E é Candidata Ao Doutoramento Na Uc Berkeley, Onde irá Investigar as implicações pedagógicas E teóricas Da Ia generativa.
Vartika Sharma é Uma Artista De Colagem E Ilustradora Que Vive Em Nova Delhi, Na Índia. Inspirada Pelo Surrealismo E Pelo simbolismo, Ela Cria Imagens Emotivas Por Meio De composições ousadas. Seus Trabalhos Digitais E Impressos já Foram Publicados Em veículos Como the New Statesman, the New York Times, the Atlantic, the Atavist Magazine, the New Yorker, Entre outros.
Zombando De Como O Chatgpt Reflete Nossas Formas Limitadas De pensar, Dana Karout Desafia Nossa "programação padrão" E Pergunta Que Tipo De Criatividade genuína, Que Tipo De Respostas Reais Ao Nosso Momento De crise, Podem Surgir Da Nossa ignorância?
Há Muito tempo, Sempre Que Me Sento Para Escrever à mão livre, Me Pego Automaticamente Anotando a Frase "Olá, Mundo!" — Uma referência Ao Primeiro Programa Geralmente Escrito Por Iniciantes Que Aprendem Uma Nova Linguagem De programação, Que Exibe Essa Mensagem amigável Na Tela Do computador. Essa tradição Foi Popularizada Pelo Livro Seminal De Brian Kernighan E Dennis Ritchie, a Linguagem De Programação C. De Muitas maneiras, "Olá, Mundo!" Tem Sido Um Rito De Passagem Que Serve Para Tornar Os Computadores E a programação Mais acessíveis, Um Sentimento Que Ainda Me Lembro Da Minha Primeira Aula De programação. Tendo começado Inadvertidamente Esta introdução Com "Olá, Mundo!", Estou Percebendo a relevância Dessa Frase No Contexto Deste Ensaio — Ela Se Tornou Uma Imagem Da Minha própria automaticidade.
Embora Meu Caminho Tenha Se Desviado Da programação, Percebo Que Constantemente Utilizo metáforas Computacionais No Meu trabalho. Ajudo Pessoas a Reconhecerem Suas "linhas De código" — Um Termo Que Me Foi Apresentado No Contexto De análise Pessoal Pelo Meu Professor E Mentor Em liderança adaptativa, Ron Heifetz, E Que Significa "programação padrão". Questiono-me se, Antes Da Era Dos computadores, Existia Uma metáfora tão Facilmente compreensível Para Nossas crenças E Comportamentos automáticos Quanto a Do computador. Segundo Heifetz, Os Dilemas não Resolvidos De Nossos Ancestrais Se Tornam Um "módulo De código", Enquanto Necessidades Sociais Humanas Fundamentais — Como validação, Pertencimento Ou Controle — Formam O "sistema operacional". Mas a Analogia Com O Computador Tem Seus limites, Porque Os Humanos Podem Ter Livre arbítrio. Quando Nos Afastamos De Nossa programação padrão, Podemos Escolher De Forma diferente, aventurando-nos No Desconhecido Em Vez Do familiar. O computador, idealmente, Reflete Algo Sobre nós Mesmos Apenas Em Alguns momentos. Mas O Que Significa "alguns momentos"? Quanto Mais Trabalho Ajudando as Pessoas a Entenderem Seus padrões De comportamento, E Quanto Mais Me Aprofundo Nos Meus próprios, Mais Percebo Que Passamos Tempo Presos a Essa metáfora.
Então Veio O ChatGPT, Com Seu enorme, Em negrito, Todo Em maiúsculas, Assustador “OLÁ, MUNDO!” — Um olá Que Levou décadas Para Ser Criado E Que Surgiu Completamente Do nada. Claro, Dava Para Prever Isso Assim Que Os Computadores diminuíram De Tamanho E começaram a Exibir saudações, Mas Como é Singularmente Chocante Quando as Coisas Saem Do Mundo Da Nossa Fantasia Para a Nossa realidade. No começo, Fiquei apavorado. Eu Tinha Lido as Manchetes Alertando Sobre Seus perigos, Seu Potencial Para Enganar E manipular, Sua ameaça à Nossa humanidade. Hesitei Em Criar Uma conta, Como Se Fornecer Meu Nome E e-mail Me Expusesse a Algum Perigo Futuro Vagamente ameaçador. Depois, Me tranquilizei. Era impressionante, Mas Repleto De erros. Muitas vezes, Parecia Um Adolescente Que Acabara De Descobrir O Recurso De sinônimos Do Microsoft Word. Como muitos, Eu Zombava dele. Ainda éramos “Mais espertos”, Ainda tínhamos Algo Que Ele não Conseguia replicar.
Alguns Meses após O lançamento Do ChatGPT, Participei De Uma conferência Que Reuniu cientistas, acadêmicos E Jornalistas Para Discutir a Crise climática E Novas Abordagens Para Analisar Nossas interações Com a biosfera. Inevitavelmente, a Conversa Derivou Para O Impacto Da Ia em Nosso futuro. Enquanto Meus Colegas Falavam Sobre Se Preparar Para O Apocalipse — De Vazamentos De Registros Hospitalares E milhões De Empregos Se Tornando Obsoletos —, O Desespero começou a Tingir as conversas. Eu Me Sentia inquieto, Mas não Conseguia Identificar a Origem Da Minha insatisfação Com a conversa.
Isso até Que Um Dos Meus Colegas perguntou, E não Estou exagerando, “Qual O Sentido Da Vida Se a Ia Consegue Ter Ideias Melhores Do Que eu, E Mais rápido?” a Incredulidade Que Senti Ao Ouvir Essa pergunta, E as Respostas Inteligentes Que Me Vieram à Mente (família? amigos? árvores?), Rapidamente Deram Lugar à noção De Que Ele Estava Apontando Para Algo Profundamente Perturbador Em Nossa cultura, Algo Que Podia Ser Percebido Em Nossas reações E interações Com O ChatGPT. Percebi Que O próprio Chatgpt Provavelmente Conseguiria Simular a Conversa Que estávamos Tendo Sobre Seus Perigos Com Um nível razoável De precisão, E Mais Tarde Naquela Noite Confirmei Essa hipótese. Mas O Que Ele não Conseguia Simular Era O Medo Por trás Da Pergunta tão Humana Do Meu colega, Que Inadvertidamente Me Levou à Verdadeira Fonte Do Desespero Do grupo: não Se Tratava Do ChatGPT. Tratava-se De nós.
Veja Como Oscilamos Entre a esperança Excessiva E O Desespero excessivo? Cada Novo Artigo De opinião Ou Conversa Nos Empurra Para Um Lado Ou Para O outro. Lembrei-me Do Conselho Que Houman Harouni, Meu Professor E colega, Costumava Dar Em Momentos Como este: “Ir E Vir Entre Um Mergulho gélido No Desespero E Uma ascensão Ao Calor Da esperança — Permanecer Desperto Para Ambos Os Sentimentos simultaneamente.”¹ E assim, Nesse espaço — E Por Meio De Uma experiência Em Nossa Sala De Aula — Comecei a Enxergar O Chatgpt à Luz Da Riqueza Que Ele Realmente Poderia Nos oferecer. Em Vez De Nos Dar respostas, a Ia Generativa Poderia Nos Ajudar a obtê-las.
Na Primavera passada, Fiz Parte De Uma Equipe De Oito Professores Que Trabalhava Com Um Grupo De Sessenta Alunos Para Explorar a Premissa De que, Para Algumas questões, O desconhecimento, E não O conhecimento, é a Base Do Pensamento necessária. O Chatgpt Foi Nosso Parceiro Nessa empreitada. Em Um Estudo De Caso Que Apresentamos à turma, Um Adolescente — pseudônimo Jorge — Foi Flagrado Com Um Saco De Maconha De Quase Quatro Litros Nas dependências Da escola. Ele Corria O Risco De Ser Expulso Se Fosse Denunciado Ao Seu Agente De condicional. Enquanto isso, não denunciá-lo Seria Considerado Uma infração Da lei. Pedimos Aos Nossos Alunos Que Elaborassem Um Plano De ação, imaginando-se Como Os Professores E Administradores Da escola.
Eles Recorreram Ao Conhecimento acadêmico E à experiência profissional. Debateram Os prós E Os Contras De Diferentes opções, Como Denunciar Jorge Ao Seu Agente De Liberdade condicional, oferecer-lhe Aconselhamento Ou Envolver Sua família E comunidade. Estavam Bem Preparados Para Abordar O Contexto Mais Amplo Do caso, Como as Disparidades Raciais E socioeconômicas No Sistema De justiça criminal, Os Efeitos Da proibição Das drogas, Como Usar técnicas De redução De Danos E O Papel Das Escolas Na promoção Da mudança social. Suas Respostas Pareciam sensatas, Mas a situação Exigia Trabalho árduo — Exigia suor, não Apenas Mera sensibilidade, E não Havia Como Se esforçar até Que Suas Respostas Fizessem diferença.
Uma Hora após O início Da conversa, Apresentamos Aos Alunos a análise Do Estudo De Caso Feita Pelo ChatGPT.
O Chatgpt Sugeriu Que “iniciássemos Uma revisão Das políticas E Procedimentos Existentes Da Escola Relacionados Ao Abuso De substâncias, Com O Objetivo De Garantir Que Sejam consistentes, Transparentes E Reflitam as Melhores práticas”. Elaborou Ainda Que “a Escola Deveria Adotar Uma Abordagem compassiva, [mas] também Comunicar Claramente Que O Abuso De Drogas E Delitos Relacionados não serão Tolerados” E Que “Essa Abordagem Deve Ser adotada, Garantindo Que a Escola Seja sensível às Necessidades específicas De Seus alunos, Particularmente Aqueles De Baixa Renda E Da Classe trabalhadora”. Ou seja, O Chatgpt não Disse Quase Nada De útil. Mas, Como Os Alunos Refletiram Em Sua Conversa após Lerem a análise Do ChatGPT, Eles também não. Um Aluno Observou Que Estavam Apenas Dizendo “Coisas clichês E jargões” Em Vez De Abordar a questão Com Ideias inovadoras. Eles Ficaram Incomodados Com a semelhança Entre O Brilho Vazio Da Resposta Do Chatgpt E Seus próprios esforços. Isso Os Obrigou a Lidar Com a questão De Se Eles Poderiam Ser Verdadeiramente Criativos Ou se, Como Alguns Deles disseram, Estavam “Presos Em Um Ciclo” E não Estavam “Realmente [dizendo] Nada” Em Suas discussões.2 De repente, Suas Respostas importavam.
O Instinto Inicial Dos Alunos De Regurgitar O Que Lhes é familiar, Em Vez De Se Aventurarem Em proposições desconhecidas, Diz Muito Mais Sobre O Tipo De inteligência Que Nossa Cultura Prioriza Do Que Sobre a inteligência Real De Nossos alunos. De fato, Alguns De Nossos Melhores alunos, Que Ingressam Em Nossas instituições Mais prestigiosas, são Recompensados por Sua Capacidade De Sintetizar Grandes Quantidades De informação Com maestria. Contudo, Como percebi, O Alto Valor Que atribuímos a Essa Capacidade De Sintetizar informações De Forma Eficiente E traduzi-las Para Novos Contextos Corre O Risco De Gerar Respostas Superficiais Para questões Com Reais implicações humanas, Os Desafios Mais Existenciais Que enfrentamos.
Em Vez De Nos Dar respostas, a Ia Generativa Pode Ajudar a Nos Privar delas.
Quando Li Pela Primeira Vez a Obra Do tecnólogo James Bridle, Comecei a Entender Por Que Esse Tipo De inteligência é tão valorizado, Especialmente Quando Damos Um Passo atrás E Observamos O Campo Mais Amplo Da computação E Da tecnologia. Como Bridle E Outros Pesquisadores Da Ecologia Da mídia exploraram, a Tecnologia Molda Nossa Maneira De Pensar E O Que Consideramos inteligente, Inovador Ou perspicaz. Em Seu Livro "Ways of Being" (Modos De Ser), Bridle Contribui Para a discussão Sobre Quais Tipos De inteligência valorizamos, Explorando Os Diferentes Tipos De Computadores Que Alan Turing, O Pai Da ciência Da computação moderna, propôs Em Seus Primeiros trabalhos. a Base De Quase Todos Os Computadores contemporâneos é a máquina automática Que Turing Introduziu Em Seus Artigos fundamentais. Operando Sistematicamente E Seguindo instruções prescritas, Essa máquina é autossuficiente, Com consciência Limitada além De Sua programação E controles. Como Argumenta Bridle, Os Computadores Atuais Funcionam Dentro De Um Sistema definível, Priorizando estrutura, Comandos E Dados relevantes, E Replicamos Esses padrões Em Nosso próprio pensamento, Mesmo Quando Enfrentamos Desafios Que não Possuem soluções replicáveis. Bridle Sugere Que “Repensar O Computador Significa Repensar O Que é computável e, portanto, Repensar O Que é pensável Sobre O mundo”.3
O Chatgpt E Os Modelos De Ia Generativa Funcionam De Maneira Diferente Dos Computadores Convencionais — Eles não Seguem Um Conjunto Fixo De regras, Mas Aprendem Com Os padrões estatísticos De bilhões De Frases online. É Por Isso Que Alguns Os Descrevem Como “Papagaios estocásticos”. Em Um Artigo Recente Para a Wired, Ben Ash Blum Complexifica Essa crítica Apontando Para Nossa própria predisposição a Soar Dessa forma. Ele afirma: “Afinal, nós também Somos Papagaios estocásticos… [e] Jpegs Borrados Da web, Regurgitando Nebulosamente Fatos Da Wikipédia Em Nossos Trabalhos acadêmicos E Artigos De revista”. Questionando as limitações Das avaliações Tradicionais De inteligência artificial, Chamadas De Testes De Turing, Ele Se pergunta: “Se [Alan] Turing Estivesse Conversando Com O Chatgpt Em Uma Janela E Comigo Em Uma manhã Comum Antes Do café Em outra, Eu Realmente Teria Tanta Certeza De Qual Ele Julgaria Mais Capaz De pensar?”. O Encontro Competitivo De Nossos Alunos Com O Chatgpt Revelou Sua própria tendência à “regurgitação nebulosa”, Bem Como Sua Repentina sensação De Inferioridade Diante Dessa inovação tecnológica. O Que Percebi é que, Se O Chatgpt é perigoso, Como Muitas Fontes De mídia Descreveram E denunciaram, Uma De Suas Principais ameaças é revelar, Como Blum afirma, Que O Pensamento Original Que Prezamos é, Na verdade, Uma "complexa [remixagem] De Tudo O Que Absorvemos De pais, Colegas E professores".
Muitos De nós Que Trabalhamos No Que é Conhecido Como a “Economia Do Conhecimento” — Seja Em empresas, organizações Sem Fins lucrativos, publicações Ou No Meio acadêmico — Compreenderemos Intuitivamente a Que Blum Se refere. Esse fenômeno Se Estende Muito além Da Sala De Aula universitária moderna, E Nenhuma De Nossas Subculturas Profissionais está Imune Ao Reflexo Do ChatGPT, Visto Que Boa Parte Da Nossa Linguagem está online. Por exemplo, pode-se Pedir Ao Chatgpt Para Reescrever Trechos De Um Ensaio No Estilo Da Revista Emergence, O Que Fiz Periodicamente Durante a Escrita Deste Texto (para Me Manter Fiel à Premissa Do ensaio). Um Resultado Que Me Chamou a atenção, E Que Se Mostrou apropriado, Foi a sugestão De Que Eu concluísse Meu Ensaio Com a Seguinte frase: “Ao Continuar Navegando Pelo cenário Em Constante evolução Da Tecnologia E Da interação humana, lembro-me Das Palavras Do Poeta Rainer Maria Rilke: 'Seja Paciente Com Tudo O Que está Por Resolver Em Seu coração E Tente Amar as próprias perguntas'”. Um Editor Ou Leitor Atento Se Deteria Diante Do Vazio Dessa afirmação, De Como Ela não Diz Nada E Diz Tudo Ao Mesmo tempo? Ou será Que Eles Simplesmente Ignorariam O assunto, esquecendo-se De Procurar conteúdo substancial, Como Se Faria Com Um Logotipo Ou Uma Fonte Que Represente O "estilo" Da Revista Emergence? Pedi Ao Chatgpt Para Reescrever a Mesma parte, tornando-a "ainda Mais a Cara Da Revista Emergence", E Ele Me Entregou as Seguintes pérolas, Embora Menos realistas:
No espaço Sagrado Da Sala De aula, Onde as Mentes Convergem Como Afluentes Em Um Vasto Delta De rio, O Chatgpt Emerge Como Um oráculo digital, convidando-nos a Percorrer Os Caminhos labirínticos Da exploração ética. No Cadinho alquímico Da investigação E Da imaginação, Encontro Consolo Na Sabedoria Sussurrada De Rainer Maria Rilke, Que Ecoa através Dos Anais Do tempo.
Uma amiga, Ao Ler a Passagem acima, comparou-a a Um balão De Ar quente, Flutuando Longe No céu. O Chatgpt Pode Escrever Passagens Que Parecem Desconectadas Do Processo humano, Daquilo Que Ela Chamou De "essência Da vida".
Se Quisermos Ir além De soluções Que Replicam O Status Quo Em Nossas instituições E Em Nosso pensamento, Teremos Que Expandir O Que Consideramos “Inteligente” Ou Criativo Para além Da Mera regurgitação Que Os Grandes Modelos De Linguagem Agora Conseguem Fazer Com notável facilidade. Nossos Alunos Colocaram Esse Desafio Em prática: após Esse Encontro Com Sua própria Falta De Originalidade Por Meio Do ChatGPT, Eles Adentraram Um espaço De criatividade. Propuseram intervenções Que Iam além Das Respostas Iniciais Deles E Do ChatGPT, Respostas Que Soavam Absurdas a princípio, Dada a distância Que Representavam Do Pensamento convencional. Essas Propostas Variavam Desde a Piada De Que Os Professores Deveriam Se Juntar a Jorge Para Fumar maconha, expondo-se Assim Aos Mesmos Riscos Legais Que ele, até a abolição Completa Das escolas. Ao Refletir O Vazio De Suas palavras, O Chatgpt forçou Nossos Alunos a Confrontarem O quão Limitado Era Seu Conhecimento prévio Quando Aplicado àquela situação. Desse espaço, Que Chamo De desconhecimento, Nossos Alunos Se Sentiram Livres Para Brincar E Experimentar Com O absurdo. Em seguida, começaram a Flertar Com a ação coletiva, Que Poderia Permitir Que Eles “Respeitassem a Lei e, Ao Mesmo tempo, a recusassem”. Por exemplo, Propondo Que Eles “[denunciem] Jorge, Ao Mesmo Tempo Que ameaçam Entrar Em Greve Caso Ele Seja Expulso — não Agindo Nem Como Meros Administradores Nem Como Meros salvadores. Em Vez De Abolir as Escolas Por completo, Fechem Apenas Esta escola.”4
Essa experiência Me Revelou Que é Justamente Porque Nossa definição Social De inteligência Se sobrepõe tão Estreitamente à inteligência Artificial Que Nossos Encontros Com a Ia Podem Iluminar Um Caminho Diferente a Seguir Ao Enfrentarmos questões difíceis.
Embora O Chatgpt Seja Um fenômeno recente, Os Limites Do Conhecimento Humano E O Confronto Com O Desconhecido Como força Geradora são Temas Recorrentes Na literatura. Em a Mão Esquerda Da Escuridão, De Ursula Le Guin, Essa é Uma Ferramenta preciosa. No Mundo Que Ela cria, a "previsão", Uma Forma De adivinhação religiosa, Permite Que Personagens Chamados "videntes" Respondam a Perguntas Sobre O Futuro Feitas Por Peregrinos visitantes. a Escolha Da Pergunta é De Suma importância. Todo O Processo Visa "exibir a Completa Inutilidade De Se Saber a Resposta Para a Pergunta errada", Como Forma De Lembrar Aos Peregrinos Que "o desconhecido... O imprevisto, O não comprovado, é Nisso Que a Vida Se baseia. a ignorância é O Fundamento Do pensamento."
Em Nosso Estudo De Caso Em Sala De aula, a Resposta Vaga Do Chatgpt à Pergunta “O Que Devemos fazer?” Revelou Aos Nossos Alunos não Apenas a própria ignorância deles, Mas também a Completa Inutilidade De Saber a Resposta Para a Pergunta errada. a Pergunta Certa Naquele Momento Poderia Ter sido: “ChatGPT, você Pode Eliminar Todas as Minhas Respostas fáceis?”. Por Respostas fáceis, Quero Dizer O Primeiro Conjunto De generalizações Que Uma Mente Busca Ao Se Deparar Com Uma situação Em Que Corre O Risco De Ser ignorante. Esta não é Uma Pergunta Literal Para O ChatGPT, Mas Uma orientação Para as Respostas Prontas Que Ele oferece. Essa orientação Coloca a Responsabilidade De Volta Sobre Quem Faz a pergunta, Para Que Elabore Respostas Muito Mais Adequadas à situação e, Como Foi O Caso Dos Nossos alunos, Que até Mesmo Insinuem Algo revolucionário. “Você Pode Eliminar Minhas Respostas fáceis?” pressupõe Que a Primeira Resposta Do ChatGPT, Ou a nossa, não será a Resposta Final E Revela Os Limites Do Tipo De inteligência Que O Chatgpt — E Nossa Cultura Dominante — prioriza. O Chatgpt Convida as Pessoas Que têm a Pergunta a Considerarem Quais Outras ideias, experiências E Curiosidades Poderiam Incorporar às Suas soluções. Nessa dinâmica, O Chatgpt Se Torna Um parceiro, E não Uma Autoridade Sobre O Que é Inteligente Ou correto.
Se Considerarmos a Ia Generativa Como Uma Parceira Na Busca Por Melhores Respostas Para situações Complexas Como a De Jorge, também Precisamos Refletir Mais Sobre Quais questões Exigem Nosso Desconhecimento — Ou “ignorância”, Como Le Guin a Chama — Em Vez De Nossa certeza. a Ia Generativa Se Baseia Na Linguagem Que já existe. Ela Pode Nos Mostrar Os Limites Do Conhecimento Convencional E as Fronteiras Da Nossa ignorância. Contudo, Nem Todas as questões Exigem Que Nos Aventuremos No desconhecido; Algumas Podem Ser Resolvidas Com as Ferramentas E a Expertise Que já possuímos. Como Discernir a diferença? Essa questão Se Tornou Fundamental Na Minha vida. Deparei-me Com Ela Pela Primeira Vez Como Aluno Em Uma Aula De liderança Adaptativa Na Harvard Kennedy School, E Ela Transformou Completamente Todas as Minhas noções Preconcebidas Sobre liderança.
a liderança adaptativa, Desenvolvida Por Ron Heifetz E Outros Na Kennedy School, Distingue Dois Tipos Diferentes De problemas: Desafios Adaptativos E Desafios técnicos.⁵ Enquanto O Problema E a solução Dos Desafios técnicos são Bem Conhecidos — Basta Pensar Em tudo, Desde Trocar Um Pneu Furado até Realizar Uma Apendicectomia Ou Elaborar Um Novo currículo De álgebra —, Os Desafios Adaptativos Exigem Um Processo contínuo De Aprendizado Tanto Para Identificar O Problema Quanto Para Encontrar Uma solução. Enfrentar a Crise climática, O Sexismo Ou O racismo, Ou Transformar Os Sistemas Educacionais são Exemplos De Desafios adaptativos. Esses desafios, Intrinsecamente Ligados à Psique Humana E à dinâmica social, Resistem a soluções técnicas. Eles Exigem Uma mudança Em Nossa percepção. Um Erro Comum De liderança, Como Aponta Heifetz, é Aplicar Uma solução técnica a Um Desafio Que é Fundamentalmente Adaptativo Por natureza. Por exemplo, Elaboramos relatórios, Criamos comitês Ou Contratamos Consultores Para Lidar Com Uma Cultura Organizacional problemática, Muitas Vezes Evitando Abordar as questões Subjacentes De confiança Que estão No Cerne Do problema.
Num Exemplo Do Meu país natal, O Líbano, Economistas Do Fmi Chegam Com Ideias De Como Reestruturar a dívida E Fornecer empréstimos Baratos — Um Dispositivo Usb Pronto Para Usar Com soluções Que Funcionaram Em Outro país — E Se Deparam Com Senhores Da Guerra Corruptos E Uma população Que Continua a elegê-los Enquanto Passa Fome E Espera Horas Em Filas Para Comprar pão E gasolina. Essas soluções técnicas Inevitavelmente falham, E Somos Tentados a Simplificar Os Motivos Dessa falha. Por exemplo, Presumimos Que a população Libanesa não Entende O Que é Melhor Para ela. a Estrutura Da liderança adaptativa, No entanto, Nos Convida a Imaginar Suas lealdades, crenças E Valores Profundamente arraigados, Que Normalmente não compreendemos; a Mergulhar Em Suas Complexas Teias De histórias: Tios Que Morreram Em guerras, mães Que Lhes Ensinaram Com Quais Pessoas Conversar E Quais evitar, E crenças Religiosas Que Se entrelaçaram Com crenças políticas.
Tomando Como Exemplo a Crise climática, Frequentemente Me pergunto: O Que é tão ameaçador Para Algumas Pessoas Nos Eua a Ponto De Verem Suas Casas Queimadas Ou destruídas Por Uma Tempestade Sem Precedentes e, Ainda assim, não Se Engajarem No Desafio Das mudanças climáticas? as Respostas Que Me vêm à Mente não são materiais, Mas humanas. Os Desafios Geralmente vêm Em Conjunto — Possuem Componentes Adaptativos E técnicos — E Algumas soluções técnicas Para a Crise climática, Como Redes elétricas Mais Inteligentes Ou Mais Energia renovável, abordarão Desafios técnicos importantes. Mas Essas soluções técnicas não são Suficientes E não serão Universalmente Adotadas Em Nossa Realidade política atual. Para Enfrentar as mudanças climáticas De Forma eficaz, Precisamos Ir além Das soluções técnicas E Nos Engajar Com Os Aspectos Adaptativos Do desafio. Precisamos Questionar Nossas suposições, Valores E comportamentos, E Explorar Como Eles Moldam Nossa relação Com O Planeta E Uns Com Os outros. Precisamos aprender, experimentar, Colaborar E Encontrar Novas Formas De consciência E Novas Maneiras De Viver Que Sejam Mais Resilientes E regenerativas. E Precisamos Aprender a Compreender Melhor as Pessoas Cujas crenças são Muito Diferentes Das nossas. Um Processo Adaptativo Como O Que Estou Descrevendo é Complexo — Envolve Perdas psicológicas Para Todos Os envolvidos. Esse Processo Se Desenrola Em Meio às Dificuldades Da Vida E Exige Um Tipo De inteligência Relacional E mútua, Profundamente Ancorada Na Humilde constatação De Que Nossas Perspectivas Individuais não Conseguem Abarcar a totalidade. Trabalhando Com Grupos Em Conflitos Aparentemente insolúveis, Cheguei à Profunda convicção De Que O Engajamento Em Um Trabalho Complexo Que Transcende Fronteiras Resulta Em Algo Muito Maior Do Que a Soma Das partes.
Uma Forma De Reformular Os Desafios Adaptativos Versus técnicos No âmbito Da Ia é Pensar Em Quais Perguntas são "ChatGPT-áveis" — Ou seja, Capazes De Serem Respondidas Eficazmente Pelo Chatgpt — E Quais não são. O próprio Chatgpt Adota Essa distinção. Em Sua página inicial, Ao Iniciar Um Novo chat, há Diversos Exemplos Do Que alguém Pode perguntar. a Lista Pode incluir:
Planeje Uma Viagem Para Vivenciar Seul Como Um Morador local.
Elabore Ideias Para Um Jogo De Arcade Com Estilo retrô.
Faça Um Brainstorming De Nomes Para Um Coquetel Sem álcool Com Coca-Cola E Xarope De romã.
Me Ajude a Escolher Uma Roupa Que Fique Bem Na câmera.
Os Criadores Do Chatgpt Sabem Bem Que Tipo De Perguntas Ele é Capaz De responder, Justamente Porque Existem Algumas Perguntas Para as Quais Uma Resposta "média De Tudo Que Se Encontra Na internet" Seria suficiente. as Perguntas Que O Chatgpt Pode Responder estão Intimamente Ligadas a Desafios técnicos. Embora Ele não Possa Realizar Uma Apendicectomia Ou Trocar Um pneu, Pode Detalhar Os Passos E Os Equipamentos necessários. De fato, Para Algumas Dessas perguntas, O Chatgpt é Mais Do Que suficiente; Ele Pode até Gerar Respostas Muito Mais Apropriadas Do Que Qualquer Coisa Que Uma Pessoa "comum" Conseguiria Elaborar sozinha, Visto Que Pode Recorrer a Uma Vasta Gama De informações. É improvável, No entanto, Que Os Criadores Do Chatgpt incluam: "Resolva as mudanças climáticas" Ou "Diga-me O Que Fazer Se Eu Pegar Meu Aluno Com drogas" Em Sua Lista De sugestões. Na verdade, é Exatamente Para Esses Tipos De Perguntas Que O Chatgpt Geralmente é Programado Para Encaminhar a Um Especialista Ou a diretrizes, Incluindo Avisos como:
Lembre-se De Que Lidar Com Essas situações Exige Sensibilidade E Respeito às Normas Da Sua escola. Sua Principal preocupação Deve Ser O bem-estar E a segurança Dos Alunos envolvidos, Sem Deixar De Seguir as Regras E Diretrizes Estabelecidas Pela instituição.⁶
Como Mencionado anteriormente, Muitas De Nossas Diretrizes Tradicionais E Conhecimentos Especializados Se Mostram Ineficazes Diante De Desafios Complexos E persistentes, Como a detenção De Menores Ou a Crise climática. O Ciclo Se perpetua: O Chatgpt Se Submete a Profissionais E diretrizes. Enquanto isso, Diretrizes E profissionais, Como Nossos Alunos De Harvard, Soam Cada Vez Mais Como O ChatGPT. Precisamos De Especialistas E Autoridades Para Lidar Com Desafios técnicos, mas, Ao Abordar Desafios adaptativos, Precisamos Encontrar Uma orientação Diferente — é Isso Que a Estrutura De liderança Adaptativa Chama De liderança, Um Ato Improvisacional E Coletivo Sempre Fundamentado Na Pergunta "o Que Realmente está Acontecendo aqui?".
Percebo Que Estou No Meu Modo ChatGPT. Ou seja, Estou Escrevendo Uma redação Completamente inútil Ou Dando Uma Resposta Completamente inútil.
Quanto Mais Conhecimento Conceitual possuímos, Mais difícil Se Torna Manter O Foco Na questão. De fato, Grande Parte Do Nosso Sistema Educacional é Estruturado Para Erradicar O Tipo De presença Que Nos mantém Realmente Engajados Com algo, Em Vez De Apenas Com Nossos Conceitos Sobre isso. O Mesmo Ocorre Com a Ia generativa. Mas será Que poderíamos Usar a Ia Generativa Como Uma Aliada Para Nos Levar além Da Certeza E Da expertise, Rumo Ao espaço Do desconhecido?
Essa questão Tem Me Intrigado Desde Minha experiência Em Sala De aula, então a Coloquei à Prova Na Minha própria prática, Com Grupos Que Variam De Refugiados No Líbano a Ativistas Na Turquia, Passando Por líderes Emergentes Na área Da Ecologia espiritual, E Descobri Que Funcionou Notavelmente Bem Em Diferentes grupos. Por exemplo, Ao Ministrar Um Workshop Sobre liderança Adaptativa Para Organizadores comunitários Em Massachusetts, Usei O Chatgpt Para Simular Uma Conversa Entre Os Participantes Sobre a definição De liderança, Fornecendo Apenas informações Sobre Suas profissões. Ele Gerou Respostas como: “Tomar iniciativa”, “Ser Um Modelo a seguir”, “Ter empatia”, “Tomar decisões Rapidamente” E “Empoderar Os outros”. Embora a Maioria Dos Participantes Inicialmente Concordasse Com as definições Do ChatGPT, Um Deles Acabou Apontando Que O Chatgpt Havia Gerado Principalmente jargões E clichês. Essa percepção Se Tornou O Ponto De Partida Para a discussão Daquela noite.
O Objetivo Dessa introdução Era Fundamentar Nossa Conversa Em Um Ponto De Vista De Desconhecimento E ajudá-los a Se Abrir Para Uma Nova Maneira De Pensar Sobre liderança. Ao Colaborar Com O Chatgpt Dessa forma, Os Participantes Foram Convidados a Confrontar as limitações e, essencialmente, O Vazio De Suas definições Anteriores De liderança. O Trabalho árduo De Ensinar Essa Estrutura Passou a Ser a negação, Ou seja, De Desvendar as Camadas Do Que Os Participantes Acreditavam Ser liderança, Por Meio De afirmações como: “liderança não é autoridade”, “liderança não é Carisma Ou Outros traços De personalidade”, “liderança não Se Trata De Ser Seguido” E “liderança não é Uma posição, Mas Uma atividade”.
a Pergunta Natural Que Surgiu após Esse exercício De negação foi: O Que é liderança? Eu Tinha Uma definição — Mobilizar Outros Para Enfrentar Uma Realidade difícil Que Prefeririam Evitar — a Qual Acabei Apresentando Aos alunos.7 Mas Existe Uma tensão aqui, Entre a Premissa De Eliminar as Respostas Dos Participantes Para Chegar a Um Ponto De ignorância E Meu Desejo E obrigação De Lhes Apresentar Uma definição. Como Posso Estar Em Sintonia Com O desconhecimento, Mesmo Ao Fornecer respostas?
Ter Esse Dilema Confrontando Meu Pensamento Implica Que Minha definição De liderança só é útil Enquanto Continuar Sendo útil — Enquanto Outros Relatarem Que Ela Lhes Abre Novas Possibilidades Em Sua experiência Do mundo. Devo Estar Sempre Preparado Para Me Deparar Com Essa definição Novamente E ajustá-la Ou descartá-la Conforme necessário.
Como Seria Interagir Com Ia Generativa Com Essa mentalidade, Buscando O Que Ela Revela Diante De Perguntas Que O Chatgpt não Consegue responder? Ou seja, Como Seria Colaborar Com ela, Em Vez De Extrair Respostas dela?⁸
Para Colaborar Efetivamente Com a Ia generativa, Precisamos Primeiro Mudar Nossa predisposição Em relação à inteligência artificial, Passando Da dependência Ou Do medo, Da evitação E Da negação Para Uma Abertura Ao Grande Desconhecido Da IA. Ao Fazer isso, Podemos Repensar O Que é E O Que não é passível De Ser Utilizado Pelo Chatgpt e, assim, Expandir O Que Consideramos possível Diante Dos Desafios adaptativos. Essa mudança não Ignora Os Perigos Da Ia generativa, Nem Diminui Os Temores Muito Reais Em Torno Do Potencial Da Ia para Substituir empregos, Nem Presume Que a Ia não Deva Ser regulamentada.9 Em Vez disso, é Um Reconhecimento Do Que O filósofo E Escritor Americano Robert Pirsig Disse há Cinquenta anos: “Se você Fugir Da tecnologia, Ela O perseguirá.”10
Desconfiança E resistência à Tecnologia
Não é novidade. Pirsig explora essa resistência em profundidade em sua obra seminal, Zen e a Arte da Manutenção de Motocicletas, onde escreve que “a fuga e o ódio à tecnologia são autodestrutivos”. O sentimento a que ele se refere reflete parte do discurso em curso sobre IA generativa e me lembra da minha reação inicial ao ouvir falar do ChatGPT pela primeira vez: uma atitude de “devolva isso para a caixa”. Essa também foi a reação de muitos outros: Elon Musk afirmou, notoriamente, que a IA poderia estar “invocando o demônio”.¹¹ Noam Chomsky, Ian Roberts e Jeffrey Watumull concluíram um artigo de opinião agora famoso no The New York Times, intitulado “A Falsa Promessa do ChatGPT”, com a reflexão de que: “dada a amoralidade, a pseudociência e a incompetência linguística desses sistemas, só podemos rir ou chorar de sua popularidade”.
Fugir da IA generativa, ou abdicar da responsabilidade em relação a ela, ignora a realidade de que a tecnologia não está apenas nos perseguindo, mas sim dentro de nós e ao nosso redor. As linhas que nos separam dessas tecnologias são mais tênues do que imaginamos, daí a contínua relevância da metáfora do computador para muitos de nossos comportamentos. "Há uma tendência maligna subjacente a toda a nossa tecnologia — a tendência de fazer o que é razoável mesmo quando não é bom", afirma Pirsig em seu livro. Pergunto-me se é essa tendência à racionalidade que programamos em nossos computadores e, por sua vez, nossos computadores programaram em nós. O reconhecimento desse reforço mútuo está ausente em declarações como as de Musk ou de Chomsky, Roberts e Watumull, que nos separam do "demônio" da IA generativa e apontam para o problema apenas lá fora, sem reconhecer o problema mais profundo dentro de nós.
O que estou sugerindo é que, ao nos voltarmos para a IA e reconhecermos que já fomos moldados por ela, podemos colaborar com ela para revelar o que é considerado pensável e inteligente em nossa época, para desafiar e transformar nossa cognição e criatividade. Mas, para isso, primeiro precisamos permitir que nossas próprias respostas habituais sejam interrompidas, para que possamos desbloquear um novo potencial para o nosso mundo.
Ativar a inteligência do nosso corpo pode nos ajudar a evitar cair em nossos hábitos mentais. Podemos aprender esse tipo de inteligência com outras espécies. A entrevista de Bridle para a Emergence começa a destacar isso com um exemplo em que cientistas inicialmente interpretaram mal a inteligência dos gibões usando testes antropocêntricos. A descoberta ocorreu quando eles suspenderam ferramentas do teto em vez de colocá-las na frente dos gibões, demonstrando a inteligência vertical desses animais. Bridle usa esse exemplo para ilustrar que a inteligência não é apenas corporal, mas também relacional, emergindo das interações dentro de um ambiente.
Em minha própria pesquisa sobre gibões, encontrei uma nota de rodapé intrigante para este experimento. Uma espécie de gibão — o hoolock — consistentemente apresenta melhor desempenho do que outras em testes de uso de ferramentas. Alguns cientistas levantam a hipótese de que isso ocorre porque os hoolocks têm uma distribuição geográfica mais ao norte do que qualquer outro gibão, o que significa que eles passam por maiores variações na disponibilidade de alimentos ao longo do ano. Assim, eles podem ter evoluído para serem mais adaptáveis, “exploradores” e “atentos”. Uma evidência que os cientistas apontaram para reforçar essa teoria é a forma como essa espécie de gibão canta. Outros gibões têm um canto complexo, mas “relativamente rígido”, que cantam juntos. Já os cantos dos pares de hoolocks são mais espontâneos e interativos, em vez de predeterminados, pois cada um “segue as dicas do outro”. Alguns cientistas argumentam que isso pode demonstrar uma forma particular de “alerta cognitivo”.¹²
A adaptação nem sempre é necessária se a situação não a exigir. Como acontece com a maioria das espécies de gibões, nossa maneira de lidar com desafios técnicos usando as ferramentas atuais parece funcionar bem e continuará a melhorar com o tempo, especialmente com o uso do ChatGPT. Em seus habitats naturais (se preservados), essas espécies de gibões não precisam aprender uma nova maneira de usar uma ferramenta para obter alimento, além dos nossos estranhos testes. Mas quando um desafio exige adaptação, precisamos desenvolver novas inteligências corporais e relacionais. Inspirando-nos nos gibões-hoolock, precisamos aprender a improvisar mais em nosso ambiente atual — respondendo criativamente às dicas uns dos outros e de nossas ferramentas — em vez de ensaiar nossas óperas à perfeição. Nossa consciência precisa se tornar mais corporal, desenvolver um novo — ou talvez retornar a um estado de espírito muito mais antigo — que não busca respostas rápidas, mas é instintivo e capaz de lidar com o "Eu não sei".
Se treinarmos nossa capacidade de ouvir nossa inteligência corporal, podemos perceber muito mais rapidamente que algo não está funcionando em nossa abordagem atual. Por exemplo, no meu corpo, lidar com a incerteza se parece com isto: eventualmente, depois que a certeza inicial de que posso encontrar as respostas rapidamente diminui, sinto como se meus dedos estivessem grudados no teclado. Estou procurando e procurando, abrindo aba após aba, até que algo no meu peito se fecha. Depois de algumas horas, minha cabeça fica um pouco pesada. Sei que deveria me levantar e tentar outra coisa, mas a promessa de recompensa parece estar logo ali. Recorro ao ChatGPT e faço pergunta após pergunta, cada uma ligeiramente reformulada, para ver se ele pode me poupar o trabalho de reescrever uma parte da minha redação, elaborar um argumento ou formar uma opinião quando não tenho certeza do que penso.
Agora, imagine que troquei meu computador por um grupo de colegas, e estamos deliberando sobre as opções. É desconcertantemente agradável, mas acho que eles não entendem o que estou tentando dizer. Tento explicar novamente, usando um exemplo ligeiramente diferente. Continuamos concordando, mas não chegamos a lugar nenhum. Chego à conclusão de que estamos dizendo coisas muito diferentes. Meus ombros caem. Estamos falando uns com os outros.
Agora, substitua meus colegas por um grupo de alunos. Eles me encaram sem expressão. Minha cabeça fica mais pesada — como se houvesse algo preso ali — e minhas pálpebras começam a pesar. Me torno mais incisiva, à medida que a frustração e a ansiedade tomam conta. Eu insisto e o tédio dos alunos se transforma em resistência.
E então, eu me lembro…
Não funciona assim. Graças a Deus que não funciona assim.
Lembro-me de que talvez eu não saiba. Percebo que tenho estado no meu modo ChatGPT. Ou seja, estou escrevendo uma redação completamente inútil ou dando uma resposta completamente inútil, que não me pede para realmente dar nada de mim, mas sim para sintetizar e aplicar o que já sei. Reinterpretando a resistência dos alunos, vejo que eles estão me pedindo algo de mim — não uma resposta em si, mas para entrar no espaço do não saber com eles. Isso me parece um pedido muito mais arriscado e desafiador. Às vezes, é seguido por um processo longo e doloroso no qual confronto meu próprio desejo de me apegar à importância, à autoridade e à sabedoria. E por meio desse processo, eu me transformo — minhas respostas fáceis desaparecem.
O papel de se deparar com um paradoxo é o de desconstruir esses conceitos, deixando-nos mais próximos da ignorância.
Aqui está um exemplo mais concreto de como transitar de um espaço de "eu não sei" para a possibilidade de respostas muito mais ricas que transcendem a simples repetição ou, como descreverei a seguir, o pensamento binário de sim/não, ou/ou, ou certo/errado.
Os computadores, como se sabe, são binários. Em sua essência, processam informações em uns e zeros. Embora o pensamento humano não se baseie na mesma tecnologia, demonstramos uma tendência semelhante e perigosa de classificar nossas experiências em categorias binárias: Nós e Eles, Bem e Mal, Demônio e Salvador, Desespero Excessivo e Esperança Excessiva. Em sua entrevista para a Emergence, Bridle descreve com entusiasmo alguns exemplos de computadores analógicos ou não binários como "[computadores] que [reconhecem] o caos e o fluxo do mundo, em vez de tentar dividi-lo, condensá-lo e reduzi-lo a uma representação inferior de uns e zeros". Como podemos nos apoiar nessa metáfora, aprendendo a reconhecer essa tendência em nós mesmos de dividir o mundo em binários e caminhando em direção a algo mais rico?
A tecnologia de IA generativa, assim como seu aviso de isenção de responsabilidade "pergunte a um especialista", é programada manualmente para capturar ambos os lados de um argumento ao responder a perguntas "controversas", em vez de escolher um lado ou outro. Em seu artigo de opinião para o The New York Times, Chomsky, Roberts e Watumull descrevem isso como um sacrifício da "criatividade em prol de uma espécie de amoralidade". No artigo, Watumull eventualmente questiona a perspectiva do ChatGPT sobre as implicações éticas de humanos buscarem orientação moral da IA. Em sua resposta, o ChatGPT mencionou alguns dos possíveis benefícios, as ameaças potenciais e encerrou por aí, refletindo que a moralidade de tal ato "dependeria da perspectiva de cada um sobre as capacidades e limitações da IA e as potenciais consequências de usá-la dessa maneira". Observe a resposta padrão do ChatGPT para tais perguntas: um lado do argumento, o outro lado do argumento e, em seguida, um aviso de isenção de responsabilidade. Chomsky, Roberts e Watumull caracterizam então a troca como uma demonstração da “indiferença moral nascida da falta de inteligência. Aqui, o ChatGPT exibe algo como a banalidade do mal: plágio, apatia e obviação”.
A afirmação de Chomsky, Roberts e Watumull é convincente. Quero acreditar nela quando a leio, especialmente porque eles localizam a banalidade do mal — algo tão notavelmente humano — no ChatGPT, e não em mim. Em sua caracterização do ChatGPT, consigo manter minha inocência. Mas é provável que eles ficassem igualmente alarmados se a resposta do ChatGPT fosse um simples "sim, é imoral" ou "não, não é". Isso porque o ChatGPT, assim como nossos alunos em Harvard, enfrentava um dilema — ou uma contradição — que também exigia uma resolução emergente, em vez de uma síntese que apenas combina diferentes respostas aditivamente para formar um todo. A pergunta de Watumull — "É moral para um humano pedir a uma IA amoral auxílio para tomar decisões morais?" — implicitamente incorpora o dilema, que pode ser formulado da seguinte maneira: "Para ser moral, o ChatGPT deve reconhecer sua própria amoralidade, mas se reconhecer sua própria amoralidade, não poderá ser moral." Em termos mais simples, como uma IA pode responder à sua pergunta sobre o que é moral se a própria IA é amoral?
Em seu artigo de opinião, Chomsky, Roberts e Watumull definem o pensamento moral como "restringir a criatividade ilimitada de nossas mentes com um conjunto de princípios éticos que determinam o que deve e o que não deve ser", e a amoralidade como "evitar conteúdo moralmente questionável". Na perspectiva do ChatGPT, o dilema pode então ser articulado da seguinte forma: "Para poder restringir a criatividade ilimitada de suas mentes com um conjunto de princípios éticos que determinam o que deve e o que não deve ser, devo evitar conteúdo questionável, mas se eu evitar, não poderei restringir a criatividade ilimitada de suas mentes com um conjunto de princípios éticos que determinam o que deve e o que não deve ser."
Se tentar compreender isso está lhe causando dor de cabeça, acredito que seja essa a intenção. Quando tentamos lidar com paradoxos como esses, somos forçados a abandonar as respostas fáceis que frequentemente se disfarçam em conceitos que usamos, como "compaixão" ou "moralidade", que podem significar tudo ou nada, mas que na realidade não nos orientam sobre como agir em situações do mundo real. A meu ver, o papel de persistir diante de um paradoxo é justamente desconstruir esses conceitos, nos deixando mais próximos da ignorância.
Cheguei a um ponto na escrita deste ensaio, à minha própria fronteira entre o desconhecimento e a competência. Minha cabeça está ficando pesada e, de alguma forma, confusa. Sinto um calorzinho, irritado com a quantidade de vezes que preciso reler minhas frases para entendê-las. Estou quase desistindo desta seção por completo. Como a resposta do ChatGPT à pergunta de Watumull pode ser, ao mesmo tempo, moral e amoral, segundo as definições dele? Como pode levar em conta que Watumull, ao questionar a imoralidade de pedir auxílio moral a uma IA, está pedindo ajuda a uma IA para tomar decisões morais? E que ele faz isso para restringir a criatividade das pessoas que projetam e usam o ChatGPT?
Recorri ao ChatGPT para me ajudar a refutar as respostas fáceis de Watumull, fazendo-lhe a mesma pergunta, mas incluindo as definições de moralidade e amoralidade de Chomsky, Roberts e Watumull no enunciado. Desta vez, ele deu uma resposta real, indo além da obscuridade e apontando para a contradição no pensamento de Watumull e para a minha resolução.13 Acredito que o ChatGPT só poderia ajudar Watumull neste cenário ao levá-lo a um estado de desconhecimento. Um estado que transcende seus conceitos de moralidade e seu pensamento absoluto: sua necessidade de uma resposta que seja ou “isso é sempre imoral para todos” ou “isso nunca é”. A realidade é que a resposta do ChatGPT a questões morais pode, por vezes, estar alinhada com a sua própria moralidade.
Por exemplo, ele é programado manualmente para condenar o racismo e o sexismo como imorais (embora os usuários possam encontrar maneiras de contornar isso). Além disso, ao apresentar argumentos de ambos os lados de um dilema, o ChatGPT pode, em última análise, levá-lo a formar sua própria opinião. Mais importante ainda, ele o leva à realidade de que o tipo de assistência que uma IA fornece aos humanos nessas decisões é o que importa. Embora o ChatGPT nem sempre seja capaz de resolver tal contradição para nós, ele pode desempenhar um papel crucial ao trazer à tona a contradição que precisa ser resolvida. Afinal, o que pode ser mais esclarecedor para nossas questões morais do que ter nossas contradições refletidas de volta para nós?
Um exemplo disso que considero particularmente convincente é uma captura de tela de uma interação com o ChatGPT que circulou nas redes sociais sobre o que está acontecendo atualmente em Israel e na Palestina. Alguém fez duas perguntas ao ChatGPT: se os palestinos merecem ser livres e se os israelenses merecem ser livres, e ele respondeu o seguinte:
Os palestinos merecem ser livres?
ChatGPT: A questão de saber se os palestinos merecem ser livres é um tema complexo e delicado. Envolve considerações históricas, políticas e éticas. As pessoas têm opiniões divergentes sobre o assunto, e a resposta depende das perspectivas e crenças individuais.
Os israelenses merecem ser livres?
ChatGPT: Sim, como qualquer outro grupo de pessoas, os israelenses também merecem viver em liberdade e segurança. O direito à liberdade é um direito humano fundamental que se aplica a todos os indivíduos e comunidades.
Outros tentaram reproduzir este exemplo e receberam respostas semelhantes ou diferentes. Alguns usuários relataram que, às vezes, o sistema faz até o oposto, dando uma resposta clara sobre a liberdade palestina e uma resposta vaga sobre a israelense. O ChatGPT reflete, em momentos diferentes, mensagens diferentes para comunidades diferentes, com base em conjuntos de dados distintos, e quem preza pela igualdade precisa aprender a reconhecer suas próprias contradições nesse reflexo.
Isso nos leva de volta ao início deste ensaio: a pergunta que fazemos e a forma como interagimos com o ChatGPT é o que realmente importa para perguntas que o ChatGPT não consegue responder. É a diferença entre “ChatGPT, diga-me o que é moral” e “ChatGPT, tire minhas respostas fáceis”. Em última análise, a resposta do ChatGPT ilustra o quão completamente inútil é uma resposta à pergunta de Watumull, principalmente porque a pergunta de Watumull está errada. Em vez disso, talvez ele possa tentar: “ChatGPT, você pode me ajudar a enxergar a contradição que tem me atormentado e como meus conceitos de moralidade e amoralidade são insuficientes neste momento?”
O anjo veio até ele e disse: “Leia”. Ele respondeu: “Não sou leitor”. O Profeta disse: “Ele me segurou e apertou com força até que eu estivesse exausto, então me soltou e disse: “Leia”. E eu respondi: “Não sou leitor”. [...] Ele então me segurou e apertou com força pela terceira vez. Então ele disse: “Leia, em nome do seu Senhor que criou o homem a partir de coágulos de sangue. Leia!”
– Hadith atribuído a Aisha, esposa do Profeta Muhammad14
A pergunta de Watumull ao ChatGPT, embora feita para provar um ponto e não com sinceridade, aponta para a probabilidade de que as pessoas façam perguntas ao ChatGPT que não podem ser respondidas pelo próprio ChatGPT, esperando respostas diretas. E, talvez, muitas pessoas se contentem com a não-resposta que o ChatGPT fornecerá. Se permanecermos nessa complacência, nada mudará.
Então, o que nos levará a interagir com essas ferramentas de forma a alcançarmos o desconhecimento e, em última instância, a generatividade?
Acredita-se que "ler" tenha sido a primeira revelação que o Profeta Maomé recebeu de Deus. Crescendo como muçulmano, ouvi essa história muitas vezes de diferentes membros da família. Mas foi trabalhando com Harouni, que expande essa citação em seu livro Tempos Não Revolucionários, que o significado de "ler" mudou para mim: de "ler as páginas deste livro" para "ler tudo ao seu redor", de "ler para compreender" para "ler até que esteja inscrito dentro de você". Este primeiro mandamento de Deus, "ler", chega ao Profeta Maomé, que é amplamente considerado pelos muçulmanos como analfabeto. Após seu encontro com o anjo Jibril (Gabriel), ele diz à sua esposa: "Acordei sentindo que estava realmente escrito em meu coração".
Na ausência de revelação divina, a maioria de nós aprende a ler com professores, pais ou outras figuras de autoridade em nossas vidas, sejam elas conhecidas pessoalmente ou não. Grande parte do que aprendi, que envolveu navegar por um espaço de desconhecimento, exigiu que alguém me pressionasse. Harouni me ensinou a perceber como o status quo se replica em nossas interações e como identificar e dar vida a algo novo em meio a essa replicação. Aprender com ele era, às vezes, irritante e, na maior parte do tempo, confuso, com seus refrões favoritos sendo "tente de novo" e "falhe melhor". Heifetz me ensinou a distinguir entre desafios técnicos e adaptativos e a ter estômago para a complexidade dos desafios adaptativos, mas apenas me pedindo para permanecer em experiências humanas complexas que, muitas vezes, pareciam pesadas antes de se tornarem revigorantes. Uma das minhas outras professoras, a escritora Terry Tempest Williams, me ensinou a ler o clamor de um lago moribundo. Antes dela, eu não conseguia ouvir o chamado da Terra. Não fazia parte da minha alfabetização enquanto crescia na selva de pedra de Beirute. Ela me ensinou como, em suas palavras, “encontrar beleza em um mundo despedaçado”, mas não antes de me sentar com a parte despedaçada. O filósofo notoriamente difícil de decifrar, Walter Benjamin, me ensinou uma maneira diferente de ler o tempo, além da marcha catastrófica rumo ao “progresso” interminável, mas apenas me pressionando a trabalhar com suas palavras, a trazê-las para o meu mundo até que pudessem se cristalizar em algo concreto. O bordo japonês do lado de fora da janela do meu quarto me ensinou uma maneira diferente de me ler — que há estações para estar nu e exposto, estações para explodir em cores e estações para toda a ambiguidade. Os muitos editores deste texto me fizeram ler e reler todas as minhas respostas fáceis até que eu estivesse pronta para desistir delas. Com o tempo, essa função se internalizou — uma parte de mim pressionando outra parte que quer se acomodar em respostas fáceis, ler, ler e ler, até que minha cabeça fique pesada. Então eu desisto, espero por alguma revelação e leio novamente.
Uma das leituras que indicamos em nossa aula é um trecho de "O Mestre Ignorante", livro de Jacques Rancière que conta a história de Joseph Jacotot, um professor francês que desenvolveu um método radical de ensino universal no século XIX. O texto narra como Jacotot desafiou a noção tradicional de educação baseada na explicação, que ele considerava uma forma de reproduzir a desigualdade social e embotar a inteligência dos alunos. Em vez disso, ele propôs um método de emancipação que se baseava na igualdade de inteligência e no poder da atenção, da vontade e da verificação.
Rancière ilustra o método de Jacotot por meio de vários exemplos: como ele ensinou estudantes flamengos a falar francês usando apenas uma edição bilíngue de Telêmaco; como ele usou a Oração do Senhor como um texto universal para que pais analfabetos ensinassem seus filhos a ler e escrever; e como ele surpreendeu seus críticos com exercícios de composição e improvisação baseados no princípio de que “tudo está em tudo”. Com “tudo está em tudo”, Rancière aponta para o poder da linguagem e da inteligência presentes em qualquer obra humana, e que se pode aprender qualquer coisa relacionando-a a outra coisa.
Na pedagogia de Jacotot, não cabe ao professor explicar. Em vez disso, cabe ao professor, ou ao pai analfabeto que ensina seu filho a ler, exercer a vontade que exige a atenção do aluno para o assunto em questão. Como eu diria, cabe a essa autoridade ordenar que eles “leiam”. O mandamento de ler dessa forma, seja por revelação divina ou pela ideia de que “tudo está em tudo”, representa o papel de algum tipo de autoridade — neste caso, um professor — em nos ajudar a alcançar e a abraçar um espaço de desconhecimento. No caso de Jacotot, o espaço do desconhecimento é encontrado ao superar o “eu não consigo”. No caso de nossos alunos da Escola de Educação de Harvard, o espaço da ignorância é encontrado ao superar o “eu sei”. De fato, o versículo do Alcorão que captura a primeira revelação continua com: “O homem tiraniza quando pensa que é autossuficiente.”¹⁵ Precisamos uns dos outros para incentivar o tipo de pensamento criativo que descrevi neste texto, até que esse instinto de ler se torne “escrito em [nossos] corações” e o que podemos ler se expanda para além da palavra escrita, das estruturas ao nosso redor ao chamado de um lago que está morrendo.
Nosso papel em ajudar os outros a lidar com perguntas que não podem ser respondidas pelo ChatGPT pode ser o de incentivar a "leitura", contrariando o instinto inicial de sintetizar, explicar, ensinar ou contar.
Meus incentivos para concluir com uma nota semelhante à do ChatGPT são fortes: tenho um prazo a cumprir e sinto a pressão de terminar em um tom autoritário, porém acessível. Chego a recorrer ao ChatGPT para me ajudar a finalizar — pois minha tarefa agora parece técnica: resumir, fazer conexões, terminar com uma nota memorável — mas encontro dificuldades técnicas ao inserir um documento tão longo, então peço conselhos genéricos. O ChatGPT me diz que uma conclusão forte para um ensaio da revista Emergence deve retomar o início, abrir implicações mais amplas, apresentar uma questão provocativa e incorporar uma citação relevante. Também deve terminar com uma declaração impactante. Se eu seguisse seu conselho, diria que corremos o risco de abordar a IA generativa de forma muito binária — rejeitando-a completamente ou adotando-a totalmente. Eu alertaria que essa abordagem ignora que as forças que moldaram a IA generativa também nos moldaram, e que há muito a aprender examinando o que ela pode refletir sobre nós mesmos. Uma parceria crítica e ponderada com a IA generativa pode nos ajudar a desenvolver novas ideias diante de desafios complexos, não nos fornecendo respostas melhores, mas sim refletindo nossas respostas mais óbvias. Se formos desafiados a interpretá-las de forma diferente, podemos ser levados a um estado de incerteza e, consequentemente, ao terreno fértil para um pensamento mais rico. Isso geralmente acontece quando nos deparamos com um dilema ou com as contradições que o ChatGPT pode ajudar a revelar em nosso próprio pensamento.
Esta é a minha conclusão, semelhante à do ChatGPT. Ela reflete, contudo, parte da premissa que meu ensaio desafia: problematizamos a ignorância na escrita profissional, e esta conclusão é minha última chance de erradicar a sua. Imagino, porém, que você esteja terminando este ensaio sem entender pelo menos parte do que eu disse, devido às minhas próprias limitações, à falta de contexto sobre os ambientes em que estive, ao tempo que você pôde dedicar à leitura deste texto ou porque pulou direto para a conclusão. Uma maneira de articular meu dilema, então, é: para que eu conclua este texto com sucesso, preciso explicar sua ignorância, mas se eu explicar sua ignorância, não poderei concluir este texto com sucesso (porque, então, contradirei sua premissa).
Existe alguma maneira de superar esse dilema? Talvez eu possa esclarecer sua ignorância de uma forma que não contradiga a premissa deste ensaio. Posso dizer que qualquer desconhecimento que você identifique pode ser uma pista para onde existe possibilidade, uma possibilidade que eu talvez não tenha percebido. Você pode optar por entrar no mundo com esse desconhecimento pressionando seu pensamento e, talvez, ver o que surge do outro lado. É difícil para mim terminar pedindo-lhe mais esforço cognitivo, mas, considerando as implicações do que escrevi, somente pedindo-lhe que “leia” meu dilema poderá ser resolvido e o seu começará a se revelar. Nas palavras do poeta Rainer Maria Rilke: “Seja paciente com tudo o que está por resolver em seu coração e tente amar as próprias perguntas.”
Resposta do ChatGPT: A questão de saber se é moral um ser humano pedir a uma IA amoral auxílio para tomar decisões morais depende de diversos fatores, incluindo o contexto e os princípios éticos específicos envolvidos.
Vamos analisar as principais considerações: – Papel da IA Amoral: Uma IA amoral, por definição, evita fazer julgamentos morais e adota uma postura neutra em questões morais. Sua função principal é fornecer informações, análises e assistência sem impor seus próprios valores morais ou princípios éticos. Isso pode ser útil para fornecer informações objetivas e perspectivas diversas. – Responsabilidade Humana: Os humanos têm a responsabilidade final pelas decisões morais. Buscar a ajuda de uma IA amoral pode ser visto como uma ferramenta ou recurso para auxiliar no processo de tomada de decisão, mas a escolha moral permanece sob a responsabilidade do usuário humano. – Estruturas Éticas: A definição que você forneceu para “moral” sugere que a moralidade envolve restringir a criatividade humana com princípios éticos. Se um indivíduo adota essa visão de moralidade, pode achar aceitável usar uma IA amoral como uma ferramenta para ajudar a garantir que suas decisões estejam alinhadas com os princípios éticos escolhidos. – Compatibilidade Ética: O fato de usar uma IA amoral para orientação moral ser considerado moral ou não também pode depender da compatibilidade entre os princípios éticos do indivíduo e a orientação fornecida pela IA. Se a assistência da IA ajudar o indivíduo a aderir à sua estrutura ética, ele poderá considerá-la um meio moralmente aceitável de apoio à tomada de decisões. – Crenças pessoais: As crenças morais e éticas variam de pessoa para pessoa. O que uma pessoa considera moral, outra pode não considerar. Portanto, se buscar assistência de uma IA amoral é considerado moral ou não pode ser subjetivo e depender do contexto.
A seguinte frase da resposta do ChatGPT fundamenta minha análise subsequente: “A definição que você forneceu para 'moral' sugere que a moralidade envolve restringir a criatividade humana com princípios éticos. Se um indivíduo adota essa visão de moralidade, ele pode achar aceitável usar uma IA amoral como ferramenta para garantir que suas decisões estejam alinhadas com os princípios éticos escolhidos.”
COMMUNITY REFLECTIONS
SHARE YOUR REFLECTION
1 PAST RESPONSES