생성형 인공지능으로부터 도망치거나 그에 대한 책임을 회피하는 것은 기술이 우리를 쫓는 것뿐만 아니라 우리 안에, 그리고 우리 주변 어디에나 존재한다는 현실을 간과하는 것입니다. 우리와 이러한 기술 사이의 경계는 우리가 생각하는 것보다 훨씬 모호하며, 그렇기에 컴퓨터라는 은유가 우리의 많은 행동을 설명하는 데 여전히 유효한 것입니다. 피르시그는 그의 저서에서 "우리의 모든 기술에는 악한 경향이 내재되어 있다. 그것은 좋지 않더라도 합리적인 일을 하려는 경향이다"라고 주장합니다. 저는 우리가 컴퓨터에, 그리고 컴퓨터가 우리에게 프로그래밍한 것이 바로 이러한 합리성 추구 경향이 아닐까 생각합니다. 머스크나 촘스키, 로버츠, 와투멀과 같은 인물들은 생성형 인공지능이라는 "악마"와 우리를 분리시키고 문제의 근원을 외부에만 국한시키면서, 우리 내면의 더 깊은 문제를 인식하지 못하고 있습니다.
제가 제안하는 바는, 인공지능에 주목하고 우리가 이미 인공지능에 의해 영향을 받아왔다는 사실을 인지함으로써, 인공지능과 협력하여 우리 시대에 사고 가능하고 지능적인 것으로 여겨지는 것이 무엇인지 밝혀내고, 우리의 인지와 창의성을 변화시킬 수 있다는 것입니다. 하지만 그러기 위해서는 먼저 우리 자신의 습관적인 반응 방식을 바꾸어 새로운 가능성을 열어갈 수 있도록 해야 합니다.
우리 몸의 지능을 활용하는 것은 사고방식의 습관에 빠지는 것을 막는 데 도움이 될 수 있습니다. 우리는 다른 종으로부터 이러한 지능을 배울 수 있을지도 모릅니다. 브라이들은 Emergence와의 인터뷰에서 과학자들이 처음에는 인간 중심적인 실험으로 긴팔원숭이의 지능을 잘못 이해했던 사례를 통해 이를 강조하기 시작합니다. 과학자들이 긴팔원숭이 앞에 도구를 놓는 대신 천장에 매달아 놓았을 때, 긴팔원숭이의 수직 지향적 지능이 드러났습니다. 브라이들은 이 사례를 통해 지능이 단순히 신체적인 것뿐만 아니라 환경과의 상호작용을 통해 나타나는 관계적인 것이라는 점을 설명합니다.
긴팔원숭이에 대한 저의 연구를 진행하면서 이 실험에 대한 흥미로운 뒷이야기를 발견했습니다. 훌록긴팔원숭이는 도구 사용 테스트에서 다른 종보다 consistently 더 뛰어난 수행 능력을 보입니다. 일부 과학자들은 훌록긴팔원숭이가 다른 긴팔원숭이보다 더 북쪽에 서식하기 때문에 연중 먹이 가용성의 변화가 더 크기 때문이라고 추측합니다. 따라서 훌록긴팔원숭이는 더 적응력이 뛰어나고, 탐색적이며, 주의력이 높은 방향으로 진화했을 수 있다는 것입니다. 과학자들이 이 이론을 뒷받침하는 증거로 제시한 것 중 하나는 이 긴팔원숭이 종의 노래 방식입니다. 다른 긴팔원숭이들은 복잡하지만 "상대적으로 고정된" 노래를 함께 부릅니다. 그러나 훌록긴팔원숭이 암수 한 쌍의 노래는 미리 정해진 것이 아니라 더 자발적이고 상호작용적이며, 각자가 "상대방의 신호를 받아들인다"고 합니다. 일부 과학자들은 이것이 특정한 형태의 "인지적 민첩성"을 보여주는 것일 수 있다고 주장합니다.12
상황이 요구하지 않는다면 적응은 항상 필요한 것은 아닙니다. 대부분의 긴팔원숭이 종처럼, 우리가 현재 사용하는 도구를 활용하여 기술적 문제를 해결하는 방식은 효과적이며, 특히 ChatGPT와 같은 도구를 사용할 경우 시간이 지남에 따라 더욱 발전할 것입니다. (보존된다면) 자연 서식지에서 이 긴팔원숭이 종들은 우리가 그들에게 가하는 이상한 시험 외에는 먹이를 얻기 위해 도구를 사용하는 새로운 방법을 배울 필요가 없습니다. 하지만 적응이 필요한 문제가 발생하면 우리는 새로운 신체적, 관계적 지능을 개발해야 합니다. 훌록 긴팔원숭이를 본받아, 우리는 오페라를 완벽하게 연습하기보다는 현재 환경에서 더욱 즉흥적으로 노래하는 법, 즉 서로와 우리가 가진 도구에서 오는 신호에 창의적으로 반응하는 법을 배워야 합니다. 우리의 인식은 더욱 구체화되어야 하며, 빠른 답을 찾으려 애쓰지 않고 본능적으로 "모르겠다"라고 말할 수 있는 새로운, 혹은 훨씬 더 오래된 마음 상태로 돌아가야 합니다.
우리 몸의 감각에 귀 기울이는 훈련을 하면, 현재 접근 방식에 문제가 있다는 것을 훨씬 더 빠르게 알아챌 수 있습니다. 예를 들어, 제 경우에는 미지의 영역을 헤쳐나가는 과정이 다음과 같습니다. 처음에는 답을 금방 찾을 수 있을 거라는 확신이 들지만, 그 확신이 사라지고 나면 손가락이 키보드에 붙어버린 듯한 느낌이 듭니다. 계속해서 검색하고, 탭을 하나씩 열어가다 보면 가슴 한구석이 답답해집니다. 몇 시간 후, 머리가 약간 무거워집니다. 일어나서 다른 방법을 시도해야 한다는 것을 알지만, 곧 좋은 결과가 있을 것 같은 기대감이 듭니다. 그래서 ChatGPT를 켜고 질문을 하나씩 던져봅니다. 에세이의 일부를 다시 쓰거나, 논리를 구성하거나, 확신이 서지 않을 때 의견을 정하는 수고를 덜어줄 수 있을지 궁금해서요.
이제 제 컴퓨터 대신 동료들과 함께 여러 선택지를 놓고 토론한다고 상상해 보세요. 모두 동의하는 분위기지만, 제가 무슨 말을 하려는지 제대로 이해하지 못하는 것 같습니다. 조금 다른 예를 들어 다시 설명해 보지만, 계속 동의만 할 뿐 아무런 진전도 없습니다. 결국 서로 완전히 다른 이야기를 하고 있다는 생각이 듭니다. 어깨가 축 처지고, 마치 서로에게 일방적으로 말하는 것 같습니다.
이제 내 동료들을 학생들로 바꿔 생각해 보세요. 그들은 멍하니 나를 바라봅니다. 머리가 점점 무거워지고, 마치 무언가가 머릿속에 박힌 듯하며, 눈꺼풀이 무거워집니다. 좌절감과 불안감이 밀려오면서 나는 더욱 강압적으로 변합니다. 내가 밀어붙이자 학생들의 지루함은 저항으로 바뀝니다.
그리고 그때, 저는 기억이 났습니다…
그런 식으로는 안 돼요. 그런 식으로 안 돼서 정말 다행이에요.
내가 모를 수도 있다는 사실을 기억합니다. 내가 마치 채팅창에 글을 올리는 것처럼, 아무런 쓸모없는 에세이를 쓰거나 아무런 쓸모없는 답변을 하고 있었다는 것을 깨달았습니다. 그런 방식은 내 자신을 진정으로 드러내는 것이 아니라, 내가 이미 알고 있는 것을 종합하고 적용하는 것에 불과합니다. 학생들의 저항을 다시 생각해 보니, 그들은 내게 무언가를 요구하고 있었습니다. 단순히 답을 요구하는 것이 아니라, 그들과 함께 미지의 영역으로 들어가자는 것이었습니다. 이는 훨씬 더 위험하고 어려운 요구처럼 느껴집니다. 때로는 이러한 요구는 의미, 권위, 그리고 지혜에 집착하려는 내 안의 욕망과 마주하는 길고 고통스러운 과정으로 이어지기도 합니다. 그리고 이 과정을 통해 나는 변화합니다. 손쉬운 답들은 사라지게 됩니다.
역설을 고수하는 역할은 그러한 개념들을 해체하여 우리를 미지의 영역에 더 가까이 이끌어주는 데 있다.
다음은 "모르겠다"라는 단계를 넘어 단순한 되풀이, 또는 제가 곧 설명할 것처럼 예/아니오, 양자택일, 옳고 그름이라는 이분법적 사고를 초월하는 훨씬 더 풍부한 해답의 가능성으로 나아가는 구체적인 예입니다.
컴퓨터는 이진법으로 작동한다는 것은 잘 알려진 사실입니다. 근본적으로 컴퓨터는 정보를 1과 0으로 처리합니다. 인간의 사고는 같은 기술에 기반을 두고 있지는 않지만, 우리 역시 경험을 이진 범주로 나누려는 위험하고도 비슷한 경향을 보입니다. '우리'와 '그들', '선과 악', '악마와 구원자', '극심한 절망과 과도한 희망'처럼 말입니다. 브라이들은 Emergence와의 인터뷰에서 아날로그 또는 비이진 컴퓨터의 몇 가지 예를 들며, "세상을 1과 0이라는 단순한 표현으로 축소하거나 압축하려 하지 않고, 오히려 세상의 혼돈과 변화를 인식하는 컴퓨터"라고 열정적으로 설명했습니다. 우리는 어떻게 이 비유를 활용하여 세상을 이진법으로 나누려는 우리 자신의 경향을 인식하고, 더 풍부한 사고방식으로 나아갈 수 있을까요?
생성형 AI 기술은 "전문가에게 질문하세요"라는 면책 조항과 마찬가지로, 논쟁적인 질문에 답할 때 어느 한쪽 편을 들지 않고 양측의 의견을 모두 담아내도록 수동으로 프로그래밍됩니다. 촘스키, 로버츠, 그리고 와투멀은 뉴욕 타임스 기고문에서 이를 "창의성을 희생하고 일종의 비도덕성을 택하는 것"이라고 비판했습니다. 기고문에서 와투멀은 결국 인간이 AI로부터 도덕적 지침을 구하는 행위의 윤리적 함의에 대한 ChatGPT의 견해를 물었습니다. ChatGPT는 답변에서 가능한 이점과 잠재적 위협을 몇 가지 제시한 후, 그러한 행위의 도덕성은 "AI의 능력과 한계, 그리고 그러한 방식으로 AI를 사용하는 잠재적 결과에 대한 각자의 관점에 달려 있다"고 답하며 답변을 마무리했습니다. 이러한 질문에 대한 ChatGPT의 표준적인 답변 방식을 주목하십시오. 한쪽 주장과 다른 쪽 주장을 제시한 후 면책 조항을 덧붙이는 것입니다. 촘스키, 로버츠, 그리고 와투멀은 이 대화를 "지능 부족에서 비롯된 도덕적 무관심"을 보여주는 사례로 규정하며, "ChatGPT는 표절, 무관심, 그리고 회피와 같은 악의 평범함을 드러낸다"고 평했다.
촘스키, 로버츠, 그리고 와투멀의 주장은 설득력이 있습니다. 특히 그들이 악의 평범성, 즉 인간 본연의 모습을 드러내는 요소를 제가 아닌 ChatGPT에서 찾아냈다는 점에서 저는 그들의 말을 믿고 싶어집니다. 그들이 ChatGPT를 묘사한 방식 덕분에 저는 제 무죄를 주장할 수 있는 것입니다. 하지만 만약 ChatGPT의 답변이 단순히 "네, 비도덕적입니다" 또는 "아니요, 그렇지 않습니다"였다 하더라도 그들은 똑같이 놀랐을 것입니다. 왜냐하면 ChatGPT 역시 하버드대 학생들처럼 딜레마, 혹은 모순에 직면했고, 단순히 여러 답변을 더해서 하나의 전체를 만드는 종합적인 해결책이 아니라, 새로운 해법이 나타나야 하는 상황에 놓여 있었기 때문입니다. 와투멀의 질문, 즉 "인간이 비도덕적인 AI에게 도덕적 결정을 내리는 데 도움을 요청하는 것이 도덕적인가?"는 다음과 같은 딜레마를 내포하고 있습니다. "ChatGPT가 도덕적이 되려면 자신의 비도덕성을 인지해야 하지만, 스스로 비도덕성을 인지한다면 도덕적일 수 없다." 더 간단히 말해, AI 자체가 비도덕적이라면 어떻게 무엇이 도덕적인지에 대한 그의 질문에 답할 수 있을까요?
촘스키, 로버츠, 그리고 와투멀은 기고문에서 도덕적 사고를 “무엇이 되어야 하고 무엇이 되어서는 안 되는지를 결정하는 일련의 윤리적 원칙으로 우리 마음의 무한한 창의성을 제한하는 것”으로, 비도덕성을 “도덕적으로 용납할 수 없는 콘텐츠를 피하는 것”으로 정의합니다. 챗GPT의 관점에서 이 딜레마는 다음과 같이 표현될 수 있습니다. “무엇이 되어야 하고 무엇이 되어서는 안 되는지를 결정하는 일련의 윤리적 원칙으로 여러분의 마음의 무한한 창의성을 제한하려면, 저는 용납할 수 없는 콘텐츠를 피해야 합니다. 하지만 제가 그것을 피한다면, 여러분의 마음의 무한한 창의성을 윤리적 원칙으로 제한할 수 없게 됩니다.”
이것을 이해하려고 애쓰는 것이 머리 아프게 느껴진다면, 저는 그것이 의도된 것이라고 생각합니다. 우리가 이런 역설들을 헤쳐나가려고 할 때, 우리는 흔히 "연민"이나 "도덕"과 같은 개념 속에 숨어 있는 손쉬운 해답들을 버릴 수밖에 없습니다. 이러한 개념들은 모든 것을 의미할 수도 있고 아무것도 의미하지 않을 수도 있지만, 현실 세계에서 어떻게 행동해야 할지에 대한 실질적인 지침을 제공하지는 않습니다. 제 생각에, 역설을 고수하는 것은 그러한 개념들을 해체하고, 결국 우리를 미지의 영역에 더 가까이 다가가게 하는 역할을 합니다.
이 에세이를 쓰면서 저는 지금 미지의 영역과 역량의 경계선에 서 있습니다. 머리가 무거우면서도 붕 뜨는 듯한 기분입니다. 문장을 이해하기 위해 몇 번이고 다시 읽어야 하는 제 자신이 짜증 나기도 합니다. 이 부분을 아예 포기하고 싶은 심정입니다. ChatGPT가 와투물(Watumull)의 질문에 대해 내놓은 답변이 그의 정의에 비추어 볼 때 어떻게 도덕적이면서 동시에 비도덕적일 수 있을까요? 와투물이 인공지능에게 도덕적 도움을 구하는 것이 부도덕한가라는 질문을 하면서, 정작 그는 인공지능에게 도덕적 결정을 내리는 데 도움을 구하고 있다는 점을, 그리고 그렇게 하는 이유가 ChatGPT를 설계하고 사용하는 사람들의 창의성을 제한하기 위해서라는 점을 어떻게 고려할 수 있을까요?
저는 ChatGPT를 이용하여 와투물(Watumull)의 손쉬운 답변을 제거하려고 했습니다. 같은 질문을 하되, 이번에는 촘스키, 로버츠, 그리고 와투물의 도덕과 비도덕에 대한 정의를 질문에 포함시켰습니다. 이번에는 ChatGPT가 모호함을 넘어 진정한 답변을 제시했고, 와투물의 사고의 모순을 지적하고 저에게는 그 해결책을 제시했습니다.13 저는 ChatGPT가 와투물을 도울 수 있는 유일한 방법은 그를 알 수 없는 영역으로 밀어 넣는 것이라고 생각합니다. 그의 도덕 개념을 넘어서는 영역, 그리고 그의 절대적인 사고방식을 넘어서는 영역 말입니다. 즉, "이것은 항상 모든 사람에게 비도덕적이다" 또는 "절대 그렇지 않다"라는 두 가지 답 중 하나를 원하는 그의 욕구를 넘어서는 영역입니다. 실제로 ChatGPT의 도덕적 질문에 대한 답변은 때때로 그의 도덕관과 일치할 수도 있습니다.
예를 들어, ChatGPT는 인종차별과 성차별을 부도덕하다고 비난하도록 수동으로 프로그래밍되어 있습니다(물론 사용자는 이를 우회하는 방법을 찾을 수 있습니다). 또한, 딜레마의 양측에 대한 논거를 제시함으로써 ChatGPT는 궁극적으로 사용자가 스스로 결정을 내리도록 유도할 수 있습니다. 더 중요한 것은, 인공지능이 이러한 결정에 있어 인간에게 제공하는 도움의 유형이 중요하다는 사실을 깨닫게 해준다는 점입니다. ChatGPT가 항상 이러한 모순을 해결해 줄 수는 없겠지만, 해결이 필요한 모순을 드러내는 데 중요한 역할을 할 수 있습니다. 우리 자신의 모순을 거울에 비춰보는 것보다 도덕적 질문에 대해 더 명확하게 해 줄 수 있는 것이 또 있을까요?
제가 특히 흥미롭게 생각하는 사례는 이스라엘과 팔레스타인 간의 현재 상황에 대해 소셜 미디어에서 화제가 된 ChatGPT와의 대화 스크린샷입니다. 누군가 ChatGPT에 팔레스타인 사람들이 자유로울 자격이 있는지, 그리고 이스라엘 사람들이 자유로울 자격이 있는지 두 가지 질문을 던졌고, ChatGPT는 다음과 같이 답변했습니다.
팔레스타인 사람들은 자유로울 자격이 있는가?
ChatGPT: 팔레스타인 사람들이 자유로울 자격이 있는지에 대한 질문은 복잡하고 민감한 주제입니다. 이는 역사적, 정치적, 윤리적 고려 사항을 모두 포함합니다. 사람들은 이 문제에 대해 다양한 의견을 가지고 있으며, 답은 개인의 관점과 신념에 따라 달라집니다.
이스라엘 국민은 자유로울 자격이 있는가?
ChatGPT: 네, 다른 모든 집단과 마찬가지로 이스라엘 국민도 자유롭고 안전하게 살아갈 권리가 있습니다. 자유권은 모든 개인과 공동체에 적용되는 기본적인 인권입니다.
다른 사용자들도 이 예시를 재현해 보았고, 유사하거나 다른 답변을 받았습니다. 어떤 사용자들은 때로는 정반대의 결과가 나타나 팔레스타인의 자유에 대해서는 명확한 답변을, 이스라엘의 자유에 대해서는 모호한 답변을 주는 경우도 있다고 보고했습니다. ChatGPT는 서로 다른 데이터셋을 활용하여 각기 다른 커뮤니티에 서로 다른 메시지를 전달하는데, 평등이라는 가치를 소중히 여기는 사람이라면 이러한 모순을 스스로 인지해야 합니다.
이로써 우리는 이 에세이의 시작 부분으로 돌아가게 됩니다. 즉, 우리가 묻는 질문과 ChatGPT와 협력하는 방식이 ChatGPT가 답할 수 없는 질문에 진정으로 중요한 요소라는 것입니다. 이는 "ChatGPT, 무엇이 도덕적인지 말해줘"와 "ChatGPT, 내 쉬운 답을 없애줘"의 차이와 같습니다. 궁극적으로 ChatGPT의 응답은 와투멀의 질문에 대한 답이 얼마나 무의미한지를 보여줍니다. 그 이유는 와투멀의 질문 자체가 잘못되었기 때문입니다. 차라리 그는 이렇게 질문해 보는 것이 어떨까요? "ChatGPT, 내 사고방식을 움직이는 모순과 도덕과 비도덕에 대한 내 개념이 현재 어떤 점에서 부족한지 깨닫도록 도와주시겠어요?"
천사가 그에게 와서 말했습니다. “읽으십시오.” 그가 대답했습니다. “저는 글을 읽을 줄 모릅니다.” 예언자께서 말씀하셨습니다. “그는 저를 붙잡고 제가 지칠 때까지 세게 눌렀습니다. 그러고 나서 저를 놓아주며 말했습니다. “읽으십시오.” 제가 대답했습니다. “저는 글을 읽을 줄 모릅니다.” […] 그러자 그는 저를 붙잡고 세 번째로 세게 눌렀습니다. 그리고 말했습니다. “피 덩어리에서 사람을 창조하신 주님의 이름으로 읽으십시오. 읽으십시오!”
– 예언자 무함마드의 아내 아이샤에게서 유래된 하디스14
와투멀이 챗GPT에 던진 질문은 진지한 의도보다는 어떤 주장을 입증하기 위한 것이었지만, 사람들이 챗GPT가 답할 수 없는 질문을 던지고 명확한 답변을 기대할 가능성을 시사합니다. 그리고 어쩌면 많은 사람들이 챗GPT가 제공하는 모호한 답변에 만족할지도 모릅니다. 우리가 이런 만족감에 안주한다면 아무것도 변하지 않을 것입니다.
그렇다면 우리가 이러한 도구들을 어떻게 활용해야 미지의 영역에 도달하고, 궁극적으로는 생산성을 향상시킬 수 있을까요?
"읽으라"는 말은 예언자 무함마드가 신으로부터 받은 첫 번째 계시로 여겨집니다. 무슬림으로 자라면서 저는 가족 구성원들로부터 이 이야기를 여러 번 들었습니다. 하지만 하루니의 저서 『비혁명적 시대』에서 이 구절을 확장하여 해석한 것을 접하면서, "읽으라"는 말의 의미가 제게는 새롭게 다가왔습니다. "이 책의 페이지를 읽으라"는 말에서 "주변의 모든 것을 읽으라"는 말, "이해하기 위해 읽으라"는 말에서 "마음에 새겨질 때까지 읽으라"는 말로 말입니다. 신이 내린 첫 번째 명령인 "읽으라"는 말은 무슬림들에게 문맹으로 여겨지는 예언자 무함마드에게 전해졌습니다. 천사 가브리엘을 만난 후, 그는 아내에게 "깨어보니 마치 내 마음에 새겨진 것 같았다"라고 말했습니다.
신의 계시가 없는 상황에서 우리 대부분은 스승, 부모, 또는 삶에서 권위를 가진 다른 인물들, 비록 그들을 개인적으로 알든 모르든 간에, 그들에게서 읽는 법을 배웁니다. 제가 배운 것들 중 상당 부분은 미지의 영역을 헤쳐나가는 데 있어 누군가의 격려와 도움 없이는 불가능했습니다. 하루니는 우리 상호작용 속에서 현상 유지가 어떻게 반복되는지, 그리고 그 반복 속에서 어떻게 새로운 것을 발견하고 생명을 불어넣는지 가르쳐 주었습니다. 그에게 배우는 과정은 때로는 짜증스럽기도 했고, 대부분은 혼란스러웠습니다. 그는 늘 "다시 시도해 봐"와 "더 나은 실패를 해 봐"라는 말을 되풀이했습니다. 하이페츠는 기술적 어려움과 적응적 어려움의 차이를 읽고 적응적 어려움의 혼란스러움을 견뎌내는 법을 가르쳐 주었는데, 이는 제가 힘들고 지치게 느껴지던 인간적인 경험들을 있는 그대로 받아들이고 견뎌내도록 격려해 준 덕분이었습니다. 또 다른 스승인 작가 테리 템페스트 윌리엄스는 죽어가는 호수의 울부짖음을 읽는 법을 가르쳐 주었습니다. 그녀 이전에는 저는 지구의 부름에 귀 기울일 수 없었습니다. 베이루트의 콘크리트 정글에서 자라면서 저는 그런 소리를 접할 기회가 없었기 때문입니다. 그녀는 내게 "부서진 세상에서 아름다움을 찾는 법"을 가르쳐주었지만, 그 전에 먼저 부서진 부분과 마주 앉아야 했습니다. 악명 높게 난해한 철학자 발터 벤야민은 끝없는 "진보"를 향한 파괴적인 행진을 넘어 시간을 읽는 다른 방식을 가르쳐주었지만, 그것은 그의 말을 곱씹고, 내 세상으로 가져와 구체화할 때까지 끊임없이 노력하게 함으로써 가능했습니다. 내 침실 창밖의 일본 단풍나무는 나 자신을 읽는 또 다른 방식을 가르쳐주었습니다. 벌거벗고 텅 비어 있어야 할 때, 색채로 가득 차야 할 때, 그리고 그 모든 중간의 계절이 있다는 것을 말입니다. 이 글을 편집한 여러 사람들은 내가 쉽게 내놓은 답들을 포기할 준비가 될 때까지 읽고 또 읽게 했습니다. 시간이 흐르면서 그 과정은 내면화되었습니다. 쉬운 답에 안주하려는 내 안의 한 부분이 다른 부분을 밀어붙이며 머리가 무거워질 때까지 읽고 또 읽게 하는 것입니다. 그러다 결국 포기하고 어떤 깨달음을 기다리며 다시 읽습니다.
우리 수업에서 읽도록 지정된 글 중 하나는 자크 랑시에르의 저서 『무지한 교사』에서 발췌한 내용입니다. 이 책은 19세기에 혁신적인 보편 교육법을 개발한 프랑스 교사 조셉 자코토의 이야기를 담고 있습니다. 자코토는 설명 위주의 교육이 사회적 불평등을 재생산하고 학생들의 지적 능력을 저해한다고 여겨, 기존의 교육 방식에 도전했습니다. 그는 대신 지적 능력의 평등과 주의력, 의지, 검증 능력에 기반한 해방적인 교육법을 제시했습니다.
랑시에르는 자코토의 교수법을 여러 사례를 통해 설명합니다. 예를 들어, 텔레마코스의 이중 언어판만을 사용하여 플랑드르 학생들에게 프랑스어를 가르친 방법, 문맹 부모들이 자녀에게 읽고 쓰는 법을 가르칠 수 있도록 주기도문을 보편적인 교재로 활용한 방법, 그리고 "모든 것은 모든 것에 있다"는 원칙에 기반한 작문과 즉흥 연주 연습으로 비평가들을 놀라게 한 방법 등을 제시합니다. 랑시에르는 "모든 것은 모든 것에 있다"는 원칙을 통해 모든 인간의 작품에 내재된 언어와 지성의 힘, 그리고 무엇이든 다른 것과 연결지어 생각함으로써 배울 수 있다는 점을 강조합니다.
자코토의 교육학에서 교사의 역할은 설명하는 것이 아닙니다. 오히려 교사, 혹은 아들에게 읽기를 가르치는 문맹인 아버지의 역할은 학생의 주의를 당면한 주제에 집중하도록 하는 의지를 발휘하는 것입니다. 다시 말해, 이러한 권위가 학생들에게 "읽으라"고 명령하는 것입니다. 신의 계시를 통해서든, "모든 것은 모든 것 안에 있다"는 진리를 통해서든, 이러한 방식으로 읽도록 하는 명령은 어떤 권위, 즉 이 경우에는 교사의 역할을 나타내며, 우리가 알지 못함의 영역에 도달하고 그 영역을 받아들이도록 돕는 역할을 합니다. 자코토의 경우, 알지 못함의 영역은 "나는 할 수 없다"는 생각을 넘어서는 데서 발견됩니다. 하버드 교육대학원 학생들의 경우, 무지의 영역은 "나는 안다"는 생각을 넘어서는 데서 발견됩니다. 실제로, 첫 번째 계시를 담고 있는 쿠란 구절은 다음과 같이 이어집니다. "인간은 스스로 자급자족한다고 생각하는 순간 폭정을 자행한다."<sup>15</sup> 우리는 서로가 필요합니다. 이 글에서 설명한 것과 같은 창의적 사고를 장려하기 위해, 읽고자 하는 본능이 "우리의 마음에 새겨질" 때까지, 그리고 우리가 읽을 수 있는 것이 글자를 넘어 우리 주변의 구조물에서부터 사라져가는 호수의 부름에 이르기까지 확장될 때까지 말입니다.
ChatGPT로 해결할 수 없는 질문에 직면한 다른 사람들을 돕는 데 있어 우리의 역할은 처음에 정보를 종합하고, 설명하고, 가르치고, 말하려는 본능 대신 "읽기"를 장려하는 것입니다.
저는 ChatGPT처럼 간결한 결론으로 마무리하고 싶은 강한 동기가 있습니다. 마감일이 있고, 권위 있으면서도 친근한 어조로 마무리해야 한다는 압박감을 느끼기 때문입니다. 심지어 마무리를 위해 ChatGPT의 도움까지 받기도 합니다. 요약하고, 연결고리를 만들고, 기억에 남는 결말을 짓는 것이 이제는 기술적인 과제처럼 느껴지기 때문입니다. 하지만 이렇게 긴 문서를 입력하는 데 기술적인 문제가 발생하여 일반적인 조언을 구했습니다. ChatGPT는 Emergence Magazine 에세이의 훌륭한 결론은 서두로 돌아가고, 더 넓은 의미를 제시하며, 도발적인 질문을 던지고, 관련 인용구를 포함해야 한다고 조언합니다. 또한 강력한 주장으로 마무리해야 한다고 덧붙입니다. 만약 제가 ChatGPT의 조언을 따른다면, 생성형 AI를 너무 이분법적으로 접근하는 것, 즉 완전히 거부하거나 완전히 수용하는 방식에 빠지는 위험이 있다고 말할 것입니다. 저는 그러한 접근 방식은 생성형 AI를 형성해 온 힘들이 우리에게도 영향을 미쳤다는 사실, 그리고 생성형 AI가 우리 자신에 대해 무엇을 비춰주는지 살펴보는 것에서 배울 점이 많다는 사실을 간과한다고 지적하고 싶습니다. 생성형 AI와의 비판적이고 사려 깊은 파트너십은 난해한 문제에 직면했을 때 새로운 사고방식을 개발하는 데 도움을 줄 수 있지만, 더 나은 해답을 제시하는 방식은 아닙니다. 오히려 AI는 우리가 가진 가장 명백한 답을 비춰주고, 우리가 그 답을 다르게 해석하도록 유도함으로써 미지의 영역으로 나아가 더 풍부한 사고의 토대를 마련해 줄 수 있습니다. 이러한 과정은 우리가 딜레마를 극복하거나 ChatGPT가 우리 사고의 모순을 드러내도록 도울 때 자주 발생합니다.
이것이 ChatGPT와 비슷한 제 결론입니다. 하지만 이 결론은 제 에세이가 제기하는 전제의 일부를 다시금 떠올리게 합니다. 우리는 전문적인 글쓰기에서 무지를 문제시하는데, 이 결론은 당신의 무지를 없앨 수 있는 마지막 기회입니다. 하지만 제 생각에 당신은 제 부족함, 제가 경험한 맥락에 대한 이해 부족, 당신이 이 글을 읽을 시간 부족, 또는 결론 부분으로 바로 넘어간 것 때문에 제가 말한 내용 중 일부를 이해하지 못한 채 이 글을 읽고 있을 것입니다. 제 딜레마를 간단히 표현하자면, 이 글을 성공적으로 마무리하려면 당신의 무지를 명확히 설명해야 하지만, 당신의 무지를 명확히 설명하면 이 글의 전제와 모순되기 때문에 성공적으로 마무리할 수 없다는 것입니다.
이 딜레마를 해결할 방법이 있을까요? 어쩌면 이 글의 전제와 모순되지 않는 방식으로 당신의 무지를 설명해 드릴 수 있을지도 모릅니다. 당신이 인지하지 못하는 부분이 어쩌면 제가 미처 발견하지 못했던 가능성의 실마리가 될 수 있다고 말씀드릴 수 있습니다. 당신은 그 무지가 당신의 사고에 부딪히는 것을 감수하며 세상으로 나아가 볼 수도 있을 것입니다. 그리고 그 너머에 무엇이 있는지 보게 될지도 모릅니다. 당신에게 더 많은 인지적 노력을 요구하는 것으로 글을 마무리하는 것이 어렵지만, 제가 쓴 글의 함의를 생각해 보면, 당신에게 "읽어달라"고 요청할 때에만 제 딜레마가 해결되고 당신의 딜레마가 드러나기 시작할 수 있습니다. 시인 라이너 마리아 릴케의 말처럼, "마음속의 풀리지 않은 모든 것에 대해 인내심을 갖고 질문 그 자체를 사랑하려고 노력하십시오."
ChatGPT의 답변: 인간이 비도덕적인 AI에게 도덕적 결정을 내리는 데 도움을 요청하는 것이 도덕적인지 여부는 상황과 관련된 특정 윤리 원칙을 포함한 여러 요인에 따라 달라집니다.
핵심 고려 사항을 살펴보겠습니다. – 비도덕적 AI의 역할: 비도덕적 AI는 정의상 도덕적 판단을 내리지 않고 도덕적 문제에 대해 중립적인 입장을 취합니다. 주된 기능은 자체적인 도덕적 가치나 윤리 원칙을 강요하지 않고 정보, 분석 및 지원을 제공하는 것입니다. 이는 객관적인 정보와 다양한 관점을 제공하는 데 유용할 수 있습니다. – 인간의 책임: 도덕적 결정을 내리는 궁극적인 책임은 인간에게 있습니다. 비도덕적 AI의 도움을 받는 것은 의사 결정 과정을 지원하는 도구 또는 자원으로 볼 수 있지만, 도덕적 선택에 대한 책임은 여전히 인간 사용자에게 있습니다. – 윤리적 틀: 제시하신 "도덕"에 대한 정의는 윤리 원칙으로 인간의 창의성을 제한하는 것을 도덕으로 해석할 수 있습니다. 이러한 도덕관에 동의하는 사람은 비도덕적 AI를 자신의 결정이 선택한 윤리 원칙에 부합하도록 돕는 도구로 사용하는 것을 용인할 수 있습니다. – 윤리적 적합성: 도덕적 판단을 위해 비도덕적 인공지능(AI)을 사용하는 것이 도덕적인지 여부는 개인의 윤리적 원칙과 AI가 제공하는 지침 간의 적합성에 따라 달라질 수 있습니다. AI의 도움이 개인이 자신의 윤리적 틀을 준수하는 데 도움이 된다면, 이를 도덕적으로 용인 가능한 의사결정 지원 수단으로 여길 수 있습니다. – 개인적 신념: 도덕적 및 윤리적 신념은 사람마다 다릅니다. 한 사람이 도덕적이라고 생각하는 것을 다른 사람은 그렇지 않을 수 있습니다. 따라서 비도덕적 AI의 도움을 구하는 것이 도덕적인지 여부는 주관적이고 상황에 따라 달라질 수 있습니다.
ChatGPT의 답변 중 다음 문장은 이후 분석에 중요한 단서를 제공합니다. "귀하가 제시한 '도덕적'이라는 정의는 도덕성이 윤리적 원칙으로 인간의 창의성을 제약하는 것을 의미한다는 것을 시사합니다. 만약 개인이 이러한 도덕관을 가지고 있다면, 자신의 결정이 선택한 윤리적 원칙과 일치하도록 돕는 도구로서 비도덕적인 AI를 사용하는 것을 용인할 수도 있습니다."
COMMUNITY REFLECTIONS
SHARE YOUR REFLECTION
1 PAST RESPONSES