[이전 글] 당신의 두뇌를 겨냥한 슈퍼컴퓨터: 마음챙김, 기계, 그리고 측정 지표

당신이 사용하는 모든 플랫폼은 똑같은 주장을 펼칩니다. 클릭했으니 원했던 것이라는 거죠. 란디마 페르난도는 이것이 바로 관심 경제가 스스로에게 하는 가장 큰 거짓말이라고 생각합니다. 마치 고속도로에서 교통사고를 목격한 운전자가 그것을 욕망으로 착각하는 반사적인 반응과 같습니다. 하루 종일 교통사고 관련 콘텐츠를 쏟아내는 피드를 만들면 클릭 수는 늘어나겠지만, 사람들이 진정으로 원했던 것은 얻지 못할 겁니다.

란디마 페르난도는 불교 신자인 부모님 밑에서 자랐고, 7년 동안 학교에 마음챙김 교육을 확산시키는 비영리 단체를 설립했으며, 이후 8년 동안 실리콘 밸리에서 인간 중심 디자인에 대한 자문을 제공해 왔습니다. 그런 그가 토마스 휘블에게 명상만으로는 당신을 구할 수 없다고 단호하게 말하는 것은 다소 의아하게 들릴 수 있습니다. 마음챙김이 효과가 없어서가 아니라, 그의 말에 따르면 화면 너머의 것은 당신의 뇌를 겨냥한 슈퍼컴퓨터와 같으며, 아무리 많은 훈련도 당신 자신보다 당신에 대한 더 많은 데이터를 가진 상대를 확실하게 이길 수는 없기 때문입니다. 하지만 그의 이야기는 여기서 끝나지 않습니다. 그의 실제 답변은 두 가지 방향으로 동시에 진행됩니다. 하나는 개인이 자신의 삶 안에서 할 수 있는 일에 대한 것이고, 다른 하나는 시스템 자체에서 바뀌어야 할 부분에 대한 것입니다.

파트 1

기본 생명 단위의 화폐화

란디마는 "주의력은 마음이 작동하는 근본적인 단위"라고 말합니다. 그리고 그 단위가 분할 가능하고 판매 가능하다는 사실이 밝혀지면서 거대한 산업이 생겨났습니다. 무료 제품들은 그 주의력을 조각내어 광고주에게 되팔기 위해 존재합니다. 즉, 플랫폼은 사용자가 실제로 하려고 했던 일에 최적화되어 있지 않고, 다른 곳으로 넘기기 전에 얼마나 오랫동안 사용자를 붙잡아 둘 수 있는지에 최적화되어 있다는 뜻입니다.

단 하나의 불일치가 연쇄적으로 파급됩니다. 틱톡이 짧은 동영상으로 더 빠르게 관심을 사로잡는 방법을 발견했을 때, 모든 경쟁업체는 그의 말대로 "회의실과 전략 회의로 돌아가" 틱톡을 모방하거나 도태될 위기에 처했습니다. 이는 관심을 가장 빨리 끄는 것이 보상을 받는 경쟁이며, 상대방이 어떤 대가를 치르는지는 고려하지 않습니다. 언론은 알고리즘에서 살아남기 위해 "클릭 유도성, 과장, 분열 조장"으로 치우칩니다. 정치 캠페인은 A/B 테스트를 통해 가장 큰 분노를 불러일으키는 헤드라인이 효과적이라는 것을 경험적으로 학습하고, 그런 헤드라인을 더 많이 사용합니다. "좋아요" 버튼은 플랫폼이 사용자에게 어떤 콘텐츠를 더 많이 보여줘야 하는지 조용히 학습시키고, 피드는 해마다 이미 공감을 얻은 콘텐츠의 극단적인 버전으로 좁아집니다. 그가 제안하는 실험은 소름 끼칠 정도로 간단합니다. 자신과 다른 투표 성향을 가진 친구와 피드를 교환하는 것입니다. 그러면 "매우 다른 콘텐츠와 매우 다른 현실"을 보게 될 것이라고 그는 말합니다. 아이들은 '좋아요'와 '공유'라는 근본적인 '사회적 물리 법칙'을 중력을 배우는 방식처럼, 즉 일찍부터 감각을 통해, 가르침이 아닌 감각으로 익힙니다. 란디마는 이러한 추출 논리를 지구 끝까지 확장하여 설명합니다. '수십억 대의 에어컨, 수십억 대의 자동차, 수십억 마리의 가축'을 기반으로 한 성장은 관심 추출과 같은 방식으로 작용하며, 결국 근본적인 시스템, 즉 인간의 마음이나 대기가 흡수할 수 있는 한계를 넘어서게 된다는 것입니다.

2부

반사 작용이지 욕망이 아니다

토마스는 이러한 패턴에 자신만의 관점을 제시합니다. 그는 신경계가 안정되면 기술과의 관계에서 더욱 미묘한 차이를 인지할 수 있고, 진정한 선택을 할 수 있다고 주장합니다. 반면, 신경계가 불안정해지거나, 트라우마로 인해 과활성화, 무감각, 분열 상태에 빠지면 선택의 폭이 좁아진다고 지적합니다. 그는 란디마에게 직접적으로 묻습니다. 과연 주의력 경제는 이러한 내적 불안정을 의도적으로 이용하고 있는 것일까?

란디마는 중독을 깊이의 문제, 즉 그의 표현대로 "잭"이 뇌 깊숙이 침투하는 문제로 설명합니다. 이러한 기술들은 생존과 번식을 보상하기 위해 진화해 온 도파민 반응을 유발하도록 학습되었으며, 그 반응은 아무런 목적 없이, 단지 알림, 스크롤, 섬광과 같은 사소한 자극에만 집중됩니다. 그가 가장 명확하게 보여주는 사례는 아이들입니다. 아이들에게 문제가 있어서가 아니라, 아이들의 도파민 시스템이 아직 세상에 적응하는 과정에 있기 때문입니다. 두 살배기 아이 앞에 화면을 놓으면 아이의 눈은 무의식적으로 화면을 따라갑니다. 화면 밝기가 방 안의 다른 모든 것보다 훨씬 밝게 설계되었기 때문입니다. 그는 이를 "초정상 자극"이라고 부르는데, 인체가 진화적으로 예상하도록 설계된 수준을 훨씬 뛰어넘는 자극입니다. 아이의 도파민 수용체가 이러한 수준의 자극에 적응하게 되면, 평범한 일상은 무미건조하게 느껴지고, 기기를 빼앗으면 실제적이고 과도한 고통을 느끼게 됩니다.

그는 기술에 대한 대부분의 대화에서 간과되는 중요한 차이점을 강조합니다. 사람들이 클릭하는 것과 그들이 진정으로 원하는 것은 다르다는 것입니다. 기업들은 "사람들이 클릭했으니, 그것이 그들이 원하는 것"이라고 말하지만, 란디마는 이는 반사적인 행동과 의도를 혼동하는 것이라고 주장합니다.

그는 모든 사람들이 고속도로에서 발생하는 교통사고를 쳐다본다고 말합니다. 위험에 대한 주의는 생존 메커니즘이기 때문이지, 누구도 교통사고로 가득 찬 세상을 원해서가 아니라는 것입니다. 그의 결론은 도덕적인 훈계가 아니라 구조적인 관점입니다. 당신의 관심을 통해 생존하는 기업은 진정으로 당신에게 도움이 되는 제품을 만드는 것과 이해 상충 관계에 놓이게 됩니다 . 진정으로 유용한 제품이라면 당신에게 필요한 것을 제공하고 떠나도록 할 텐데, 이는 기업의 실적 지표를 높이는 것과는 정반대이기 때문입니다.

제3부

추출의 한계와 시스템 전환

시스템이 실제로 어떻게 변화하는지 묻는 질문에 란디마는 질문을 명확하게 두 가지로 나눕니다. 현재 경제 체제 내에서 무엇이 가능한지, 그리고 그 경제 체제가 과연 지속 가능한지 여부입니다. 그는 현재 경제 체제 내에서는 모든 것이 결국 가격으로 귀결되기 때문에 효과적인 개입은 궁극적으로 기업의 수익에 영향을 미치는 것이라고 말합니다. <소셜 딜레마> 와 같은 다큐멘터리는 대중의 인식을 높이고, 이러한 인식은 새로운 법률 제정을 위한 정치적 압력으로 이어지며, 법률은 소송을 가능하게 하고, 소송은 마침내 그동안 아무런 제재 없이 자행되었던 피해에 금전적 가치를 부여합니다. 내부 고발자도 같은 이유로 중요합니다. 유출된 내부 문서는 기업이 알고 있었다는 증거가 되며, 이는 인식을 책임으로 전환시키는 역할을 합니다. 하지만 항상 문제는 속도입니다. 기술은 이러한 시정 메커니즘이 따라잡을 수 없을 정도로 빠르게 발전합니다.

시야를 더 넓혀보면, 란디마는 석유에 적용하는 것과 동일한 법칙을 마음에도 적용한다.

수백만 년에 걸쳐 석유가 다시 생성되는 속도보다 더 빠르게 땅에서 석유를 뽑아내는 것은 문제입니다. 마찬가지로, 휴식과 성찰을 통해 회복할 수 있는 속도보다 더 빠르게 주의력, 집중력, 그리고 상황 판단 능력을 깎아내린다면, 같은 논리로 그것 또한 문제입니다. 지속적인 주의력과 같은 어렵게 얻은 능력은 진정한 훈련을 통해 길러야 하지만, 쉽게 무너지지는 않습니다. 그는 일주일에 한 번 하는 명상으로는 하루 8시간 이상 주의력을 빼앗도록 설계된 스마트폰을 이길 수 없다고 지적합니다. 마음이 더 유연한 아이들은 이러한 변화를 가장 빨리 느낍니다.

그는 불평등이라는 주제를 진단과도 같은 한 줄로 연결합니다. 자본주의는 "자본에 매우 민감하다"는 것입니다 . 의학, 식품, 기술 분야에서 실질적인 발전을 가져온 것은 자본이지만, 적극적으로 견제하는 조치가 없다면 부의 집중을 확실하게 초래하는 요인이기도 합니다. 그는 강력한 인공지능의 등장을 새로운 문제가 아니라 더 빠른 속도로 진행되는 오래된 문제로 보고 있으며, 어쩌면 이러한 압력이 결국 인센티브 구조의 변화를 강제할 수도 있다고 생각합니다.

제4부

AI: 추출 문제, 이제 더 빨라졌습니다

란디마가 인공지능을 바라보는 관점은 놀라울 정도로 단순합니다. 기술은 언제나 인류의 가장 강력한 발전 동력이었으며, 현세대 인공지능은 그 동력을 가장 강력하게 증폭시키는 도구라는 것입니다. 하드웨어, 알고리즘, 데이터, 컴퓨팅 능력 등 모든 분야에서 동시에 발전이 이루어지며, 그 속도는 무어의 법칙보다 훨씬 빠릅니다. 하지만 그는 아이러니한 점을 간과하고 있습니다. 엔비디아에서 7년간 화면에 그림을 그리는, 즉 "픽셀을 밝히는" 그래픽 하드웨어를 개발하는 데 몰두했던 그가, 거의 우연히도 지금 그가 경고하고 있는 바로 그 발전 가속화의 원동력이 되었다는 사실입니다.

하지만 가속기는 방향을 바꾸지 않습니다. 시스템이 이미 향하고 있는 방향을 증폭시킬 뿐입니다. 주로 자원 추출에 기반한 경제에 작용하는 AI는 추출 방향을 바꾸는 것이 아니라 오히려 "과속"시킵니다. 그는 가장 유사한 효과를 꼽으며, 소프트웨어 자동화가 로봇 자동화보다 쉽기 때문에 육체노동보다 인지 노동 자동화가 먼저 이루어질 것이라고 주장합니다. 이러한 기업의 논리는 악의적이라기보다는 오히려 평범합니다. 기계는 병가, 휴가, 의료보험이 필요 없으므로 기업은 비용을 절감할 수 있는 곳이라면 어디든 간소화를 통해 비용을 줄일 것입니다. 이는 낙수효과 이론이 실제로 아무것도 분배하지 못하게 만든 구조적 중력과 같은 맥락입니다.

그는 이 이야기가 단 하나의 결말만 있는 이야기가 되지 않도록 주의를 기울입니다. 의학, 기후 변화 해결책, 새로운 에너지원 등 AI의 긍정적인 측면은 분명하며, 결코 무시해서는 안 된다고 그는 말합니다. 다만 그가 강조하는 것은 순서입니다. 사회가 합리적인 판단과 현명한 집단적 선택을 통해 이러한 혜택을 실제로 누리기 위해서는 먼저 그 관문을 통과해야 하며 , 만약 근본적인 시스템, 즉 양극화, 불평등, 이미 분열된 공유된 현실이 먼저 무너진다면, 긍정적인 결과는 결코 나타나지 않을 것이라는 점입니다.

그의 설명에 따르면, 이러한 두 번째 접촉을 더욱 위험하게 만드는 것은 바로 확산 방식입니다. 이 기술은 소셜 미디어 플랫폼처럼 중앙 집중화되어 있지 않기 때문에, 소수의 대기업조차 제대로 규제하지 못했던 규제 도구들이 이제는 모든 사람의 휴대전화에서 실행되는 무언가에 맞서 싸워야 한다는 것입니다. 즉, 이제 누구든 마음대로 그럴듯한 가짜 동영상이나 가짜 연구 논문을 만들어낼 수 있다는 것입니다.

제5부

싸움에 휘말리지 않음으로써 승리하라

마지막으로 란디마는 두 가지 분명한 행동 방침을 제시합니다. 순차적이지도 않고, 양자택일의 문제도 아니지만, 각각 충분히 중요한 의미를 지닙니다. 하나는 시스템을 겨냥한 것이고, 다른 하나는 자기 자신을 겨냥한 것입니다.

인센티브 구조를 바꿔라

어떤 시스템, 회사, 또는 개인이 실제로 무엇을 최적화하는지 이해하려면, 표면적인 말보다는 인센티브 구조를 살펴보아야 합니다. 인센티브는 말이나 광고 캠페인보다 행동에 대해 훨씬 더 많은 것을 드러냅니다 . 이는 앞서 3부에서 다룬 가격 메커니즘, 법률 제정, 소송, 그리고 내부 고발자가 조용한 인식을 실제 책임으로 전환시키는 것과 같은 근본적인 논리입니다. 회사가 어떤 행동에 대해 보상을 받는지 바꾸는 것은 습관을 바꾸는 것보다 시간이 더 걸리지만, 이는 시스템 자체에 영향을 미치는 지렛대이며, 특정 개인과의 관계에만 국한되지 않습니다.

포기

이 모든 것에 앞서 가장 중요한 것은 바로 개인적인 변화입니다. 신뢰하는 사람이나 선생님과 함께, 현명한 삶과 진정한 번영이 자신에게 무엇을 의미하는지 진심으로, 가능하면 큰 소리로 명확히 생각해 보세요. 그리고 넷플릭스나 소셜 미디어의 알고리즘 추천이 아닌, 그 명확한 생각을 바탕으로 삶의 방향을 정하세요.

토마스는 대화를 다시 마음챙김으로 직접적으로 돌립니다. 마음챙김은 여기서 실제로 어떤 역할을 할까요? 란디마의 대답은 두 부분으로 나뉘는데, 바로 이 부분에서 이 글 서두의 주장이 온전히 드러납니다. 첫 번째 부분은 관대합니다. 마음챙김은 생각, 감정, 신체 감각에 대한 진정한 자각을 키워주며, 이는 선택을 하기 전에, 즉 선택 후에 알아차릴 수 있는 내면의 여유를 만들어줍니다. 능숙한 삶이 어떤 모습인지에 대한 명확한 이해와 결합될 때, 이러한 멈춤은 더 나은 선택을 할 수 있게 해주는 순간입니다.

두 번째 부분은 더 어려운 부분인데, 그가 서두에서 언급했던 바로 그 내용입니다. 아무리 고도의 마음 챙김 훈련이라도, 인간의 근본적인 인지 편향을 끊임없이 분석하는 회사가 만든 시스템, 즉 그가 표현한 대로 뇌를 겨냥한 슈퍼컴퓨터 안에 있다면 큰 도움이 되지 않을 것이라는 겁니다 . 그의 마지막 조언은 알고리즘을 능가하는 훈련을 하라는 것이 아닙니다. 오히려 더 열심히 노력해서 이기려는 싸움이 아니라, 이미 미숙하다고 판명된 것에서 의도적으로 벗어나는, 일종의 포기를 의미합니다.

승리하지 못하는 것. 아예 싸우지 않기로 하고, 마음챙김이 주는 명료함을 활용하여 어디에 서지 말아야 할지를 더욱 분명하게 보는 것.

어느 쪽도 다른 쪽을 대체할 수 없습니다. 유인책을 바꾸는 것은 시스템이 보상하는 대상을 바꾸는 것이고, 포기하는 것은 시스템이 현재 모습 그대로일 때 그 시스템과의 관계를 바꾸는 것입니다. 란디마는 수년 동안 이 두 가지를 동시에 해왔습니다.

↑ 맨 위로 돌아가기