Суперкомпьютер, направленный на ваш мозг: осознанность, машины и показатели

Любая используемая вами платформа указывает на один и тот же аргумент: вы кликнули, значит, вы этого хотели. Рандима Фернандо считает, что это самая большая ложь, которую экономика внимания рассказывает сама о себе — тот же рефлекс, который заставляет водителя обратить внимание на автомобильную аварию на шоссе, ошибочно принимая его за желание. Создайте ленту, которая будет постоянно рекламировать автомобильные аварии, и вы получите клики. Но вы не получите ничего, чего кто-либо действительно хотел.

Рандима Фернандо вырос в буддийской семье, семь лет посвятил созданию некоммерческой организации, которая внедряла практику осознанности в школы, и еще восемь лет консультировал Кремниевую долину по вопросам гуманного дизайна. Поэтому странно слышать от него прямое заявление Томасу Хюблу о том, что одной медитации недостаточно для спасения. Не потому, что осознанность не работает — потому что то, что находится по другую сторону вашего экрана, по его словам, — это суперкомпьютер, направленный на ваш мозг, и никакая дисциплина не может надежно победить противника, у которого о вас больше данных, чем у вас самих. Однако на этом он не останавливается: его ответ идет сразу по двум направлениям: одно направлено на то, что человек может сделать в своей собственной жизни, а другое — на то, что должно измениться в самой системе.

В этом резюме

Часть первая

Монетизация основных жизненных единиц

«Внимание, — говорит Рандима, — это фундаментальная единица, в рамках которой работает разум», — и целая индустрия существует потому, что эта единица оказалась делимой и продаваемой. Бесплатные продукты существуют для того, чтобы собирать эти кусочки, а затем перепродавать их рекламодателям, а это значит, что платформа оптимизирована не для того, для чего вы на самом деле пришли. Она оптимизирована для того, как долго она может вас удерживать, прежде чем передать вас кому-то другому.

Это единственное несоответствие распространяется наружу. Когда TikTok нашел более быстрый способ привлечь внимание с помощью коротких видеороликов, каждый конкурент, по его словам, был отправлен «обратно в залы заседаний и на стратегические совещания», чтобы скопировать его или потерять позиции — гонка, в которой вознаграждается все, что быстрее всего привлекает внимание, без механизма, позволяющего узнать, чего это стоит человеку на другом конце. Журналистика смещается в сторону «кликбейта, гиперболы, разжигания розни», потому что именно это выживает в алгоритме. Политические кампании проводят A/B-тесты и эмпирически выясняют, что побеждает заголовок, вызывающий наибольшее возмущение, — поэтому они публикуют их больше. Кнопка «лайк» незаметно учит платформу, что показывать вам чаще, и лента с каждым годом сужается, превращаясь во все более экстремальную версию того, что уже вызвало отклик. Предложенный им эксперимент почти пугающе прост: обменяйтесь лентами с другом, который голосует иначе, чем вы. Вы увидите, говорит он, «совершенно другой контент и совершенно другую реальность». Дети усваивают лежащие в основе «социальную физику» лайков и репостов так же, как они учатся гравитации — рано и интуитивно, а не по инструкции. Рандима выводит ту же логику извлечения на край планеты: рост, основанный на «миллиардах кондиционеров, миллиардах автомобилей, миллиардах голов скота», ведет себя так же, как и извлечение внимания — в конечном итоге и то, и другое превосходит возможности базовой системы, разума или атмосферы.

Часть вторая

Рефлекс, а не желание

Томас предлагает свой собственный взгляд на эту проблему: по его мнению, регулируемая нервная система обеспечивает более тонкое взаимодействие с технологиями — большую способность замечать неполадки, больший реальный выбор. Нерегулируемая же нервная система, травма, приводящая к гиперактивности, оцепенению или фрагментации, сужает это поле еще до того, как человек успевает сделать выбор. Он напрямую спрашивает Рандиму: учится ли экономика внимания целенаправленно использовать эту внутреннюю дисрегуляцию?

Ответ Рандимы сводится к глубине зависимости — к тому, насколько глубоко, по его словам, «джойстик» проникает в мозг. Эти технологии научились запускать дофаминовые реакции, которые эволюционировали для вознаграждения выживания и размножения, и направлять их в никуда: на уведомление, прокрутку, вспышку света. Самый наглядный пример для него — дети, не потому что с ними что-то не так, а потому что их дофаминовые системы все еще калибруются под окружающий мир. Поставьте экран перед двухлетним ребенком, и его глаза непроизвольно будут следить за ним, потому что яркость была настроена так, чтобы превосходить все остальное в комнате — то, что он называет «гипернормальным стимулом», выходящим за рамки всего, к чему эволюционно привык организм. Как только дофаминовые рецепторы ребенка калибруются на такой уровень воздействия, обычная жизнь кажется скучной, и отнятие устройства может вызвать реальное, непропорциональное беспокойство.

Он осторожно подходит к разграничению, которое в большинстве дискуссий о технологиях обходят стороной: то, на что люди нажимают, не то же самое, что они хотят. «Люди нажали, значит, они этого хотят», — говорят компании, но, как утверждает Рандима, это путает рефлекс с намерением.

Все смотрят на автомобильную аварию на шоссе, говорит он, потому что внимание к опасности — это механизм выживания, а не потому, что кто-то действительно хочет, чтобы мир был полон автомобильных аварий. Его заключение носит структурный характер, а не морализаторский характер: бизнес, который выживает за счет вашего внимания, имеет встроенный конфликт интересов с реальным обслуживанием вас , потому что действительно полезный продукт дал бы вам то, что вам нужно, и позволил бы вам уйти — а это противоположно тому, что поддерживает высокие показатели.

Часть третья

Пределы добычи и сдвига системы

На вопрос о том, как на самом деле меняется система, Рандима четко разделяет вопрос на две части: что возможно в рамках нынешней экономики и является ли эта экономика вообще устойчивой. Внутри нее, говорит он, все в конечном итоге определяется ценой — поэтому эффективны те меры, которые в конечном итоге затрагивают прибыль компании . Документальный фильм, подобный «Социальной дилемме» , повышает осведомленность общественности; осведомленность становится политическим давлением для принятия новых законов; законы позволяют вести судебные разбирательства; судебные разбирательства, наконец, присваивают денежную сумму ущербу, который раньше можно было причинить безнаказанно. Информаторы важны по той же причине — утечка внутреннего документа является доказательством того, что компания знала, и именно это превращает осведомленность в ответственность. Препятствием всегда является скорость: технологии развиваются быстрее, чем любой из этих механизмов исправления может их отследить.

Если посмотреть на ситуацию шире, Рандима применяет к разуму тот же закон, что и к нефти.

Если добывать нефть из земли быстрее, чем миллионы лет смогут её восполнить, это уже проблема. Если же внимание, концентрация и способность к осмыслению информации разрушаются быстрее, чем отдых и размышление могут их восстановить, то — по той же логике — это тоже проблема. Такие с трудом приобретенные способности, как устойчивое внимание, требуют настоящей дисциплины для развития и практически не подвержены разрушению; еженедельная практика медитации, отмечает он, не сравнится с телефоном, созданным для того, чтобы конкурировать за внимание восемь часов в день или больше. Дети, чей ум более податлив, ощущают это быстрее всего.

Он связывает эту нить с неравенством, используя фразу, которая одновременно является и диагнозом: капитализм «очень чувствителен к капиталу» — он действительно ответственен за реальные достижения в медицине, пищевой промышленности и технологиях, и столь же надежно концентрирует богатство, если ему активно не противодействует что-либо. Он рассматривает появление мощного ИИ не столько как новую проблему, сколько как старую, но ускоренную, — и, возможно, как давление, которое, наконец, заставит изменить структуру стимулов.

Часть четвёртая

Искусственный интеллект: проблема извлечения информации, теперь быстрее.

Концепция искусственного интеллекта, предложенная Рандимой, кажется обманчиво простой: технологии всегда были величайшим ускорителем человечества, и это поколение ИИ — самая мощная версия этого ускорителя на сегодняшний день, одновременно накапливающая прирост производительности на всех уровнях: аппаратном, алгоритмическом, информационном и вычислительном, быстрее, чем когда-либо действовал закон Мура. Однако он не акцентирует внимание на иронии: то самое графическое оборудование, которое он семь лет разрабатывал в Nvidia для создания изображений на экране, «подсвечивая пиксели», почти случайно стало двигателем того самого ускорения, о котором он сейчас предупреждает.

Но акселератор не меняет направление. Он усиливает то направление, в котором система уже направлена. Направленный на преимущественно добывающую экономику, ИИ не перенаправляет добычу — он «перегружает её». Ближайший эффект, по его мнению, — это автоматизация когнитивной работы до физического труда, по той простой причине, что программное обеспечение автоматизировать проще, чем робототехнику. Бизнес-логика не столько зловещая, сколько обыденная: машинам не нужны больничные, отпуска или медицинское страхование, поэтому везде, где компания может сократить расходы за счет упрощения, она это сделает — та же структурная сила притяжения, которая привела к тому, что теория «просачивания благ сверху вниз» не смогла фактически ничего распределить.

Он старается не превращать эту историю в историю с единственным концом. По его словам, потенциал ИИ — в медицине, в решении климатических проблем, в новых источниках энергии — реален и его не следует игнорировать. Его оговорка касается последовательности: общество должно пройти через этап осмысления ситуации и принятия мудрых коллективных решений, прежде чем эти преимущества действительно станут ощутимыми, и если сначала рухнут лежащие в основе системы — поляризация, неравенство, уже разрушенная общая реальность — то положительные результаты так и не будут достигнуты.

По его словам, этот второй контакт становится еще более опасным из-за распространения: эта технология не централизована, как это было с платформами социальных сетей, а это значит, что регулирующие органы, которые с трудом справлялись даже с несколькими крупными компаниями, теперь сталкиваются с чем-то, работающим на телефоне каждого — любой может по своему желанию создать убедительное поддельное видео или поддельную научную статью.

Часть пятая

Победа достигается без участия в борьбе.

В заключение Рандима предлагает два различных подхода — не последовательных, не либо один, либо другой, но достаточно разных, чтобы каждый заслуживал отдельного внимания. Один направлен на систему. Другой — на самого себя.

Измените систему стимулов.

Чтобы понять, к чему на самом деле стремится любая система, компания или человек, читайте структуру стимулов, а не сами слова: стимулы раскрывают гораздо больше о поведении, чем слова или рекламные кампании. Это та же самая логика, что и в третьей части — ценовые механизмы, законодательство, судебные разбирательства, осведомители, превращающие скрытое осознание в реальную ответственность. Изменение того, за что компания получает вознаграждение, происходит медленнее, чем изменение привычки, но это рычаг, который воздействует на саму систему, а не только на отношения одного человека с ней.

Отказ

Личные перемены начинаются прежде всего остального: нужно по-настоящему, в идеале вслух, обсудить с людьми и учителями, которым вы доверяете, что для вас на самом деле означают мудрая жизнь и настоящее процветание — и пусть эта ясность, а не алгоритмические меню Netflix или социальных сетей, определит направление вашего внимания.

Томас возвращает разговор непосредственно к осознанности: какую роль она здесь играет? Ответ Рандимы состоит из двух частей, и именно здесь утверждение из начала этой статьи получает полное объяснение. Первая часть довольно щедра: осознанность развивает подлинное понимание — мыслей, эмоций, телесных ощущений — что создает внутреннее пространство для того, чтобы заметить выбор до того, как он будет сделан, а не после. В сочетании с предварительным пониманием того, как выглядит грамотная жизнь, именно в этой паузе и принимаются лучшие решения.

Вторая часть сложнее, и с неё он начал так же: даже продвинутая тренировка осознанности мало чем поможет, если вы находитесь внутри системы, созданной компанией, которая постоянно анализирует фундаментальные когнитивные искажения человека — суперкомпьютер, направленный на мозг, как он выражается. Его заключительный совет не в том, чтобы превзойти алгоритм в дисциплинированности. Это своего рода отречение, сознательное отделение от того, что уже было определено как неэффективное, а не битва, которую нужно выиграть, прилагая больше усилий.

Не побеждаю. Полностью отказываюсь от борьбы — и использую ясность, которую даёт осознанность, чтобы яснее увидеть, где не следует стоять.

Ни один из этих шагов не заменяет другой. Изменение стимулов меняет то, что система вознаграждает; отказ меняет ваши собственные отношения с этой системой, пока она еще существует. Рандима уже много лет занимается и тем, и другим одновременно.

↑ Вернуться наверх