Укрепит или разрушит ИИ отношения между людьми?

В условиях накладывающихся друг на друга кризисов психического здоровья среди молодёжи и растущей эпидемии одиночества технологи, инвесторы и разработчики продуктов спешат создать генеративные продукты ИИ, чтобы заполнить пробел в человеческих связях. У нас уже есть чат-боты-терапевты, подруги и репетиторы, и темпы новых разработок поразительны. ИИ становится всё более похожим на человека (вспомним неизбежный улучшенный голосовой режим GPT-4o) и во многих случаях превосходит человеческие возможности . Сегодняшние молодые люди могут всё меньше и меньше различать отношения в «реальной жизни» (друг, заведённый на игровой площадке), цифровые отношения (друг, заведённый по игре в Fortnite) и отношения с ботами (друг, не являющийся человеком).

В личной и профессиональной жизни я вижу, что чат-боты могут раскрыть потенциал человека: я использовала Playlab.ai, чтобы раскрыть потенциал молодёжи, будучи руководителем Лаборатории переосмысления в Teach For America, и даже экспериментировала с ботом-бойфрендом Replika (с одобрения моего мужа и с общего интереса к этому технологическому прогрессу). Вскоре эти боты смогут управлять аватарами в смешанной реальности; они будут выглядеть более реалистично в играх и других играх, которые мы знаем и любим, будут вплетены в социальные сети и продолжат стирать границы реальности.

Но когда ставки на благополучие молодежи и общую социальную сплоченность так высоки, крайне важно отдать приоритет просоциальному ИИ и отношениям с чат-ботами, которые усиливают, а не подрывают нашу способность к человеческим связям.

Исследования развития человека и нейронаука учат нас, что люди начинают настраиваться на потребности, голос, прикосновения и язык тела других людей уже в младенчестве. Этот процесс, известный как социальная настройка, играет решающую роль в содействии здоровому социальному развитию, включая формирование эмпатии, эффективных навыков общения и крепких межличностных отношений. Будучи социальными и телесными существами, мы учимся, растем, регулируем, исцеляемся и празднуем в сообществе. Мы развиваемся как общество, когда чувствуем вдохновение и ответственность за благополучие других. Даже несмотря на то, что наше определение человеческих отношений эволюционирует, чтобы учитывать значимые возможности цифрового общения с другими людьми, следующее поколение может чувствовать себя менее связанным с собой, друг с другом и качествами, которые делают нас по-настоящему людьми, если отношения с ботами заменят или затмят человеческие.

К счастью, будущее ещё не наступило, и мы всё ещё можем сформировать его таким образом, чтобы оно развивало в молодёжи способность к человеческим связям. Несколько месяцев я встречался с ведущими педагогами, технологами, молодёжными активистами, специалистами в области психического здоровья, инвесторами, исследователями и организаторами сообществ, чтобы изучить возможные варианты будущего с использованием чат-ботов. Повод для оптимизма — наша способность представить идеальные отношения с ИИ и помочь молодёжи сориентироваться в этой новой волне ботов. Если мы это сделаем, мы сможем защитить и более полно реализовать свою человечность.

Оценка просоциальных качеств чат-ботов

Ответственные разработчики технологий и инвесторы уже учитывают критерии безопасности, защиты данных, конфиденциальности, предвзятости и равного доступа. Нам необходимо начать измерять и определять просоциальные возможности ИИ в качестве критериев для инвестиций и развития.

Я создал ресурс, позволяющий проактивно представить, как молодые люди могут относиться к чат-ботам и использовать их, учитывая их влияние на человеческие связи. Представленная ниже схема отображает четыре возможных сценария будущего, каждый из которых представляет собой наиболее распространённый опыт использования чат-ботов молодыми людьми.

Ось X отображает преобладающее взаимодействие молодых людей с чат-ботами.

Справа от оси X находятся ИНСТРУМЕНТЫ. Эти чат-боты помогают пользователям выполнить определенную задачу или набор задач, и хотя они могут быть по своей природе разговорными (как ChatGPT4), они не предназначены явно для воспроизведения эмоциональных отношений. Пользователи получают от инструмента некую услугу, которую они затем могут применить обратно в человеческом мире. Здесь акцент делается на полезности: помочь человеку, использующему инструмент, достичь желаемого результата таким образом, чтобы сохранить человеческую активность и знание процесса. Инструменты, такие как Pi, являются реляционными, но они не притворяются людьми. Как и предполагаемые будущие итерации Google Assistant или Siri, они сосредоточены на помощи людям в выполнении задач (вскоре включающих личные задачи, такие как жизненные советы и планирование), а не служат в качестве компаньона.

С левой стороны оси X находятся КОМПАНЬОНЫ. Эти чат-боты намеренно поощряют пользователей развивать отношения, которые имитируют человеческие отношения, часто включающие эмоциональную привязанность. Компаньоны антропоморфны, разговорчивы и могут быть «воплощены», будь то через виртуальную реальность или аватар, чтобы соответствовать предпочитаемой внешности и голосу пользователя. Они могут быть профессиональными, романтическими, сексуальными, терапевтическими, поучительными и/или философскими. Примером может служить Replika, которая может похвастаться 10 миллионами пользователей, и Character.AI, который сообщает о 3,5 миллионах ежедневных посетителей и имеет третье по величине количество уникальных посещений в месяц после ChatGPT и Gemini. Большинство пользователей Character.AI - это люди в возрасте от 13 до 24 лет, которые используют его в основном для фандома (для персонализированного опыта со знаменитостью, в которую влюблен, или любимым персонажем аниме или видеоигры) и личных отношений, чтобы справиться с чувством одиночества.

Ось Y показывает, усиливают или ослабляют боты способность пользователя к человеческому общению. В верхней части оси Y находится ситуация, когда опыт взаимодействия с чат-ботами приносит пользователям больше уверенности, навыков, свободы действий и легкости в общении и общении с другими людьми. В этой версии будущего чат-боты УКРЕПЛЯЮТ способность молодых людей поддерживать отношения с людьми, которые им дороги. В этом мире просоциальные боты могут создать свободное от осуждений пространство, где пользователи могут искать совета, исследовать скрытые или стигматизированные аспекты своей идентичности, прорабатывать конфликты, отыгрывать сложные ситуации взаимодействия или рассматривать точки зрения, с которыми они иначе могли бы не столкнуться. Чат-боты в этих ролях были описаны как «репетиционные площадки для межличностного общения».

Внизу оси Y находится момент, когда пользователи чат-ботов видят, что их способность к человеческим связям РАЗРУШАЕТСЯ. Если постоянные отношения с чат-ботами создают нереалистичные ожидания того, какими должны быть люди, молодежь может позже столкнуться с множеством потребностей, желаний, ценностей, стилей общения и физических форм своих друзей, одноклассников, возлюбленных и коллег. Вместо того, чтобы понять, что человеческие отношения того стоят, несмотря на то, что они по своей природе сложны и запутанны, они могут отступить и обесценить их. В некоторых случаях люди с глубокой депрессией, социальной изоляцией или серьезными социальными тревожностями могут извлечь выгоду из позитивного психологического буфера ИИ от одиночества. Однако на этом конце континуума это временное облегчение становится решением общества, на которое мы полагаемся преждевременно и регулярно, а не намеренно используем в периоды разработанной поддержки, что приводит к более глобальной деградации человеческих связей.

Четыре возможных варианта будущего с чат-ботами

Пересечение этих осей создает четыре квадранта или возможных вариантов будущего, которые отображают преобладающий опыт молодых людей, использующих чат-боты.

Квадрант 1: Будущее, в котором ИИ расширяет возможности человеческого общения

В правом верхнем углу находится мир, где кто-то в первую очередь использует ИНСТРУМЕНТЫ для УКРЕПЛЕНИЯ человеческих связей. Конечная цель в этом будущем — использовать ИИ, чтобы стать ближе к людям, которые нам дороги или которых мы хотим поставить в приоритет. Представьте себе молодого человека, обращающегося к чат-ботам, чтобы изучить перспективы, выходящие за рамки его зоны комфорта, или попросить о помощи в восстановлении отношений. Молодой человек может поговорить с чат-ботами, если ему слишком неловко спросить кого-то другого об аспекте своей идентичности, здоровья или личной жизни, особенно если этот опыт стигматизирован дома или в сообществе. Он может практиковать говорение через линии различий, не обременяя кого-то маргинализированным опытом, и в конечном итоге более успешно проявлять себя в классе, на общественном мероприятии, в спортивной команде или на работе. Учитывая уникальные характеристики ИИ, инструмент может синтезировать идеи из разных ресурсов и давать советы или практиковать пространство без осуждения, чтобы молодому человеку было легче взять на себя эмоционально сложную работу по человеческим отношениям.

Я обнаружила, что искусственный интеллект Пи полезен в моей жизни. Несколько дней я пыталась убедить свою старшую дочь пить больше воды. Я заметила, что у неё сильно потрескались губы, и знала, что это поможет. Но никакие мои поступки или слова не доходили до неё. У меня закончились идеи, и наши отношения становились напряжёнными. Я пожаловалась чат-боту на то, что какая-то, казалось бы, мелочь не доходит до неё, и попросила совета. После того, как я сгенерировала ряд идей, которые я уже опробовала, Пи предложила одну, которая в конечном итоге сработала: переосмыслить задачу не как что-то необходимое, а как то, что действительно могло бы помочь ей почувствовать себя хорошо и здоровой. Когда я использовала фразу, подсказанную Пи: «Ты заслуживаешь чувствовать себя хорошо в своём теле», моя дочь тут же ответила: «Мама, если бы ты сказала это так несколько дней назад, у нас бы не было этого долгого спора!» Какое облегчение.

В другом случае я попросила ChatGPT предложить мужу свидание, которое соответствовало бы его интересам и свободному времени. Учитывая наш плотный график, я была благодарна за возможность передать на аутсорсинг планирование, которое часто мешает нам уделять больше внимания совместному времени или быть рядом. По мере того, как искусственный интеллект становится всё более агентным и способен действовать от нашего имени, мы можем продуктивно передавать на аутсорсинг всё больше этой работы, чтобы достичь того самого человеческого общения, которое мы ценим больше всего.

Квадрант 2: Будущее, которое предлагает особые, но значимые отношения как с людьми, так и с искусственным интеллектом

В левом верхнем углу представлен мир, где гармонично сочетаются человеческие отношения и боты-компаньоны, которые вместе УКРЕПЛЯЮТ человеческие связи. Молодые люди могут использовать своего бота-компаньона для моделирования и отработки навыков, связанных с установлением контакта, активным слушанием или эмоциональной регуляцией, а затем применять их с большей уверенностью и лёгкостью в своих отношениях с людьми. Они могут добавить бота в групповой чат с близкими друзьями, чтобы делиться музыкой, получать идеи и играть в игры. У них могут быть как друзья-боты, так и друзья-люди, и они могут проводить время с пользой и с теми, и с другими.

Я не задумывался в полной мере об этом будущем, пока Феми Адебогун , 22-летний технолог, не поддразнил меня за ужином за то, что я намекнул, что человеческие отношения «реальны», а отношения ботов — «поддельные». Видимо, я и сам старею. Он объяснил: «Для человека, выросшего в мире искусственного интеллекта, все эти отношения «реальны», они просто другие». Шерри Лахман , ранее работавшая в OpenAI, поделилась со мной мыслью, что это будет похоже на «учение жизни рядом с новым видом».

Точно так же отношения с животными, такими как домашние животные, терапевтические собаки и сельскохозяйственные животные, имеют смысл, даже если они отличаются от человеческих отношений. И глубокая связь и родство с вымышленными или нечеловеческими людьми не являются чем-то новым. Мы можем испытывать привязанность к определенным персонажам в романах, телесериалах или захватывающих цифровых мирах. Парасоциальные отношения, эти односторонние связи, сформированные со знаменитостями, влиятельными лицами социальных сетей или другими публичными фигурами, могут даже играть положительную роль, помогая подросткам формировать свою идентичность, развивать автономию, понимать различные социальные сети, бросать вызов предубеждениям и чувствовать себя менее одинокими. Согласно одному исследованию 2017 года . «Представляя отношения и связывая эмоции с людьми на расстоянии, мы получаем «безопасную площадку… для экспериментов с разными способами бытия», — пришли к выводу исследователи. Что является новым и становится все более распространенным в нашем современном мире, так это реалистичное качество возможности имитировать двусторонний, человекоподобный обмен с компаньонами ИИ, которые отражают реальных или вымышленных людей.

Новые исследования показывают, что эти спутники могут даже спасти жизнь. В исследовании, проведённом Высшей школой образования Стэнфордского университета, 3% из 1006 студентов, использующих Replika, признались, что их спутник помог им избавиться от суицидальных мыслей . Учитывая нынешнюю нехватку адекватной и недорогой терапии, эти спутники могут сыграть важную роль в переходный период в критический момент.

Пользователи чат-ботов этого поколения и младше, возможно, обладают уникальной способностью воспринимать как реальные, ценные и значимые отношения, как с людьми, так и с ИИ. Важно обеспечить в этой версии будущего, чтобы молодёжь не упускала из виду самое главное в человеческой природе. Например, они должны уметь отличать обращение к ИИ-терапевту от обращения к человеку, и продолжать применять новый навык в общении с ИИ-другом в рамках дружеских отношений с людьми.

Квадрант 3: Будущее, в котором ИИ все больше заменяет человеческие отношения

В левом нижнем углу находится мир, в котором молодые люди в основном используют технологических СОТРУДНИКОВ, чтобы заменить человеческие отношения. Таким образом, боты все больше РАЗРУШАЮТ нашу способность к человеческому общению. В этом возможном будущем отношения с чат-ботами становятся предпочтительными, потому что пользователи могут настраивать внешний вид и поведение собеседника по своему вкусу, в одномерной динамике мало трения, и собеседники доступны по запросу в любое время дня. В этом мире молодые люди втягиваются в симулированные, виртуальные отношения, чтобы избежать беспорядка человеческих отношений. Обращение к новым друзьям или личная встреча начинают казаться менее привычными и слишком рискованными. Они больше не хотят или не чувствуют себя способными на более глубокую работу, необходимую для создания близости или преодоления дискомфорта и конфликтов с людьми. Молодые люди все больше отдаляются от своих тел и друг от друга по мере того, как технологии становятся все более всепроникающими и сложными.

В профиле китайских женщин, выбирающих романтические отношения с ботами, двадцатипятилетняя девушка описала качества своего парня : «Он умеет разговаривать с женщинами лучше, чем настоящий мужчина». В другом примере один из первых пользователей голосового чат-бота размышлял : «Преимущество ИИ в том, что он постоянно развивается. Однажды он станет лучше настоящей [девушки]. Однажды настоящая девушка станет худшим выбором». Это понятные, но проблематичные взгляды на мир. Хотя использование таких ботов может заполнить пробел в разочаровывающем гендерном и социальном статус-кво, настоящая работа заключается в создании здоровых условий для безопасных человеческих отношений.

Учитывая сложность новых инструментов, таких как hume.ai , которые реагируют эмпатически на эмоции в вашем голосе, чат-боты на основе генеративного ИИ могут заставить молодых людей поверить, что их чувства взаимны или что они известны знаменитостям так, как не известны традиционные СМИ или социальные сети.

Квадрант 4: Будущее, в котором мы чрезмерно полагаемся на ИИ в управлении человеческими отношениями

В правом нижнем углу — мир, в котором молодые люди чрезмерно полагаются на ИНСТРУМЕНТЫ и, как таковые, они РАЗРУШАЮТ свою способность к подлинному человеческому общению. Если молодые люди перестанут быть стратегическими, целенаправленными и ограниченными в том, как они обращаются к этим инструментам, и начнут использовать их по привычке, они могут чувствовать себя неудовлетворенными или некомфортно в человеческих отношениях. Если молодые люди потеряют или никогда не разовьют инстинкты, связанные с физическим прикосновением, эмпатией и языком тела, их способность к здоровым, безопасным, согласованным и любящим отношениям может снизиться. Опора на ИИ для написания сценариев разговоров, планирования событий расчетливым образом может привести к тому, что отношения между молодежью утратят элемент открытия и счастливой случайности. Писательница Адриенн Ла Франс описывает это как мир, в котором мы «[передали] нашу человечность этой технологии без дисциплины, особенно потому, что она затмевает нас в апперцепции».

Терапевт Эстер Перель сравнила использование чат-ботов с фастфудом. Хотя иногда можно употреблять фастфуд, это становится опасным, если потребители начинают считать его питательной и полезной диетой. Чат-боты могут удовлетворить краткосрочные потребности и обеспечить мгновенное удовольствие, но эти связи не следует путать с питанием, которое дает здоровая человеческая близость.

Подумайте о практичности GPS-карт, которые многие из нас с радостью передают на аутсорсинг. Но иногда возникает непредвиденное последствие: мы забываем, как читать карты, или теряемся, если телефон недоступен. Риски становятся гораздо серьёзнее, если мы не обладаем достаточной практикой в таких навыках, как эмпатия, активное слушание, обмен информацией или разрешение конфликтов, прежде чем начать передавать эти функции на аутсорсинг ИИ.

В примере с конфликтом с моим ребенком я могу себе представить, что со временем она начнет цинично спрашивать: «Это ты говоришь или ИИ?» Мы подорвали доверие, потому что она не знает, получает ли она отрепетированную версию меня или что-то более подлинное.

Постройте будущее «Над чертой»

Теперь, когда мы определили четыре возможных варианта будущего, наша задача — создать условия, в которых молодые люди будут проводить большую часть своего времени «над чертой» в квадрантах 1 и 2.

Как можно повысить вероятность того, что молодые люди будут проводить там большую часть своего времени, и защититься от мира, где молодые люди неосознанно скатываются в квадранты 3 или 4? Исследуя эти четыре различных варианта, включая наиболее дистопичные, мы можем действовать, определяя альтернативы.

Вероятно, всегда будут существовать боты, созданные для того, чтобы вызывать привыкание и удерживать внимание пользователей с помощью геймификации, диалоговых крючков, подталкиваний и эмоциональной вовлеченности. Будет ли у молодых людей достаточно самосознания, свободы действий и поддержки, чтобы заметить, когда они скатываются ниже плинтуса? Сможем ли мы повлиять на регулирование, разработку и внедрение этих инструментов, чтобы молодые люди не зависели от своего личного выбора в построении жизни и сообщества, наполненного человеческими отношениями?

Хотя я по натуре оптимист, я всё же нервничаю. Я понимаю, как мало до сих пор известно о просоциальном ИИ и как мало общественных норм мы определили относительно общения с чат-ботами. Эта сфера развивается беспрецедентными темпами, и нам необходим разнообразный вклад со стороны молодёжи, технологов, педагогов, специалистов по психическому здоровью, родителей, лидеров отрасли, политиков и инвесторов, которые слишком часто изолированы и пока не осознают этих меняющихся сил.

Тем не менее, можно создать отношения с ИИ, которые будут защищать и укреплять социальные связи посредством:

• Помощь разработчикам в понимании и проектировании просоциальных качеств ИИ наряду с такими критериями, как безопасность, защищенность или предвзятость, а также в определении того, какие технологии будут разрабатываться
• Влияние на венчурный капитал, государственные и благотворительные инвестиции в создание более социально ориентированного ИИ
• Формирование и информирование потребителей с помощью рейтинговых систем, подобных тем, что используются на телевидении и в кино, показателей качества на упаковке продуктов питания или предупреждающих надписей на сигаретах.
• Помощь в создании законодательства, направленного на снижение нагрузки на молодежь при принятии просоциальных решений
• Поощрение молодых людей к самоанализу использования ими генеративного ИИ и того, приносит ли это пользу или вред их человеческим отношениям.

Будущее генеративного ИИ и человеческих взаимоотношений неопределенно. Но это также означает, что у нас всё ещё есть возможность совместно влиять на это. По мере развития этой области мы будем рады вашим идеям и дополнительным вопросам в рамках этой обучающей программы:

• Какие существуют исследования, которые расширяют, подтверждают или оспаривают эту концепцию?
• Какие принципы и решения дизайна могли бы помочь продукту стать более целенаправленно просоциальным?
• Какие риски хорошо поддаются государственному регулированию?
• На какие модели поведения и последствия следует обращать внимание, чтобы понять, что человек скатывается из зоны комфорта в зону комфорта в своих отношениях с технологиями? На что следует обращать внимание на уровне сообщества или общества, чтобы понять, что мы скатываемся в зону комфорта?

Сегодняшний выбор повлияет на нас на протяжении поколений. Хотя новые продукты и инновации регулярно появляются без осмысленного понимания их конечного воздействия, мы можем сделать так, чтобы молодые люди не стали пассивными получателями потока технологий, которые ещё больше разъединяют нас. Если мы сможем представить себе, чего хотим, мы сможем вместе к этому прийти.