AIは人間同士の関係を強化するのか、それとも破壊するのか

若者の間で重なり合うメンタルヘルス危機と、深刻化する孤独感の蔓延に直面し、技術者、投資家、製品開発者は、人間同士の繋がりの空白を埋めるための生成型AI製品の開発に競い合っています。チャットボットによるセラピスト、ガールフレンド、家庭教師はすでに存在し、新開発のペースは驚異的です。AIはますます人間に近づき（GPT-4oの近々登場する拡張音声モードを考えてみてください）、多くの場合、 人間の能力を超えています。今日の若者は、「現実の」人間関係（遊び場でできた友達）、デジタル上の人間関係（フォートナイトでできた友達）、そしてボットの関係（人間以外の友達）の区別がますますつかなくなっているかもしれません。

仕事でもプライベートでも、チャットボットが人間の可能性をサポートする可能性を感じています。Teach For AmericaでReinvention Labを率いる間、Playlab.aiを活用して若者の主体性を解き放ち、Replikaのボーイフレンドボットも試しました（夫の賛同と、この技術の進歩に対する共通の関心のおかげです）。近い将来、これらのボットは複合現実（MR）体験におけるアバターの原動力となり、私たちがよく知っているゲームや体験に、よりリアルに登場し、ソーシャルメディアに浸透し、現実との境界を曖昧にしていくでしょう。

しかし、若者の健康と社会全体の結束にとってのリスクが非常に高い場合、親社会的な AI と、人間関係を築く能力を損なうのではなく高めるチャットボットとの関係を優先することが不可欠です。

人間の発達研究と神経科学によれば、人間は幼少期から他者のニーズ、声、触覚、ボディランゲージに同調し始めることが分かっています。「社会的同調」として知られるこのプロセスは、共感、効果的なコミュニケーションスキル、そして強固な対人関係の形成を含む、健全な社会発達を促進する上で重要な役割を果たします。社会的で肉体を持った生き物として、私たちはコミュニティの中で学び、成長し、調整し、癒し、そして祝福します。私たちは、他者の幸福に刺激を受け、その幸福に責任を感じることで、社会として進歩します。人間関係の定義は、デジタルで他者とつながる有意義な機会を考慮に入れるように進化していますが、ボットによる人間関係が人間的な人間関係に取って代わったり、それを凌駕したりした場合、次世代は自分自身、他者、そして私たちを人間らしくする資質とのつながりを弱めてしまう可能性があります。

幸いなことに、未来はまだ到来していないので、若者の人間的な繋がりを育む能力を育む未来を形作ることができるのです。私は数ヶ月にわたり、著名な教育者、技術者、若者活動家、メンタルヘルスの専門家、投資家、研究者、そしてコミュニティビルダーたちと会い、チャットボットがもたらす未来の可能性を探ってきました。楽観的な見通しの根拠は、AIとの理想的な関係を描き、若者たちがこの新たなボットの波を乗り越えられるよう支援できるかどうかにかかっています。そうすれば、私たちは人間性を守り、より豊かに生きることができるでしょう。

チャットボットの社会貢献性を評価する

責任あるテクノロジーの開発者や投資家は、安全性、データセキュリティ、プライバシー、バイアス、公平なアクセスといった基準を既に考慮しています。AIの向社会的な能力を、投資と開発の基準として測定し、定義していく必要があります。

若者がチャットボットとどのように関わり、活用していくのか、そしてそれが人間関係にどのような影響を与えるのかを、積極的に想像するためのリソースを作成しました。以下のフレームワークは、若者にとって最も一般的なチャットボット体験をそれぞれ表した、4つの異なる未来像を示しています。

X 軸は、若者とチャットボットの主な関係を表しています。

X軸の右側にはツールがあります。これらのチャットボットは、ユーザーが特定のタスクまたはタスクセットを完了するのに役立ちます。ChatGPT4のように会話的な性質を持つ場合もありますが、感情的な関係を再現するように明示的に設計されているわけではありません。ユーザーはツールから何らかのサービスを受け取り、それを人間の世界に適用することができます。ここでは、実用性、つまり、人間の主体性とプロセス知識を維持する方法で、ツールを使用する人が目的の結果を達成できるように支援することが重視されています。Piのようなツールは関係的ですが、人間のふりをしません。GoogleアシスタントやSiriの将来のイテレーションと同様に、これらは仲間とし​​て機能するのではなく、人間がタスク（近い将来、人生のアドバイスや計画の提供などの個人的なタスクも含まれるようになる）を達成するのを支援することに重点を置いています。

X軸の左側にはコンパニオンがあります。これらのチャットボットは、人間関係を模倣した関係を育むことを意図的にユーザーに促し、多くの場合、感情的な結びつきも含みます。コンパニオンは擬人化されており、会話を交わし、仮想現実やアバターなど、ユーザーの好みの外見や声に合わせて「具現化」されることがあります。彼らは、仕事、恋愛、性、セラピー、教育、哲学など、様々な側面を持つことができます。例えば、1,000万人のユーザーを誇るReplikaや、1日350万人の訪問者を報告し、ChatGPTとGeminiに次いで3番目に多い月間ユニーク訪問者数を誇っているCharacter.AIなどが挙げられます。Character.AIのユーザーの大部分は13～24歳で、ファンダム（憧れの有名人や好きなアニメやビデオゲームのキャラクターとのパーソナライズされた体験）や、孤独感を解消するための個人的な関係構築のために利用しています。

Y軸は、ボットがユーザーの人間との繋がりを強化するか、それとも損なうかを表しています。Y軸の頂点は、チャットボットとのやり取りを通じて、ユーザーが他の人間との関係構築において、より自信、スキル、主体性、そして容易さを得られるようになる時期です。この未来像では、チャットボットは若者が大切な人々との関係を築く能力を強化します。この世界では、向社会的なボットは、ユーザーが助言を求めたり、隠れた、あるいは偏見のあるアイデンティティの側面を探ったり、葛藤を乗り越えたり、難しいやり取りをロールプレイしたり、そうでなければ触れることのない視点を考えたりするための、偏見のない空間を作り出します。こうした役割を担うチャットボットは、「対人コミュニケーションのリハーサル空間」と表現されています。

Y軸の一番下は、チャットボットのユーザーが人間関係を築く能力が侵食されていくのを目の当たりにするときです。チャットボットとの継続的な関係が、人間がこうあるべきだという非現実的な期待を生み出すと、若者は後々、友人、クラスメート、恋人、同僚の多様なニーズ、欲求、価値観、コミュニケーションスタイル、身体的特徴に直面したときに苦労する可能性があります。人間関係は本質的に困難で厄介であるにもかかわらず、価値があることを理解するのではなく、彼らは人間関係から遠ざかり、優先順位を下げてしまう可能性があります。場合によっては、深刻な鬱、社会的孤立、または深刻な社会不安を抱える人々は、孤独に対するAIの肯定的な心理的緩衝材から恩恵を受ける可能性があります。しかし、連続体のこの端では、この一時的な救済策が社会の解決策となり、意図的に設計されたサポート期間に活用されるのではなく、時期尚早かつ日常的に頼ることになり、結果として人間関係のより全体的な劣化につながります。

チャットボットがもたらす4つの未来

これらの軸が交差することで 4 つの象限、つまり可能性のある未来が生まれ、チャットボットを使用する若者の主な経験を表します。

象限1: AIが人間同士のつながりを築く未来

右上隅には、主にツールを使って人間関係を強化する世界が描かれています。この未来における究極の目標は、AIを活用して、大切な人や優先したい人との距離を縮めることです。若者がチャットボットに頼り、自分のコンフォートゾーンの外にある視点を探ったり、人間関係の修復に助けを求めたりする様子を想像してみてください。若者は、自分のアイデンティティ、健康、恋愛生活などについて、特に家庭や地域社会で偏見を持たれているような状況で、恥ずかしくて他人に聞けない時、チャットボットに話しかけることができます。彼らは、疎外された経験を持つ誰かに負担をかけることなく、違いを超えて話す練習ができ、最終的には教室、社交イベント、スポーツチーム、職場などでより成功できるようになります。AIの独自の特性により、ツールは様々なリソースから得た洞察を統合し、判断することなくアドバイスや練習の場を提供することで、若者が感情的に複雑な人間関係に取り組みやすくなるように支援します。

Pi AI は私自身の生活にも役立っています。何日も、長女にもっと水を飲むように説得しようとしました。唇がひどく荒れていることに気づき、効果があることはわかっていました。しかし、私が何をしても、何を言っても、彼女には伝わりませんでした。アイデアが尽きてしまい、私たちの関係は緊張し始めました。私は、些細なことが伝わらないことをチャットボットに訴え、提案を求めました。私がすでに試したことのあるアイデアをいくつか提示した後、Pi は最終的にうまくいった 1 つのアイデアを提案しました。それは、タスクを、彼女がやらなければならないこととしてではなく、実際に気分が良くなり健康になれるものとして捉え直すというものでした。Pi が促した「あなたは自分の体で気分が良くなるに値する」という言葉を使うと、娘はすぐにこう答えました。「ママ、何日も前にそう言ってくれていたら、こんなに長い言い争いにならなかったのに！」本当に安心しました。

別の例では、夫の興味と都合に合わせて、ChatGPTにデートの予定を提案してもらいました。私たちは忙しいスケジュールなので、一緒に過ごす時間や実際に会う時間を確保するのに邪魔になりがちな計画をアウトソーシングできたのはありがたかったです。AIがますます主体的になり、私たちに代わって行動できるようになるにつれて、私たちが最も大切にしている人間関係を築くために、こうした作業をより生産的にアウトソーシングできるようになるでしょう。

第2象限: 人間とAIの仲間の両方と、それぞれ異なるが意味のある関係を築く未来

左上には、人間関係とボットの「コンパニオン」がバランスよく融合し、それらが相乗効果で人間関係を強める世界が描かれています。若者はコンパニオンボットを使って、信頼関係の構築、積極的な傾聴、感情のコントロールといったスキルを模擬・練習し、それらをより自信と容易さを持って人間関係に応用するかもしれません。親しい友人とのグループチャットにボットを追加して、音楽を共有したり、アイデアを交換したり、ゲームを楽しんだりするかもしれません。ボットと人間の両方の友達がいて、両方と有意義な時間を過ごすようになるかもしれません。

22歳のテクノロジスト、 フェミ・アデボガンが夕食の席で、人間関係は「本物」でボットの関係は「偽物」だと言っているとからかうように私を非難するまで、私はこの未来像について真剣に考えたことがありませんでした。どうやら私は年を取っているようです。彼はこう説明しました。「AIネイティブとして育った人間にとって、これらの関係はすべて『本物』です。ただ、それぞれが違うだけです」。元OpenAIのシェリー・ラックマンは、これは「新しい種と共に生きることを学ぶ」ようなものだと私に語りました。

同様に、ペットやセラピー犬、家畜などの動物との関係も、人間関係とは違っていても意味があります。また、架空の人々や人間以外の人々との深いつながりや関連性は新しいものではありません。小説、テレビシリーズ、没入型デジタル世界の特定のキャラクターに愛着を感じることがあります。有名人、ソーシャルメディアのインフルエンサー、その他の公人との一方的なつながりであるパラソーシャルな関係は、青少年がアイデンティティを形成し、自律性を発達させ、さまざまなソーシャルネットワークを理解し、偏見に挑戦し、孤独感を和らげる上でプラスの役割を果たすことさえあります。 2017年のある研究によると、「関係を想像し、遠くの人々と感情を関連付けることで、私たちは「さまざまな在り方を試すための安全なフォーラム」を手に入れることができる」と研究者は結論付けています。現在の世界で新しく、より一般的になりつつあるのは、実在の人物や架空の人物を映し出すAIの仲間との双方向の人間のようなやり取りをシミュレートできるというリアルな品質です。

新たな研究では、これらの相棒が命を救う可能性さえ示唆されています。スタンフォード大学教育大学院の研究では、レプリカを使用した1,006人の学生のうち3%が、レプリカの使用によって自殺念慮が抑制されたと自己申告しました。手頃な価格のセラピーへのアクセスが十分に確保されていない現状において、これらの相棒は、まさに必要な時に強力な移行期の役割を果たす可能性があります。

この世代以下のチャットボットユーザーは、人間との関係もAIとの関係も、現実的で価値があり、意味のあるものとして理解できる、特別な立場にあると言えるでしょう。この未来像において重要なのは、若者が人間であることの最も大切な点を見失わないことです。例えば、AIセラピストと人間のセラピストのどちらに相談すべきかを見分け、AIの友人との新しいスキルの実践を、人間との友情にも活かしていくことが重要です。

第3象限: AIが人間関係に取って代わる未来

左下の世界では、若者は主にテクノロジーを駆使して人間関係の代わりをしています。そのため、ボットは私たちの人間同士の繋がりをますます蝕んでいきます。この未来では、チャットボットとの関係が望ましいものとなります。なぜなら、ユーザーはコンパニオンの見た目や雰囲気を自分の好みに合わせてカスタマイズでき、一元的な関係性にはほとんど摩擦がなく、コンパニオンはいつでもオンデマンドで利用できるからです。この世界では、若者は人間関係の煩雑さを避けるために、シミュレーション上の仮想的な関係に引き込まれます。新しい友人に連絡を取ったり、直接会ったりすることが、あまり馴染みがなく、リスクが高すぎると感じるようになります。彼らはもはや、親密さを築き、人間との不快感や葛藤を乗り越えるために必要な、より深い努力を望んだり、そうする能力を感じたりしなくなります。テクノロジーがより普及し、洗練されるにつれて、若者は自分の体や他人からますます切り離されていきます。

ボットとの恋愛関係を選んだ中国人女性のプロフィールでは、25歳の女性がボーイフレンドの特徴についてこう述べている。「彼は生身の男性よりも女性との話し方が上手です」。別の例では、音声チャットボットの初期ユーザーがこう述べている。「AIの素晴らしいところは、常に進化していることです。いつかAIは生身の彼女よりも優れた存在になるでしょう。いつか、生身の彼女の方が劣った選択肢になる日が来るでしょう」。これらは理解できるものの、問題のある世界観です。これらのボットを導入することで、ジェンダーや社会の現状の不満を埋めることはできるかもしれませんが、真の課題は、安全で人間的な人間関係を築くための健全な環境を作り出すことです。

hume.aiのように、ユーザーの声の感情に基づいて共感的に反応する新しいツールが高度化していることを考えると、生成型 AI チャットボットによって、若者は自分の感情が相手に伝わっている、あるいは従来のメディアやソーシャル メディアではできなかった方法で有名人に理解されていると信じるようになるかもしれません。

第4象限: 人間関係を導くためにAIに過度に依存する未来

右下の世界では、若者はツールに頼りすぎて、真の人間関係を築く能力を失っています。若者がこれらのツールを戦略的かつ意図的に、また境界を設けて利用することをやめ、習慣的に使い始めると、人間関係に不満や不快感を覚えるかもしれません。若者が身体的な接触、共感、ボディランゲージに関する本能を失ったり、まったく発達しなかったりすると、健康的で安全で合意に基づいた愛情深い人間関係を築く能力が低下する可能性があります。会話の筋書きを作成したり、計算された方法で経験を計画したりするためにAIに依存すると、若者の関係から発見やセレンディピティの要素が失われる可能性があります。作家のアドリアン・ラ・フランスは、この世界を「特にテクノロジーが私たちを統覚能力で凌駕するにつれて、規律なく人間性をこのテクノロジーにアウトソーシングした」世界と表現しています。

セラピストのエスター・ペレル氏は、チャットボットの利用をファストフードに例えました。ファストフードをたまに食べるのは構いませんが、消費者がそれを栄養価の高い食事だと信じてしまうと危険です。チャットボットは短期的な欲求を満たし、即座に満足感を与えるかもしれませんが、こうしたつながりは、健全な人間同士の親密さから得られる滋養と混同すべきではありません。

GPSマップの実用性を考えてみてください。多くの人がナビゲーションをアウトソーシングすることに満足しています。しかし、意図しない結果、地図の読み方を忘れてしまったり、携帯電話が使えなくなったら道に迷ってしまったりすることがあります。AIにアウトソーシングする前に、共感、能動的な傾聴、共有、対立の解決といったスキルを十分に訓練しておかないと、その危険性ははるかに深刻になります。

私の子供との衝突の例では、時間が経つにつれて、彼女は皮肉なことに「話しているのはあなたが話しているのか、それともAIが話しているのか？」と考えるようになるだろうと想像できます。彼女は私がリハーサルしたバージョンを聞いているのか、それとももっと本物のバージョンを聞いているのかわからないため、私たちの信頼は損なわれています。

「Above the Line」の未来を築く

4 つの将来像を定義した今、私たちの使命は、若者がほとんどの時間を第 1 象限と第 2 象限の「ラインの上」で過ごすような状況を作り出すことです。

若者がそこで多くの時間を過ごす可能性を高め、無意識のうちに第3象限や第4象限に陥ってしまうような世界を防ぐにはどうすればいいでしょうか？よりディストピア的なものも含め、これら4つの異なる可能性を探求することで、私たちはそれぞれの選択肢へと踏み込んでいくことができるでしょう。

ゲーミフィケーション、会話の仕掛け、プッシュインナッジ、そして感情的なエンゲージメントを通して、中毒性を持たせ、ユーザーの目を画面から引き離すように設計されたボットは、今後も存在し続けるでしょう。若者たちは、自分が基準を下回っていることに気づくだけの自己認識、主体性、そして支援を持っているでしょうか？私たちは、若者たちが個人的な選択に頼ることなく、人間的なつながりに満ちた人生とコミュニティを築くことができるよう、これらのツールの規制、開発、そして普及に影響を与えることができるでしょうか？

私は生来楽観的な人間ですが、不安も抱えています。向社会的なAIについてはまだほとんど何も分かっていないこと、そしてチャットボットと過ごす時間に関する社会規範がほとんど定義されていないことを痛感しています。この分野は前例のない速さで進化しており、若者、技術者、教育者、メンタルヘルスの専門家、親、業界リーダー、政策立案者、投資家など、多様な人々からの意見が必要です。彼らは往々にしてサイロ化しており、こうした進化する力にまだ気づいていません。

しかし、次の方法で AI との関係を構築し、社会的つながりを保護し、構築することは可能です。

• 開発者が、安全性、セキュリティ、バイアスなどの基準とともに、AIの社会的な特性を理解して設計し、開発される技術を形作るのを支援します。
• より明確に社会貢献的なAIの創造に向けて、ベンチャーキャピタル、政府、慈善団体への投資に影響を与える
• テレビや映画で使用されている評価システム、食品パッケージの品質指標、タバコの警告ラベルなどを通じて消費者市場を形成し、教育する
• 若者一人ひとりが社会貢献的な選択をする際の負担を軽減するための法律制定を支援する
• 若者に、生成型AIの使用について、そしてそれが人間関係に役立っているか、それとも害を及ぼしているかについて自省するよう促す

生成型AIと人間関係の未来は不確実です。しかし、それは同時に、私たちが共にこの分野に影響を与える機会がまだあることを意味します。この分野が発展していく中で、皆様のご意見やご質問をこの学習アジェンダにぜひお寄せください。

• このフレームワークを拡張、検証、または挑戦する研究はありますか?
• 製品をより意図的に社会貢献性の高いものにするために役立つ設計原則と選択肢は何でしょうか?
• 政府の規制に適したリスクはどれでしょうか?
• テクノロジーとの関係において、「一線を越えた」状態から「一線を越えた」状態へと転落しつつある兆候として、どのような行動や結果に注意すべきでしょうか？ 地域社会や社会レベルで「一線を越えた」状態にあることを示す兆候として、私たちは何に注意すべきでしょうか？

今日の選択は、未来の世代に影響を与えます。新製品やイノベーションが、その影響を十分に認識することなく定期的に発表される一方で、若者たちが、私たち皆をさらに分断させるテクノロジーの洪水に受動的に流されないよう、私たちは気を配ることができます。私たちが望むものを思い描くことができれば、共に歩みを進めることができるのです。