ユヴァル・ノア・ハラリは、AIが従来の情報技術と異なるエージェント（主体）としての性質を持ち、人間に前例のない課題をもたらすと警告しています。AIとの関係には歴史的経験がなく、信頼のパラドックスが存在します。民主主義の基盤を守るためにはAIを適切に規制し、人間の価値観に基づく目標設定が重要です。未来においては、人間同士の信頼強化と、非人間知性が作り出す異質な文化的繭への警戒が必要とされています。
- ハラリは「情報は真実ではない」と1990年代の楽観論を批判
- 情報の主な機能は人々を結びつけること
- 空想や偽りは真実より作成コストが低い
- 制約のない情報市場では真実が虚構に埋もれる
真実よりも虚構の方が作りやすく、
時には心地よい内容になりがち！
これが情報の矛盾なんだ
時には心地よい内容になりがち！
これが情報の矛盾なんだ
- AIは従来の情報技術と根本的に異なる
- 印刷機などは人間の手中の道具だった
- AIはエージェント（主体）として自ら行動可能
- 本を書き、アイデアを広め、新概念を創造できる
AIは人間と同じように物語を創造し、
協力ネットワークを構築できる！
これが前例のない挑戦なんだ
協力ネットワークを構築できる！
これが前例のない挑戦なんだ
- 人間が地球を支配する理由は協力ネットワークの形成能力
- チンパンジーは知り合い10匹程度でしか協力できない
- 物語（宗教・お金）を共有することで大規模協力を実現
- 何百万人もの協力を可能にしている
人間は共通の物語を信じることで
大規模な協力を実現してきたんだ！
AIもこれをできるようになる？
大規模な協力を実現してきたんだ！
AIもこれをできるようになる？
- 適切な姿勢は両極端を避け、中道を取ること
- 「AIが全人類を破壊する」という恐怖は避ける
- 「AIが医療や教育を改善する」という過度の自信も避ける
- AIは独自の資金を持ち、投資判断を行える可能性
馬が人間のお金の概念を理解できないように、
私たちもAIのシステムを
理解できなくなるかも…
私たちもAIのシステムを
理解できなくなるかも…
- AI革命の大きなパラドックスは「信頼」
- AI開発競争の先頭企業や国は矛盾した主張をしている
- 他の企業や国を信頼できないと言いながら…
- 自分たちの開発する超知能AIは信頼できると主張
人間の心理や政治については
何千年もの経験があるけど、
AIとの関係には経験がない！
何千年もの経験があるけど、
AIとの関係には経験がない！
- ソーシャルメディアのアルゴリズムが民主主義の危機をもたらした
- 「エンゲージメントの最大化」という目標のため
- アルゴリズムに「信頼の増進」など異なる目標を与えれば
- 良い民主的社会の構築に貢献できる可能性
民主主義は人間同士の対話であるべき！
ボットやAIが人間を装うことを
禁止する規制は必要だよ
ボットやAIが人間を装うことを
禁止する規制は必要だよ
- AIと対話することで私たちは賢くなれる可能性
- 一方でAIはジャンク情報で私たちを溢れさせ、操作する恐れも
- AIは人間とは異なる存在
- AIの利益や世界観は私たちとは異質
言論の自由はボットには適用されない
ということを忘れないでね！
ということを忘れないでね！
- 信頼 – 人間同士の信頼を強化できれば、AI革命も管理できる
- 恐怖・脅威 – 文化的な繭の変化
- 歴史的に人々は人間の心から生まれた文化的繭で生きてきた
- 今後は非人間の知性から生まれる文化に閉じ込められる可能性
AIが生み出す幻想は
人間の想像力から生まれたものではない
だから理解するのが非常に難しいんだ…
人間の想像力から生まれたものではない
だから理解するのが非常に難しいんだ…
