こちらの記事のスピンアウト。
言語は人類の単一障害点か — バベルの塔とファンデーションモデルから考える
悲観的な未来の一例「Atomic Heart」
昨今のAIという「自然言語という共通点をオーバーライドする『人間のハブ』」を見ていると、ゲームAtomic Heartの「Kollectiv 2.0」を想起させる。
Atomic Heartの世界では、フィジカルAIと電脳が一般的に行き渡っており、人類はAIに多くのことを任せて生活している。この世界では労働も研究もフィジカルAIが行っている。人間にも基本的にAIが埋められていて、そのAIバディと生きている。Kollectiv 2.0は、すべてのデバイスと人間を1つのネットワークシステムに接続する社会制度・社会プラットフォームのことで、Atomic Heartはこれが施行される日からの歴史の転換を体験するものだ。
もちろん想像が容易であるように、システムのオーナーや管理者が、自分を管理するシステムを許すわけがない。Kollectiv 2.0にはセキュリティホールのようなものが意図的に作られている。「自分たちは所有者・管理者なので特別」ということで、自分を一般人類の枠から除外した権力者が、社会システムと人類の脳（人類の肉体についているのAIバディ）を、Kollectiv 2.0の施行日からオーバーライドできる。社会制度とテクノロジープラットフォームを使い、自分のための秩序を完璧にした。労働からの解放で豊かに暮らす、という取引を持ちかけて、世界を征服する日の出来事だ。
そういった「支配者」に対して、少数の人々が解放の戦いを挑む。支配者同士も仲間割れをして世界の征服権を奪い合う。反逆者としてAIに監視される中で、そこかしこにいるフィジカルAI（見た目は掃除ロボだったりする）に殺されないように生き残る必要がある。そもそも自分の体に住み着いたAIにどう対処するのか。その混沌中でタフに立ち回る、というストーリーだ。
今どう見えるか
これは2020年前後のゲームだったので、今ほどKollectiv 2.0の概念は怖いものではなかったと思う。今はファンデーションモデルの普及や国際情勢に伴い、前よりもずっと現実的に見えるのではないか。
Kollectiv 2.0を概念を分解すると、すでに実現されている面があるような気もしている。
そもそもKollectiv 2.0のようなテクノロジープラットフォームと社会制度が融合したものと、これまでの社会制度の何が違うのか。
基本的に私たちは人と人、脳と脳との間でコミュニケーションをとっている。究極的にはこれが音波と言語か、外見や表情や記号などと光か、それともデジタル的な電気信号かの違いだ。脳と脳を繋げる手段を、より簡潔かつ一定のルールに集約し、それによって高速軽量な方法を採択し、伝送効率を上げているのが、電気信号的なアプローチだと思う。究極系がKollectiv 2.0であり映画マトリックスだが、やってることは根本的に同じだと思う。
昨今はデータはクラウドに集約され、しかも一部の事業者が良くも悪くも世界中の知識や行動のデータを集約している。データバンクのような状態になっており、皆そこにアクセスして情報を手に入れ、そして情報を提供する。コミュニケーションや取引とプラットフォームの関係も同じだ。脳〜電気〜ITプラットフォーム・社会制度・経済制度・他者の脳という組み合わせではなく、脳〜電気〜筋肉〜<スマホ〜電気 or 音波 or 光>〜ITプラットフォーム・社会制度・経済制度・他者の脳だ。経路が長いだけで、最終的に何と何を繋げようとしているかは変わらないし、媒介が変わっただけだとも言える。
ただ、そういう脳と脳の接続において、過去のアナログな世界では当たり前だった遅延や仲介、ノイズが、デジタルの世界では減ってゆく。
人と人、人と社会の関係において、複雑さが減っていく。複雑さを減らすように求められる。
それによって、それはより秩序的で、同一のものに近づいていくのだと思う。ただ、その秩序を受け入れられるようになるためには、多少の時間はかかるはずだ。社会は今、集中に反発しており、社会に従属していながらも、社会の勢力図に合意していない。
Atomic Heartはその現実を遥かに超えた悲観的な未来像だろうが、しかし、根本的にはとりわけおかしな点がないようにも思える。というのも、人間のインセンティブと一致しているし、歴史や社会構造とも一致している。悲観的シミュレーションとしてはそれで正しいのでは、ということだ。単純で、悲観的で、ゲームだからそれを認めたくないというだけで、警戒し備えない理由はないのではないか。
少し思うのは、人類が人類史上でここまでの規模（ドル・英語で見れば半数以上、ラベルが違えどそれと強く結びついているエリアを考えれば、さらに大きい）で閉鎖系になったことはなかったはずだ。だから、実際にゲーム内の「数名の勇敢な戦士たちが社会を変える」ことについてはまず現実的とは思えない。これまでの歴史のように、大規模なフィードバック（エネルギー的に見れば自浄作用、循環作用というべきか）が働くかは、少しずつ疑問が深まっていく。
現在はまだ、ある勢力が弱体化すれば別の勢力が干渉するのだろう。が、世界の閉鎖系としての性質が強まるにつれて、社会は一蓮托生になりやすくなる。そうなると、連鎖的な破滅と、わずかにたまたま秩序から外れていて生き延びた少数グループ、というシナリオの方が現実的になるタイミングが、どこかで来るのかもしれない。