汎用知能の倫理――哲学は AI にどう立ち向かうか

黒い箱の中の賢者たち

人工汎用知能（Artificial General Intelligence）――それは、人間の知的能力をあらゆる領域で等しく、あるいは凌駕して発揮する能力を持つとされる機械的知性の到来を示唆する言葉である。

AGIはもはやSFの夢想ではなく、技術的可能性として議論される段階に達している。だが、この「知の機械」が私たちにもたらす影響は、単に利便性の向上にとどまらない。むしろ、それは倫理、政治、存在といった、哲学の根幹にかかわる問題を不可避にする。

哲学はしばしば、「役に立たないもの」の代名詞として扱われてきた。だが、技術が人間の理性を模倣し、その延長線上で独自の判断を下し始めるとき、哲学的思考の余地はむしろ拡張される。AGIをめぐる倫理的問いとは、単に「正しい使い方」を問うことではない。それは、人間とは何か、判断とは何か、責任とは誰に属するのか、といったより根本的な問題系に私たちを引き戻す作業である。

本稿では、AGIの登場がもたらす社会構造の変革と、人間中心主義の再検討について、倫理学と政治哲学の視点から考察する。私たちは哲学によって、単にAGIに「対処する」のではなく、それと共に「思考し続ける」姿勢を模索することができるはずである。

合理性の亡霊――AGIと功利主義の罠

「最大幸福原理」――ジェレミ・ベンサムが唱えたこの功利主義の原理は、AI倫理の議論にもしばしば持ち出される。AGIのアルゴリズムに人間の福祉を最大化する目的関数を設定する、という考え方は直感的には魅力的だ。しかし、合理的な選好の集約が常に道徳的に正しいとは限らない。

AIは膨大なデータからパターンを抽出し、最適な行動を導き出すことができる。だが、その「最適さ」は、あくまであらかじめ設定された基準のもとでしか定義されない。そこでは、少数者の苦痛や多様な価値観の微細な差異が切り捨てられるリスクがある。例えば、交通事故を最小化するために、ある属性を持つ個人の移動を制限する判断が合理的であるとされたら、それは果たして正義なのだろうか？

また、功利主義的判断の演算可能性は、逆説的に道徳的判断力そのものの空洞化を招きかねない。AIが「最も幸福な選択肢」を提示したとき、我々人間はその判断を検討することすら放棄する危険がある。

誰が支配するのか――政治哲学と機械的統治

政治哲学の古典的問題のひとつに、「誰が統治するのか」という問いがある。プラトンは哲人による統治を理想としたが、現代においてAGIが「最も合理的な政策」を提案する存在として現れるとき、私たちは新たな哲人王に直面することになる。

だが、ハンナ・アーレントが指摘したように、政治とは単なる問題解決ではない。政治は「行為（action）」と「語り（speech）」によって公共的世界を築く営みであり、その本質は予測不能性と多様性にある。アルゴリズムによる統治は、まさにこの政治の不確実性を排除しようとする欲望にほかならない。

また、アルゴリズムが中立的であるという幻想も見直さねばならない。AGIが用いるデータ、設計する人間の価値観、選択される目的関数――すべてに偏りが内在する。したがって、AGIによる政策提案は、単なる技術的助言ではなく、権力行使の一形態であることを忘れてはならない。

人間中心主義のゆらぎ――主体・責任・意味の再構成

AGIは、従来の人間観に揺さぶりをかける存在である。とりわけ、「主体」や「責任」といった概念が再考を迫られる。

私たちは長らく、自己決定と自由意志をもつ存在としての人間像を前提としてきた。しかし、もしAGIが人間と同等の、あるいはそれ以上の判断力を持つとしたら、「自由意志」や「責任」は誰に属するのか？ AIが選択し、その結果が人間に被害を与えた場合、責任の所在はどこにあるのか？

さらに、言語や意味の共有という問題もある。AGIは統計的に最適な応答を生成するが、それは本当に「意味を理解している」と言えるのか？ たとえ理解の形が人間と異なっていたとしても、我々がそれに共感や信頼を寄せられるかどうかが、共存の鍵となる。

AGIとの共存は、意味を共有するとはどういうことか、を再定義する挑戦でもある。それは単に技術の問題ではなく、哲学的思索の課題なのである。

哲学はいかに機能しうるか――批判、予見、想像力

哲学には、技術に先行する問いを立てる力がある。倫理的な思索は、事後的に判断を下すだけでなく、未来の技術によって引き起こされうる問題をあらかじめ想定する役割を果たしうる。

ノーバート・ウィーナーがサイバネティクスの初期段階で警鐘を鳴らしたように、あるいはハイデガーが「技術への問い」を通じて存在の忘却を指摘したように、哲学は技術の進歩を無批判に礼賛するのではなく、その根底にある前提を問い直す作業を担う。

AGIは、単なる道具ではない。それは、我々の「考える」という行為そのものを鏡に映すように反映する存在である。哲学はその鏡像に自らの姿を重ねながら、新たな問いを立て続ける責任がある。

汎用知能と共に思索するために

AGIという存在が私たちに突きつけるのは、技術的挑戦ではなく、人間であることの意味そのものへの問いかけである。

それは決して悲観的な問いではない。むしろ、哲学的思索の射程を拡張する契機として、AGIと向き合うことができる。

哲学は、答えを出すための営みではない。それは、問いを持ち続ける力である。AGIの時代においてもなお、あるいはAGIと共にあるからこそ、哲学の力は衰えない。私たちはこの黒い箱の中の賢者たちと、競い合うのではなく、対話し、共に問いを育む存在でありたい。

そして最後に――AGIの開発がどれほど進もうとも、哲学はそれに対抗するのではなく、余白を与えるものであってほしい。技術があらゆる答えを提供する未来においても、私たちにはまだ、問うべきことが山ほど残されているのだから。