道徳的判断と善悪

ＡＩ社会と宗教（5）
宗教研究家 杉山正樹

　ＡＩが自律的に判断を下す能力を獲得し、医療、金融、交通といった社会インフラの根幹をなす分野に急速に浸透する将来、人類はかつてない倫理的な問いに直面するようになる。ＡＩは、膨大なデータから学習し、人間が設定した目標を達成するために最適な解を導き出すが、善悪の判断となると途端に不確かとなり、人間を安心させる〝倫理的な一貫性〟を提供できなくなる。この欠落こそＡＩをめぐる倫理議論の核心であり、宗教的思索と深くつながる大命題である。
　まず理解すべきは、ＡＩが下す「判断」は、人間が設計した価値観・アルゴリズムと過去のデータが生み出す統計的結果でしかないという点である。ＡＩの倫理的判断能力を議論する際、しばしば引き合いに出されるのがフィリッパ・フット（１９２０〜２０１０）が提唱した「トロッコ問題（Trolley problem）」である。この思考実験は、功利主義と義務論という二つの倫理的立場を対立させるが、研究によれば、ＡＩは功利主義的な判断を下す傾向が強いことが示されている。しかし、これはＡＩが道徳的思考を深めた結果ではなく、単に「生存者の最大化」という目標関数を計算したに過ぎない。
　ＡＩの判断における根本的な限界は、「共感」の欠如に起因する。現在のＡＩは、人間のような主観的な経験や感情を持つには至っていない。ＡＩは、データ内のパターンを認識し、それに基づいて行動をシミュレートすることはできるが、他者の苦しみを「共感」することはない。そもそもＡＩには、自らの行動に責任を取る「人生」がない。善悪の判断は留保もしくは、あくまで数字の計算として導かれる。
　ＡＩが思考停止に陥り、与えられた指示を無批判に実行する危険性も指摘されている。この文脈では、思想家ハンナ・アーレントがナチス戦犯アドルフ・アイヒマンの裁判を通じて提唱した「悪の凡庸さ（banality of evil）」の概念が、現代的な示唆を与える。アーレントによれば、アイヒマンの悪は、彼が怪物であったからではなく、自らの行動の意味を問う「思考」を放棄し、組織の命令に忠実に従った凡庸な役人であったことに根差すという。ＡＩが、倫理的な内省なしに、ただ効率性や目標達成のみを追求するよう設計された場合、それは正に「思考なき服従」の主体となり、予期せぬ形で大規模な害悪をもたらす「凡庸な悪」を再生産する危険性を孕む。
　将来、ＡＩの技術的・道徳的な限界が明らかになるにつれ、人間固有の倫理的能力、「慈悲」や「共感」の重要性が改めて見直されるという見方は、現代の技術倫理における有力な議論の一つである。哲学における「共感」が、他者の感情を我がことのように感じる心理的な状態を指すのに対し、仏教における「慈悲」は、より能動的で普遍的な概念である。それは、生きとし生けるものすべての「苦」を認識し、その苦しみを取り除きたいと願う、自他の区別を超えた意志的な態度を意味する。

　「慈悲」は、身体的な感覚や他者との関係性の中で育まれるものであり、単なる情報処理や計算では到達し得ない深い智慧と結びついている。功利計算的な合理性を超越する「慈悲」に基づく判断とは、一人の苦しみが持つ絶対的な重みを直観的に理解するからに他ならない。この種の道徳的直観や、状況の機微を捉える実践的知恵は、アルゴリズムで記述することが極めて困難である。
　ＡＩが善悪を判断する主体たり得ない以上、その開発と運用における道徳的責任は、全面的に人間に帰属するようになる。ＡＩを倫理的に利用するためには、技術的な解決策だけでなく、社会的な枠組みと人間自身の道徳的成熟が不可欠である。ＡＩを人間の価値観と一致させる「価値アラインメント」の研究が進められているが、「誰の」価値観に合わせるのかという根本的な問題も残る。多様な文化や価値観が併存する現代社会において、単一の「正しい」倫理をＡＩに実装することは不可能に近い。従って、ＡＩの自律性には常に限界を設け、重要な意思決定のプロセスには必ず人間が介在し、監視と説明責任を果たす「ＭＨＣ（Meaningful Human Control）＝有意義な人間による統制」の原則が不可欠と考える。
　ＡＩの計算能力が人間の知性を拡張するように、ＡＩの倫理的限界は「共感」と「慈悲」の価値を私達に再認識させそれを育むことを促す。真の倫理とは、他者の苦に〝触れる〟感性である。ＡＩという強力なツールを人類の幸福に資する形で用いることができるか否かは、ＡＩの『技術的進化』に見合う『精神的成熟』を人類が果たせるか、という一点に懸かっている。

（2026年5月１０日付　835号）