AIエージェント時代の同意をめぐる哲学的分析
researchmap ↗古来、哲学においては「人間とは何か」という問いが繰り返し論じられてきた。人間を人間たらしめる条件について、これまでにさまざまな説が唱えられてきた。たとえば、複雑な言語を操る能力、定められた目標に対して最善の道筋を思考する能力、目先の欲求に流されず、理性的・道徳的にふるまう能力、あるいは、新たな価値を模索し、それを創造する能力。このような能力が、人間という存在を特徴づける重要な条件と見なされてきた。
ところが近年、これらの条件の少なくとも一部を、AIが満たすようになりつつある。AIは、外部から見るかぎりは言語を自由自在に操っている。また、特定の目的に対して最善のルートを探し当てているように見える。ときには、新たな価値を生み出し、あるいは道徳的な判断を下しているかのような出力を見せることもある。人間とAIを分けていた境界線は、日ごとに曖昧になりつつある。
人間とAIの境界が揺らぐとき、人間の存在の仕方はどう変わるのだろうか。これは非常に大きな問いであり、また多くの論点を含んでいる。本研究はそのなかでも、人間が持つ能力のうち「同意する能力」にフォーカスを当てる。同意に基づいた人間の営みが、とりわけAIエージェントの登場によってどう変質するのかを哲学的に分析することが、本研究の目的である。
2026年現在、AIエージェント技術は大きな転換点を迎えている。これまでのAIが何かを「話す」あるいは「提案する」存在だったのに対し、いまやAIは自ら何かを「実行する」存在になりつつある。たとえば商取引の領域では、AIエージェントが取引先を比較し、見積もりをし、発注書を作成し、場合によっては支払いをも、人間の逐一の確認を経ずに実行する技術は既に存在する。経費精算や外部サービスの登録といった事務的な手続きを、AIが処理する例も今後は増えていくだろう。私たちがAIエージェントに自分のアカウントや決済手段を預け、日々の買い物を任せるようになる未来が目前に迫っている。
しかし、もともと人間が行っていた事柄をAIエージェントに任せるとき、そこでは何が起きているのだろうか。一例として「AIエージェントがサブスクリプション契約を結ぶケース」を考えてみよう。その際にAIは、契約するサービスを選び、利用規約に同意し、料金プランを決めて支払いを済ませる。これら一連の過程で生じている「同意」は、これまでは人間が自らの手で行ってきたものだが、それをAIが人間に代わって行うようになるだろう。そのようにAIを利用するとき、私たちはAIに「私に代わって同意してよい」という権限を与えている。本研究は、この「同意する権限を他者に与える」という行為に注目し、これを「委譲的同意」と呼ぶ。この同意の形態こそが、本研究のメインターゲットとなる。
ここで、委譲的同意について考える前に、そもそも同意とは何かを、従来の哲学者の見解を踏まえて確認しておきたい。「同意」は、哲学や倫理学が長く論じてきた主題である。医療におけるインフォームド・コンセントや、商取引における同意など、私たちの社会は「本人が同意した（しえた）かどうか」を重視する。なぜなら、同意は「一見、不道徳に見える行為を許容される行為へと変える力」を持つからだ。例えば、あなたが道端を歩く他人の手を急に掴むことは「暴力」と見なされうるが、一定の同意が（明示的であれ暗黙裡にであれ）交わされている状況においては、それは「握手」と見なされる。あるいは、他人の家に勝手に入り込むことは「不法侵入」と見なされるが、同意が交わされているなら「訪問」と見なされる。このように、不道徳であったかもしれない行為は、同意を交わすことによって道徳的に問題のない行為へと変化しうる。哲学者Hurdは、このような特徴を持つ同意を「道徳的な魔法」と呼んでいる。
だが、あらゆる同意が道徳的な魔法として機能するわけではない。例えば、脅迫のもとで仕方なく同意した場合、その同意は効力を持たない。そこで、従来の哲学では、「どのような同意なら効力を持つのか」を問い、有効な同意が満たすべき条件を整理してきた。その代表的な見解は、次の三つの条件を満たすときに、同意は有効になるというものである。
①強制されず自分の意思で同意していること（自発性条件）。
②自分が何に同意するのかを十分に理解していること（情報条件）。
③同意に必要な判断能力を備えていること（能力条件）。
しかし、従来の同意の哲学が念頭に置いてきた問題群において、同意する主体はつねに人間であり、その対象は人間が行う個別の行為だった。これに対し本研究が扱うのは、その「同意する権限」をAIに与え、AIが人間に代わって同意するというケースである。そこでは、同意する主体が人間からAIへと移り、同意の対象が「これから起きる無数の判断」へと拡張されていくことになるだろう。これがまさに「委譲的同意」の特徴でもある。
では、この委譲的同意には、どのような難しさがあるだろうか。従来の同意の哲学を前提する限り、委譲的同意は魔法の力を持ちえない。三条件のうち、とくに「情報条件」が満たしにくくなるためだ。AIに権限を渡す時点では、AIがこの先どんな判断を下し、何に同意するのかを、人間は知りえない。本人は、自分が具体的に何を許したのかを正確には分からないまま、「任せる」と言っていることになる。
さらに、問題は権限を受け取ったAIの側にもある。権限を得たAIは、この先、個別の場面で同意の判断を一つひとつ下していく。しかし、そのAIは、有効な同意に必要な残りの条件、すなわち能力条件と自発性条件を満たしているのだろうか。AIは、同意に必要な判断能力を十分に備えていると言えるのか。また、人間が自発的に委譲したという事実だけで、AIが行うあらゆる同意について自発性条件が満たされると言えるのか。いずれも即座に肯定することは難しいだろう。
委譲的同意は、人間が権限を与える段階でも、AIがそれを行使する段階でも、従来の同意が前提としてきた条件を満たさない可能性が高い。従来の枠組みのままでは、委譲的同意には十分な効力を認められないのである。
しかし、そのためにAIに同意を委ねることを諦めよと結論するのは早計であろう。そうではなく、従来の同意の哲学とは異なる仕方で同意を捉え直す必要が生じているのだ、と私は考えている。
目下問われているのは、AIとの委譲的同意がどのような場合になら有効と認められるのか、その「線引き」にほかならない。ここで、もっとも単純な線引きとして「一度委譲した後ならば、その後のAIが行うことはすべて有効だ」と考えることができるかもしれない。しかしこれでは、AIが本人の意図から大きく外れた判断を下したときにも、それを止めることができなくなってしまう。そのような状況下では、私たちは安心してAIに任せることができないだろう。
そのため、これとは異なる線引きが必要である。この点について、現時点で有力だと考えているのは次の二つの基準だ。第一に「予見可能性条件」、つまり「AIが行う同意が、本人にとってあらかじめ予測できる範囲に収まっていること」であり、第二に「意図の連続性条件」、つまり「AIの判断が、本人がもともと意図していたことの延長線上にあること」である。この二つを満たす範囲のAIの同意は有効とみなし、それを超えるものについては本人の確認が必要とされる。このような基準の理論を、哲学的に分析することが、本研究の中心的な課題である。
本研究は、哲学的貢献はもちろんのこと、それに加えて実社会に対しても直接的なインパクトを持ちうる。委譲的同意が有効となる条件が明確になれば、それはAIエージェントの設計指針や、事業者のガイドライン、制度づくりの土台として使える。あるいは、私たち一人ひとりが、AIにどこまで任せ、どこから自分で判断すべきかを見極める際の手がかりにもなるだろう。本研究が目指すのは、そのような理論的基盤を提供することだ。それは、AIの利便性を享受しながら、意図せざる不利益や不幸を避けるための土台、さらにはAI時代の人間の存在の土台となるだろう。