はじめに

近時大きく注目されているAIを事業に導入し、業務の効率化を図ろうと検討している事業者もいらっしゃると思います。たとえば、AIが自動で商品の発注などをしてくれたら、大幅に人件費を削減できるでしょう。

ですが、商品の発注などについて、「AIが行った契約」の法律上の効力はどのようになるのでしょうか。また、たとえば、AIの誤作動などにより事業者が想定していないような事態が発生した場合の法律上の効力はどのように考えることになるのでしょうか。AIに対して具体的に法律が定められているわけではないので、わからない方がほとんどだと思います。

そこで、今回は、AIをめぐるさまざまな法律関係について、弁護士が詳しく解説します。

1 AIとは

AIとは

AI(Artificial Intelligence)」とは、人間のような知能を人工的に作ったもの(人工知能)のことをいいます。たとえば、ソフトバンクが開発しているロボットの「ペッパー」には、AIが搭載されています。ペッパーには「感情エンジン」というAIが搭載されているため、人間と同じように喜怒哀楽を表現することができます。

また、AIの中には「ディープラーニング」という機能が搭載されているものがあります。「ディープラーニング」とは、簡単にいうと「人間から指示を与えられなくても独自で考えて発展していく能力」のことをいいます。ですので、ディープラーニングが搭載されたAIは、人間から指示を一切受けることなく、経験を積むことにより独自に学習をしていき、将来的にさまざまなことができるようになるわけです。

もっともAIには種類があり、みなさんもよく知っているドラえもんのように感情や人間を超える高度な知性をもったロボットは、「汎用型AI」または「強いAI」などと呼ばれています。現在の日本において、ビジネスで用いられているAIは、汎用型AIのように高度な性能を持ったものではなく、人が考えていることをロボットに代替的に行わせるというレベルのものにすぎません(このようなAIを「特化型AI」または「弱いAI」といいます)。

以上のように、高い性能をもつAIですが、所詮は「人工知能」であり、AIを使いこなすのはあくまで人間です。それでは、AIが事業者に代わって何らかの法律行為(たとえば「契約」)を行った場合やAIの誤作動などが原因でトラブルが生じた場合の法的効力はどのようになるのでしょうか。AIを使う事業者にすべての責任が及ぶのでしょうか。

以下では、①AIによる「契約」、②AIが予想外の契約をした場合、③AIが勝手に契約をした場合の3つのパターンにおける法的効力がどのようになるのかという点について見ていきたいと思います。

2 人による「契約」の法的効力

人による契約の効力

AIによる「契約」の法的効力について、具体的な解説に入る前に、まずは人による「契約」の法的効力について確認しておきましょう。

契約」とは、その当事者において意思表示が合致することをいいます。たとえば、パソコンを所有しているAがBに対してそのパソコンを売るケースについて考えてみましょう。まずは、下の図をご覧ください。

売買契約

まずは、AがBに対して「自分のパソコンを10万円で売ります」という意思表示をすることになります。これに対し、BはAに対して「Aのパソコンを10万円で買います」という意思表示をします。ここに、Aの意思表示とBの意思表示が合致し、AとBとの間にAのパソコンを対象とする売買契約が成立することになるのです。

つまり、契約の当事者間で意思表示が合致すれば「契約」が成立するのです。

契約が成立すると、当事者はその契約から生じる権利を主張できるとともに、その契約から生じる義務を負担することになります。上の例を使って、この点について確認しましょう。AはBに対して、パソコンの代金を支払ってもらう権利を得るとともに、自分のパソコンをBに引き渡す義務を負担することになります。他方で、BはAに対してパソコンの引き渡しを受ける権利を得るとともに、Aに対してパソコンの代金を支払う義務を負担することになります。

このように、人による「契約」の法的効力は、その契約当事者に対して及ぶことになるのです。

それでは、契約の当事者の一方がAIである場合、その契約により生じる法的効力はAIに直接及ぶということになるのでしょうか。この問題は、AIによる契約の当事者は誰なのか、という問題と趣旨を同じくします。以下で、詳しく見ていきましょう。

3 AIによる「契約」の法的効力

AIによる契約の法的効力

(1)権利義務の主体

以上で見てきたように、契約により生じる権利や義務の主体はあくまで「」です。AIがいかに優れた知能を持っていても、AIは「人」ではなく「人工知能」に過ぎません。そうである以上、AIが権利義務の主体になることはできません。このことを前提にAIによる「契約」の法的効力について、具体的に見ていきましょう。

(2)AIによる「契約」の法的効力

契約当事者の一方もしくは双方がAIを利用して契約した場合、AIが権利義務の主体になることはできなません。ですので、当然にAIが意思表示をするといったこともありえませんので、AIを契約当事者とした契約が成立するということもありません。そうすると、その契約における当事者はAIの利用者ということになりそうです。以下で、例を挙げて、そのロジックについて詳しく見ていきたいと思います。

たとえば、AIを利用する甲が乙社に対して、お米10キロを発注し、乙社がこれを承諾したというケースについて考えてみましょう。このケースにおいて、まずは、甲と乙社についてどのような意思表示が存在するかを下の図を使いながら確認しましょう。

AIを利用する甲には、「①AIの判断に基づいて、お米10キロを購入する」という意思があり、甲の意思を②AIが発注という形で表示しているということがいえます。これに対し、乙社には③AIが行った発注を受諾するという意思表示が存在します。ここに、AIを利用する甲と乙社との間に意思表示の合致が見られますので、AIを利用する甲と乙社との間に契約が成立するものと考えられます。この契約関係を示したのが、以下の図になります。

AIを利用した契約

以上のことからいえることは、契約当事者の一方もしくは双方がAIを利用した場合、その契約はAIの利用者の下で成立するため、契約から生じる法的効力もAIの利用者に対して及ぶことになるということです。

もっとも、以上のことは、あくまでAIの利用者の意思に沿う形でAIが法律行為をすることが前提になっています。では、仮に、AIが利用者の意思に沿わない法律行為をしてしまった場合、その法的効力はどのようになるのでしょうか。

この点について、次の項目で詳しく見ていきたいと思います。

4 AIが予想外の契約をした場合

AIの予想外の契約

AIが利用者の意思に沿わない契約をした場合の問題点については、以下のように整理することができます。

(1)問題点の整理

この点についても、わかりやすくするために、次の例を参考に見ていきましょう。まずは、下の図をご覧ください。

AIが予想外の契約をした場合

たとえば、①BがAIの判断にしたがって、②ある商品をC社に対して注文し、③C社はその注文を受諾したものの、Bはその商品について、AIが注文した数量を購入する意思はなかったというケースについて考えてみましょう。

このケースにおいても、まずは、BとC社の意思表示について確認しましょう。Bには、「AIの判断にしたがって、ある商品を購入する」という意思があります。これに対して、C社は「AIが行った具体的な注文を受諾する」という意思があります。そのため、BとC社との間で意思表示の合致が認められ、BとC社との間で売買契約が成立していることになりそうです。

BとC社との間で売買契約が成立している以上、このケースにおいても、BはAIによる契約に拘束されてしまうことになるのでしょうか。このような場合、Bは、AIが発注し数量を注文するつもりはなかったということを主張するでしょう。つまり、Bが意図していたこととAIによる具体的な注文(意思表示)との間に食い違いがあったことを理由に売買契約が無効であるということを主張するわけです。これを法的に言い換えると、Bは民法上の「錯誤」を理由に契約の無効を主張できるかどうか、この点が問題になるわけです。

(2)錯誤とは

ここでいう「錯誤」とはどのようなことをいうのでしょうか。字面で何となくイメージできる人もいると思いますが、ざっくりいうと、「勘違い、誤り」といったようなことを意味します。このように定義される「錯誤」ですが、勘違いや誤りがあれば、その契約はすべて無効になるのでしょうか。以下で、詳しく見ていきましょう。

①錯誤の種類

日常的に勘違いをすることは少なくありませんが、このような勘違いがあれば、すべて民法上の「錯誤」にあたるというわけではありません。民法上の錯誤は、大きく分けて以下の2つに分かれます。

  1. 表示の錯誤
  2. 動機の錯誤

それぞれの錯誤について、詳しく見ていきましょう。

ⅰ 表示の錯誤

表示の錯誤」とは、契約当事者の一方が、勘違いにより、自分が意図するとおりの表示をしていなかった場合をいいます。たとえば、売買契約において注文する商品の個数を「10個」とするつもりであったところ、誤って「100個」と記入してしまったような場合です。

ⅱ 動機の錯誤

動機の錯誤」とは、自分が意図するとおりの表示はしているものの、その意思が作られる過程に勘違いが入っていたような場合をいいます。たとえば、すでに購入して持っている商品を、まだ購入していないものと勘違いして買ってしまったような場合です。

このように「表示の錯誤」は、錯誤に係る事実を契約の相手方は知ることができますが、「動機の錯誤」は、その事実を契約の相手方は知ることができません。「表示の錯誤」と「動機の錯誤」の間には、このような違いがあるため、相手方保護の観点から、民法はこれらの錯誤を同じようには扱っていません。

②民法上の「錯誤」

民法は、錯誤を主張される相手方の立場も考慮し、表示の錯誤は民法上の錯誤にあたり、動機の錯誤は民法上の錯誤にあたらないということを原則にしています。

もっとも、「動機の錯誤」であっても、その動機が契約の相手方に表示されて、契約の内容になっていれば、民法上の錯誤にあたるとするのが最高裁判所の判例の立場です。

③錯誤の効果

以上の観点から、契約当事者のいずれかにおいて、意思表示に「錯誤」があり、かつ、その錯誤が「法律行為の要素」にあたるものであれば、その契約は無効になります。

ここでいう「法律行為の要素に錯誤がある」とは、その錯誤がなければ、そのような意思表示をしなかったということがいえ、平均的な一般人が同じ立場に立ってもそのような意思表示をしなかったといえることを意味します。この要件は、いったん成立した契約を無効にする以上、そのことを認めてもいいといえるほどの重大な錯誤がなければならないという趣旨から課せられた要件です。

もっとも、すべてのケースにおいて錯誤無効が認められ、その相手方が犠牲になるというのは酷です。そこで、民法は、錯誤により意思表示をした人が、錯誤に陥ったことについて重大な過失があるような場合には、契約の無効を主張することはできない、としています。自分の重大なミスにより錯誤を招いているわけですから、このような者にまで手をさしのべる必要はないというわけです。

ですが、このような場合でも、契約の相手方が悪意(錯誤により意思表示をする人が錯誤に陥っていることを知っていること)である場合には、その相手方は錯誤であることを知りつつ見て見ぬふりをした不誠実な者であるといえるため、たとえ錯誤により意思表示をした人に重大な過失があったとしても、その人は錯誤無効を主張できるとするのが判例の立場です。

以上のようなことを前提に、AIによる契約(意思表示)に錯誤が認められるか?という点について、以下で考えていきたいと思います。

(3)AIによる契約に錯誤は認められるか?

まずは、AIの利用者が主張しようとする錯誤が「表示の錯誤」なのか「動機の錯誤」なのかという点を検討しなければなりません。いまいちど、先に挙げた例を使いながら確認していきましょう。

先に挙げた例は「BがAIの判断にしたがって、ある商品をC社に対して注文し、C社はその注文を受諾したものの、Bはその商品について、AIが注文した数量を購入する意思はなかった」というものでした。

AIが予想外の契約をした場合

AIが予想外の契約をした場合についても、BとC社の意思表示は基本的に合致するということは先に見たとおりです。ですので、Bが陥っている錯誤は「表示の錯誤」にはあたらないということになります。では「動機の錯誤」にあたるのでしょうか。

Bが勘違いをしているのは「自分の予想する範囲でAIが注文するだろう」という部分(動機)であるということがいえますので、このケースにおいては、Bに動機の錯誤があるということがいえると思います。

「動機の錯誤」は、その動機が契約の相手方に表示されて、契約の内容になっていなければ、民法上の錯誤にはあたらないということでした。そこで、次に検討しなければならないのは、Bの動機がC社に表示されて、契約の内容になっていたかどうかという点についてです。この点は、すぐにわかった人もいらっしゃると思いますが、物などを注文・購入する際に、その動機(理由)を契約の相手方に示して、その動機(理由)が契約の内容になっていたなんてことは通常はありません。ですので、多くの場合は、契約の相手方に示されていない「動機の錯誤」にあたり、錯誤無効の主張はできないものと考えます。

もっとも、以下のようなケースでは、例外的に錯誤無効が認められる可能性があります。

    【ケース①】
    AIが明らかに過剰と考えられる数量を注文していた場合

このような場合、注文を受けた人は、注文を受けた過剰な数量に疑問を持ち、注文者に数量の確認をすべきであるとされる場合があります。にもかかわらず、そのような確認をとっていなければ(契約の相手方が悪意と同視される)、錯誤無効が認められる可能性があります。

    【ケース②】
    契約の相手方がAIの利用を知っていた場合において、AIの利用者が通常使用するだろうと考えられる数量などをはるかに超える数量またはそれまでの取引内容から判断して明らかに異常であるといえるような数量や金額の注文をAIが行った場合

このような場合、契約当事者はいずれもAIの利用者に異常な数量や金額で取引をする意図がないことを当然の前提にしているものと考えられます。そうすると、その前提のかぎりで、AIの利用者の動機が(黙示的に)契約の相手方に表示されていることになり、契約の内容になっていたということが認められる可能性があります。

もっとも、ケース①やケース②のように、契約に係る数量や金額が異常であるとまではいえないものの、正常であるともいえないような場合の判断は難しく、最終的には個々の事例で判断していくほかないと考えられます。

5 AIが勝手に契約をした場合

AIの勝手な契約

これまでは、AIの利用者の意思が一定の範囲でAIによる契約に表されていたケースについて見てきました。最後の項目では、AIがその利用者の意思とは関係のないところで勝手に契約をした場合について、見ていきます。

たとえば、AIがそれまでに独自で学習した結果に基づいて、勝手に受注者に注文を行い、受注者がその注文に対し受諾を与えた場合です。このような場合は、AIの利用者の意思表示がどこにも存在せず、契約が成立するために必要な「契約当事者の意思表示の合致」がありません。ですので、契約が成立することはありません。

もっとも、AIの利用者と受注者との取引が継続的になされているもので、「その取引に際し、利用者と受注者との間であらかじめ合意していたIDやパスワードを使って注文がなされた場合には、利用者と受注者との間で売買契約が成立したものとみなす」といった合意が事前になされていたと評価できる場合には、AIの利用者と受注者との間に売買契約が成立する可能性がありますので、注意が必要です。

6 小括

サマリー

自社の事業にAIを導入することにより、飛躍的に業務の効率化を図ることができます。AIは、契約の相手方に対する注文など、自社の意図することを形にしてくれるということを前提にしていますが、他方で、自社の意図と違う行為を行う可能性も孕んでいます。

そのような場合に、自社がどのような立場に立たされるのか、また、契約の相手方にどのようなことを主張できるのか、などAIによる契約の法的効力をきちんと理解したうえで、AIを適切に活用することが重要です。

7 まとめ

これまでの解説をまとめると、以下のようになります。

  • AIが権利義務の主体になることはできない
  • 契約当事者がAIを利用した場合、契約から生じる法的効力はAIの利用者に対して及ぶ
  • 「錯誤」とは「勘違い、誤り」のことをいう
  • 民法上の錯誤は、①表示の錯誤、②動機の錯誤の2つに分けることができる
  • 「表示の錯誤」とは、契約当事者の一方が、勘違いにより、自分が意図するとおりの表示をしていなかった場合をいう
  • 「動機の錯誤」とは、自分が意図するとおりの表示はしているものの、その意思が作られる過程に勘違いが入っていたような場合をいう
  • 表示の錯誤は民法上の錯誤にあたり、動機の錯誤は民法上の錯誤にあたらないというのが原則である
  • 「動機の錯誤」であっても、その動機が契約の相手方に表示されて、契約の内容になっていれば、民法上の錯誤にあたる
  • 錯誤により意思表示をした人が、錯誤に陥ったことについて重大な過失があるような場合には、契約の無効を主張することはできない
  • 契約の相手方が悪意である場合には、錯誤により意思表示をした人に重大な過失があったとしても、錯誤無効を主張できる
  • AIによる契約の多くの場合は「動機の錯誤」にあたると考えられる
  • AIが勝手に契約をした場合、その契約が成立することはない