MENU
BIZLAW BIZLAW
Powerd by LexisNexis®
BIZLAW
BIZLAW Powerd by LexisNexis®

RSS
Google+
Twitter
Facebook
HOME

AI・ロボット・自動運転の
法的実務の課題と対応の方向性
(その2)

弁護士・弁理士・米国弁護士 (芝綜合法律事務所) 牧野 和夫

legalcuttingedge_main01

 人工知能に関するソフトウェア・クラウドデータベース、医療などのソフトウェア分野、そしてロボット工学、自動運転自動車、ドローンなどのハードウェア分野双方において、テクノロジーは急激な発展と変化を見せています。企業ビジネスがこれらの最先端技術の活用を視野に入れようとするとき、求められるのはビジネスの促進と法的リスクとをカバーできる法務のあり方です。最先端の技術領域を扱うビジネスに関して、これからの法務の課題は何か。あるべき法制度の設計はどのように行われるべきか。この連載では、「最先端法務」の未来を展望します。第5回は「AI・ロボット・自動運転の法的実務の課題と対応の方向性(その2)」。

 


 関連記事
   最先端法務とは何か 第1回 データ立国に向けて / 別所 直哉
   最先端法務とは何か 第2回 AI・ロボット・自動運転の法的実務の課題と対応の方向性(その1) / 牧野 和夫
   最先端法務とは何か 第3回 社会構造に降り始めた「自動運転車」という隕石(前編) / 足羽 教史
   最先端法務とは何か 第4回 社会構造に降り始めた「自動運転車」という隕石(後編) / 足羽 教史




はじめに

 本稿では、人工知能(AI)技術の進展がどのような業種へ影響を及ぼすかを見た上で、具体的に何が起きようとしているのか(主に米国の動き)、米国政府・日本の政府の対応(立法・法規制の動向)を概観する。次に法制度への具体的な影響(人工知能の民事責任、刑事責任、正当防衛や緊急避難、プライバシー保護責任、知的財産の帰属、雇用法)について見ていきたい。最後に、日本の学会・業界団体の動き、さらには企業法務部・知財部の機能やあり方についても論じる。

 前回(その1)に続く今回では、「6 AIやロボット(自動運転車を含む)が人間にケガをさせたら誰が民事責任を問われるか? (6)約款の重要性について」にはじまり、「10 AIが作った知的財産は誰のものか」までを考察する。ぜひ、(その1)のご一読後に(その2)を読み進めていただきたい。

 なお、本稿全体の目次は以下のとおり。

  1. 人工知能が影響を与えるであろう分野と業種
  2. 人工知能(AI)の急速な進展による米国の動向 ~Singularity(技術的特異点)の衝撃~
  3. 米国政府の法的ルール(規制)作りへの対応
  4. 日本政府はどのような対応を検討しているのか
  5. 技術革新は法制度にどのような影響を与えるか
  6. AIやロボット(自動運転車を含む)が人間にケガをさせたら誰が民事責任を問われるか?
  7. AIやロボット(自動運転車を含む)に刑事責任は問えるのか
  8. AIやロボット(自動運転車を含む)に正当防衛や緊急避難は適用されるか
  9. プライバシー保護の問題への対応はどうすべきか
  10. AIが作った知的財産は誰のものか
  11. 雇用への影響、その他の課題
  12. デバイスカテゴリー毎の法的課題まとめ
  13. 日本の学会、業界団体の動き
  14. これからの企業経営の方向性・あり方について
  15. FinTechの課題と取り組みについて


6 AIやロボット(自動運転車を含む)が人間にケガをさせたら、誰が民事責任を問われるか

(6)約款の重要性について

 自動運転によって、いままで運転者が負担していた法的責任(損害賠償責任)が自動車メーカーやプログラム開発者、データ提供者へ移ってくることになる。そのため、実務上は、自賠責保障法に類似する制度を構築することを検討したり、あるいは、約款により法的責任の適切な分担を行うようになるだろう。そこで、(法的責任をどのように分配すべきかという法的ルールが整備される前の過渡期の段階では)とりわけ後者の約款によるルール作りが重要となってくるであろう。たとえば運送約款のように当事者間の合意が必ずしもなくても、一定の要件の下で有効に発効させる約款について、法的ルールの構築が必要になってくるだろう。約款では、作成者側に有利な条件を入れることが一般的であるが、たとえば、約款で責任制限規定を入れた場合に、法的にどこまで免責を受けることができるのだろうか? 責任制限を享受する当事者に故意や重過失があった場合にも責任制限は有効となるのであろうか? この点現行法ではどうなるだろうか。

 この点について、裁判所は、故意や重過失があった場合には、当該責任制限の規定は無効となると判断している。2013年7月24日東京高裁判決(2015年9月3日最高裁第1小法廷上告棄却決定)(いわゆるみずほ証券東証システム誤発注事件)が参考になるだろう。これは、2005年12月8日午前9時27分56秒、みずほ証券担当者が、その日新規上場したジェイコム株について「1株61万円」の売り注文を「61万株1円」と誤発注した。その後みずほ証券担当者が誤発注に気付き、9時29分21秒に取り消し注文を送ったが、東証システムのバグのため、この取り消し注文を受け付けなかった事案である。東京高裁判決では、「売買停止の決裁やオペレーションにかかる時間を1分程度考慮しても、9時35分00秒には売買を停止できた」と判断して、東証の重過失があった午前9時35分以降の損害約150億円の10分の7にあたる約107億円の賠償を命じた(訴額は404億円)。

 しかしながら、人工知能の誤作動の場合に、自動車メーカーやプログラム開発者、データ提供者の故意や重過失を具体的に証明することは非常に難しいといわれている。特に人工知能が自ら学習する場合に、思考のプロセスがブラックボックス化してしまい、それを検証して責任の所在を明確にすることが不可能であるといわれる。自動車へ人工知能を組み込むと製造物となりPL法の適用を受けて自動車メーカーは欠陥責任を負うことになるが、仮に人工知能部分を別売にして後付けで取り付けることにすれば、現行の製造物責任法では、自動車メーカーがPL法上の責任を負うことはなくなるだろう。他方で、人工知能のプロバイダーは、自動車メーカーや部品メーカーとの取引で、この約款の中に徹底した免責・責任制限規定を入れてくることは確実であるので(この約款の法的有効性が争われる可能性はあるが)、そうすると被害を受けた消費者側からすると自動運転により発生した損害を賠償する責任を負う者が居なくなってしまう。そうなると、自賠責保障法に類似する制度が政府によって構築されることが現実味を帯びてくることになろう。


7 AIやロボット(自動運転車を含む)にそもそも刑事責任は問えるのだろうか?

 民事責任については、前述のように、人工知能の誤作動により発生した損害を誰が最終的に負担するべきであるかという問題に帰着できるが、他方では、人工知能の誤作動により発生した刑事責任は誰が負担すべきかという点が依然として重要論点として残ってしまう。
 現行法では、責任能力のある個人と法人に対する刑事責任を問うことができる。では、そもそもAIやロボット(自動運転車を含む)に刑事責任は問えるのだろうか? 刑事責任の本質から考えてみるとどうなるだろうか。  想定外の事態が起きたときに、AIはリスクのより少ない行動を選ぶだろう。想定外の出来事は不可抗力に近いので、故意のみならず過失の存在も認められず誰も責任を負わないことになるのだろうか。また、最も重要な点として、ロボットや自動運転車に轢かれて亡くなってしまった遺族の被害者感情をどのように救済するのか(納得してもらえるのか)という問題も生じる。そもそも人間がコントロールできないものを作っていいのか。欧米では人工知能倫理の議論が並行してなされている点に注意すべきである。  「自動運転」に有益と思われる、刑事責任における原理原則をいくつかご紹介しよう。

(1)許された危険

 「許された危険」とは、「社会生活上不可避的に存在する法益侵害の危険を伴う行為について、その社会的効用のゆえにその危険を法的に許容する」法理をいう。たとえば、「危険な企業活動」、「高速交通手段の利用」、「治療行為」や「スポーツ行為」などがある。

(2)信頼の原則

 次に、「信頼の原則」は、特に交通事故の分野で「許された危険」から論理的に導かれる原則であり、刑事事件の過失犯の認定にあたって適用される。具体的には、行為者がある行為をなすにあたって、被害者または第三者が適切な行動をすることを信頼するのが相当な場合には、たとえその被害者または第三者の不適切な行動によって結果が発生したとしても、それに対して刑事責任を負わないとする原則である。
 この原則は、結果発生の予見可能性が存在するにもかかわらず、予見義務ないし結果回避義務としての注意義務の成立を否定する。2016年2月14日に発生したGoogle自動運転車の事故(右折するため一番右側の車線に入ったが、前方に複数の土のうが置かれて道が塞がれていることを認識して停車し、その後その土のうを避けるため左にハンドルを切って始動しようとしたところ、左後方から追い越そうとした路線バスの右側面に接触した事故)は、「信頼の原則」から見ると左後方のバスが「減速するだろう」という信頼が合理的に期待できる場合には、Google自動運転車に対する責任が否定されるであろう。もちろん、バスの減速を合理的に期待できない場合には、責任は否定されないことになる。

(3)優者危険負担の原則

 他方で、「優者危険負担の原則」とは、弱者保護の観点から、弱さや強さの程度を基準とした考え方である。人と車との事故であれば、人よりも車のほうが強いため車が優者となり危険負担(過失割合)が大きくなる。過失割合は、小さい順から「人⇒自転車⇒二輪車⇒四輪車(乗用車⇒大型トラック)」の順になる。ロボットと人間の場合は、当然にロボットが優者となり発生した危険を負担する義務を負うことになるだろう。


8 AIやロボット(自動運転車を含む)に正当防衛や緊急避難は適用されるか

 人工知能の意思決定プロセスに正当防衛や緊急避難は適用されるかどうかも非常に重要な論点として提起されている。たとえば、10人の人を助けるために1人を犠牲にしてよいのかという、俗にいう「トロッコ問題」をどう解決すべきであろうか?

 まずは、正当防衛や緊急避難が適用される要件は何か見てみよう。「正当防衛」とは、急迫不正の侵害に対し、自分または他人の生命・ 権利を防衛するため、やむを得ずにした行為をいう。他方で、「緊急避難」では、人や物から生じた現在の危難に対して、自己または第三者の権利や利益(生命、身体、自由、財産など)を守るため、他の手段がないためにやむを得ず他人やその財産に危害を加えたとしても、やむを得ずに生じさせてしまった損害よりも避けようとした損害のほうが大きい場合には違法性が阻却される。「正当防衛」は適用が難しいが、「緊急避難」については、失う利益と助かる利益を比較考量して、助かる利益が大きければ、基本的には、「緊急避難」が認められることになる。ただし、緊急時の判断ではなく、予め小さいほうの「失う利益」を最初から犠牲にするようなプログラムを開発してもよいのかという倫理上の問題に直面する。


9 プライバシー保護への対応はどうすべきか

 AIはビッグデータを収集・分析して最適な行動をとる。大量のデータを取得・分析・処理・利用することになると、パーソナルデータ(これまでの「個人情報」より広い概念)とプライバシーの保護が重要な課題となる。「個人情報保護法」の改正において、それでプライバシーの保護は十分だろうか?
 すでに法整備が進んでおり、改正個人情報保護法によって個人を特定できないようデータを匿名化することで、個人情報を利用できる道筋がついてきた。ただ、技術的にどのような解決をすべきかについては、個人情報保護委員会から何も具体的に示されていない(2016年7月現在)。
 今後は個人情報を利用されたくない場合、拒否の意思表示をする「オプトアウト」の仕組み作りが必要になるが、他方では、オプトアウトした人物はAIから相手にしてもらえなくなる。社会がAIの活用を前提とした時代になると、仲間はずれを生み出してしまう恐れもある。

 「パーソナルデータ」はグローバルの規模で活用されているが、EU等の法規制でビッグデータの活用を妨げる動きが出ている。EUは、個人データの法規制を強化し、制裁金=「全世界売上の4%」or「2000万ユーロ」の大きい金額を上限とし、「忘れられる権利」を導入する予定(2018年に発効予定)である。EU司法裁判所は「米欧間のセーフハーバー規定」を無効と判断(2015年)したが、米企業約4,000社がこのセーフハーバー規定を利用しており、米国のグローバル企業へ大きな影響があるだろう。
 さらに、ドイツ連邦議会では、コネクテッドカー利用者の個人情報保護法案(独連立与党が法案提出)が審議中であり、これは、車載システムを通じて収集される個人情報を本人の同意なしに第三者に提供することを禁止する内容である。この法案では、①データの提供には本人の同意と匿名化を要求する、②特に個人のプライバシーや本人特定につながる移動履歴の開示を制限する、③誰がデータにアクセスできるようにするかをドライバー自身が決定することを求める、ことを内容としている。AI・ビッグデータの活用とプライバシー保護とはこれからもどこで線引きすべきかという議論が世界各国で継続するだろう。


10 AIが作った知的財産は誰のものか

 さまざまな分野の知的財産の創作には、すでにAIの技術が利用されている。米国の新聞ではすでにAIが記事の下書きをしている事例もあるという。人工知能が生み出した音楽や小説の著作権は発生するのだろうか? 人工知能(自然人でない者)が創作したものの著作権は誰に帰属するのか? 著作権について、まずは諸外国の現状の法的ルールを見てみよう。
 英国1988年改正著作権法では「(コンピュータで生成された著作物(プログラム著作物)の場合に)著作物の創作に必要な準備(necessary arrangements)を行った者」に帰属するとしている。これによりコンピュータプログラムで生成された著作物は、その準備を行ったもの、すなわち、当該コンピュータプログラムの開発者に帰属することになるだろう。

 それでは、日本法では著作権の帰属はどうなるのだろうか? AIによる著作は現行法で規定されていない(つまり著作権法の保護が及ばない)可能性が高い。なぜなら著作者や著作の従業者は自然人に限られていると解釈されるからだ。現行法では職務著作を認めており法人(会社など)に帰属することを認めてはいるが、職務著作は従業者(自然人)を前提としているので、AIによる著作の帰属も現行法では身の置き場がないだろう。
 AIが人間の創作行為へ補助的に関与する範囲を超えると、 英国改正著作権法のように、新しい法制度が必要である。現在日本の政府も人工知能が生み出した著作物の法的保護ルールについて検討している。欧米のルール作が先行する前に、早急にルール構築をしておかないと、権利を欧米企業に持っていかれてしまう危機感があるからだろう。
 参考までに、日本法では、AIによって生み出された(著作権以外の)知的財産権の帰属はどうなるかを簡単に見ておこう。

 

 AIの知的財産権帰属先

知的財産の種類

知的財産権の帰属

特許発明の権利は?

日本の特許法では、発明者に「特許を受ける権利」が帰属することになるが、当該発明者は権利義務が帰属され得る「権利義務の主体」でなければいけないが、人工知能はこれを満たさないだろう。

意匠(デザイン)の権利は?(CAD、 CGなど)

特許発明と同様に考えることができる。

商標の権利は?

商標の場合は、出願者が権利者となるので、商標登録の対象となるロゴ等のマークを誰が創作したかは問題とならない。したがって、AIによって生み出されたマークの商標権は、出願者に帰属することになるだろう。

ビッグデータは?

営業秘密としての保護は可能であるが、それ以外の知的財産権による保護は、現行法上は非常に難しいと思われる。今後は「データ法」の研究が必要となるだろう。すなわち、以下①~③で、どこまでリスクヘッジできるだろうかが焦点になる。 ①権利の帰属(誰にどのような権利が帰属するのか?) ②データの瑕疵により損害が発生した場合に誰が責任を負うか? ③契約の締結(約款規定など)

 

 次の大きな課題としては、人工知能のプログラムは、特許の権利化ができるのかという問題が出てくる。さらには、ビッグデータで学習して賢くなった「人工知能」の権利化は可能であるか、可能であるとした場合にそれらの権利は誰に帰属することになるのか、という問題である。

 まずは、ビッグデータで学習して賢くなった「人工知能」の中味は一体何だろうか。具体的には、コンピュータプログラムと背後にあるビッグデータであろう。これを特許化しようとするとその権利範囲を明確にすることが非常に難しい。元々、人工知能がどのような「プロセス」で考え行動するかということが不明確であり、ブラックボックス化している点が問題として挙げられる。ビッグデータの権利帰属のところで述べたのと同様に、契約の締結により、どこまでリスクヘッジできるかという問題が出てくる。さらに、AIの普及により、現行の特許制度は大きく影響を受けると思われる。なぜならば、ビッグデータにより先行技術が容易に見つかり特許の取得が難しくなる、特許認容率が大幅に低下するなどの問題が出てくるであろう。

 続く(その3)では、「雇用への影響、その他の課題」「デバイスカテゴリー毎の法的課題まとめ」「日本の学会、業界団体の動き」「これからの企業経営の方向性・あり方」「FinTechの課題と取り組み」について考えていきたい。

 

編集/八島心平(BIZLAW)

 


この連載記事を読む
 最先端法務とは何か

関連記事
 前例なき時代の道標、未来型コンプライアンス

Profile

牧野 和夫 [弁護士・弁理士・米国弁護士 (芝綜合法律事務所)]

【略歴】いすゞ自動車(17年)、アップル(3年)で社内弁護士、法務責任者等を歴任し自動運転分野を議論するに相応しい経歴を有する。
【現職】 英国ウェールズ大学経営大学院教授、早稲田大学講師、琉球大学法科大学院講師、関西学院大学商学部講師、明治学院大学法学部講師、国際企業法務協会理事。人工知能等最先端法務問題の研究目的で来年から「最先端法務研究会」を国際企業法務協会内で会員企業向けに立ち上げる。
【経歴】 早稲田大学法学部卒、General Motors Institute修了(優等)、ジョージタウン大学ロースクール法学修士号、ハーバード大学ロースクール交渉戦略プログラム修了、いすゞ自動車課長・審議役、アップルコンピュータ法務部長、クレディスイス生命保険法務部長、Business Software Alliance日本代表事務局長、国士舘大学法学部教授、内閣司法制度改革推進本部法曹養成検討会委員、尚美学園大学大学院客員教授、東京理科大学大学院客員教授、大宮法科大学院大学教授、早稲田大学大学院(国際情報通信研究科)講師を経て現職。

 





ページトップ