あなたが乗っている自動運転車の前方に、突然５人が飛び出してくる場面を想像してほしい。今のスピードのままではブレーキが間に合わず、右側の対向車線には避ける余地がないほど車が続いている。車は乗員の命を守ることを前提に、右に進路を変えることはなさそうだ。左側の歩道には歩いている１人が見える。直進すれば５人にぶつかり、左に回避すれば１人を巻き込むことが予想される。「トロッコ問題」と呼ばれるこの究極の２択を迫られる状況で、自動運転車はどう動くべきか。（時事通信経済部 工藤玲）
倫理的な議論の意義
トロッコ問題は、当然ながら自動運転だけではなく、人間が自ら運転する場合にも起こり得る。ただ人間の場合、反射的にハンドルを切ったり、パニックで体が固まってしまったりと、冷静な判断が難しいケースが多い。一方の自動運転車は、考え得る限りのケースを想定し、あらかじめプログラミングした通りに作動する。つまりトロッコ問題に直面した自動運転車が、何を優先させてどのような動きを選択するかは、人間による事前の検討次第といえる。
そのまま直進すれば５人と衝突し、方向を変えれば１人が巻き込まれる場面。単純に犠牲者の数を最小限に抑えるのなら、瞬時にセンサーで人数を把握し、人数の少ない方に向きを変えることはできるだろう。１人の命より５人の命を優先する、言い換えれば５人を守り１人を犠牲にするプログラミングをすることになる。人間がとっさに判断する通常の車両よりも、事前に命の選別をも迫られるため、自動運転車の普及には倫理的な議論が不可欠だ。
メーカー側も、自動運転の技術を磨く上で、倫理的側面からの議論の必要性を感じている。ホンダで車両制御システムの研究開発に携わってきた波多野邦道氏は、「単に事故を起こさないことだけではなく、何をどのように配慮するのかという価値観（を考えること）が、非常に重要になってくる」と語る。
倫理ガイドラインの現状は
ドイツでは２０１７年、政府が立ち上げた倫理委員会が、自動運転車とコネクテッドカー（つながる車）に関する倫理指針を策定。命の軽重を年齢や性別といった個人の特徴で区別しないことや、責任の所在を明確にできる記録を残すことなど、２０の規則を示している。自動運転に特化した同様の提言は欧州連合（ＥＵ）や米国にもある。日本政府は１９年３月、人工知能（ＡＩ）の開発や活用に関する「ＡＩ社会原則」を策定しているものの、自動運転に特化したものではない。
そうした中、日本でも民間主導で、法学や倫理学、工学などさまざまな分野から専門家１０人が集まり、「自動運転倫理ガイドライン研究会」が２１年９月に立ち上がった。樋笠尭士代表（多摩大学専任講師、名古屋大学客員准教授）は、「メーカーが車内の人を守るのは当たり前だが、歩行者を犠牲にしてはならないのも当たり前。その対立が表れてしまうのが自動運転の世界だ」と話し、車に乗っていない人命にも影響が及ぶ特異性から、自動運転固有の倫理指針の必要性を強調。国にも働き掛けたい考えだ。
研究会は今年６月にシンポジウムを開催し、「自動運転倫理ガイドライン案」を公開した。乗員や歩行者の別を問わず人命を尊重することや、メーカーは自動運転システムが作動する条件などを誇張せず使用者に伝えることなど、計１１の指針を示した。
ドイツの指針では、トロッコ問題は不測の事態が多く一般化が難しいため、事前のプログラミングはすべきでないとの立場を示している。樋笠代表は「ある意味（独の指針は）、メーカーを悩みから解放してあげている。でも、それでいいのかというのがわれわれの考え方だ」と説明する。
そこで研究会はトロッコ問題への対応について、指針の中で、時代によって変わっていく価値観に応じ、業界全体で方向性を定めることを目指すべきだとした。事前のプログラミングを否定せず、独の指針とは異なる立場を取った。
プログラマーに責任？
メーカーが自動運転車のプログラミングを手掛ける際、トロッコ問題への対応として、▽特別なプログラミングをしない▽人数が少ない方を犠牲にするプログラミングを施す―など、幾つかの選択肢が考えられる。法学が専門の樋笠代表は、もし指針が何もない状態で事故が起き、犠牲者が出れば、プログラマーが罪に問われる可能性があると指摘する。
刑法３７条の緊急避難の規定は、「現在の危難を避けるため、やむを得ずにした行為は、これによって生じた害が避けようとした害の程度を超えなかった場合に限り、罰しない」と定めている。罪に問われないよう緊急避難を成立させるには、「やむを得ずした行為」でなければならない。プログラマーが別のプログラミングを施すこともできたと判断されれば、犯罪として成り立ちかねないのだという。
トロッコ問題に対し業界全体で指針があれば、「他に取るべき行動がなかった」（樋笠代表）と解釈し、プログラマーの責任は回避できる。樋笠代表は「あえてどちらかの人をひくプログラミングをすれば、故意犯として殺人に問われる可能性もゼロではない。そんなことを考えていては、誰もアルゴリズムを組めなくなる」として、プログラマーやメーカーを守るためにも、技術の進歩のためにも、指針の必要性を訴える。
ホンダの波多野氏は「（基準を）過度に求められると、がんじがらめになってしまい普及拡大のバランスが崩れる」とする一方、「何の制約もないと、無限に可能性について配慮し続けることになる」ため、前提となる指針は重要と説明する。トヨタ自動車の自動運転技術の開発や実用化を担う子会社「ウーブン・コア」の田中伸一郎氏も、「作り手の観点から、どのような考えに基づいてプロセスを定めればいいのか、倫理課題を解決する必要がある」と語る。
「社会受容性」の醸成を
今年４月には、自動運転の５段階の技術区分で上から２番目となる「レベル４」の公道走行を許可する改正道交法が成立し、特定の地域であれば運転者がいない完全自動運転が可能となる。自動運転については来年５月までに施行される予定で、いよいよ無人自動運転車の実用化が目前に迫る。現状の規格では自動運転車も、人間の運転手を想定した一般の交通ルールを順守することが求められており、トロッコ問題が生じる場面で歩道に乗り上げて緊急回避することは認められていない。技術面での課題もあり、自動運転車固有の交通ルールに関する議論はまだまだこれからだ。
研究会の岩月泰頼弁護士（名古屋大客員准教授）は「指針を勝手にメーカー側が作るわけにもいかない。社会受容性と表裏の問題だ」と話す。交通安全環境研究所の河合英直氏は一般の自動車が多数の死者を出すにもかかわらず普及している点を例に挙げ、「社会はそれを受容している状況だ」と説明する。自動運転車も同様に、「便利さや危険性などを踏まえ、正しく伝えて、正しく理解してもらった上で、社会受容性を熟成していく必要がある」という。
経済産業省は、自動運転に対する社会受容性の向上を目的としたイベントの開催や、アンケート調査に取り組む。国土交通省とともに「自動走行ビジネス検討会」を設置し、警察庁や総務省などとも実用化に向けた検討を進めている。それでも自動運転に特化した公的な指針の策定について、国交省の担当者は「まだ時機ではない」と話し慎重な姿勢を示す。社会に十分に受け入れられている段階になく、規制が増えれば技術開発の進捗（しんちょく）を妨げる可能性もあるためだ。
人口が減り、高齢化の波が押し寄せる日本にとって、自動運転車は地域の足としての役割にも大きな期待がかかる。レベル４の車両は、トヨタの自動運転バス「イー・パレット」などが走行を実現させており、もはや遠い未来の話ではない。勝手に動く不気味な乗り物としてではなく、多くの人の便利をかなえる乗り物として広く受け入れられるよう、技術開発と並行し、分野を超えた課題にも議論を重ねてほしい。
（2022年7月20日掲載）
 (1).jpg){kind=small}
