歩行者をはねたAIは、最後までそれが「人間」だと認識できなかった――。

米国家運輸安全委員会（NTSB）は、2018年3月に米アリゾナ州フェニックス郊外で起きたウーバー（Uber）の自動運転車による歩行者死亡事故に関する報告書を公表した。

米国内ではこのほかにテスラの自動運転車による２件の死亡事故が明らかになっているが、いずれも犠牲となったのは運転していたドライバー。自動運転車による死亡事故で歩行者が犠牲になったのは、この件が初めてだった。

440ページにのぼる報告書では、ウーバー車のAIは車道に歩行者がいることをそもそも想定していなかったため、最後まで「歩行者」とは認識できていなかったことが、明らかにされた。

また、急ブレーキも作動しないなど、様々なシステムの欠陥の連鎖があったことが指摘されている。

一方、この死亡事故の余波で、フェニックス郊外の別の街ではグーグル系列の自動運転車に対し、住民による「打ち壊し」の動きまで報じられていた。

車道を横断する歩行者は想定外――自動運転車の安全性をめぐる議論は、そんなところから積み重ねる必要があるようだ。

●440ページの報告書

国家運輸安全委員会が５日に公開した事故報告書は、43件で440ページにのぼる。

事故の概要については、発生から２カ月の2018年５月に中間報告が発表されている。今回の報告書では、事故原因やその後の対応などの詳細についても明らかにされた。

事故が起きたのは、2018年３月18日、日曜日の夜。

アリゾナ州の州都フェニックスから自動車で20分ほどの郊外、テンピ市。この夜９時58分、49歳のエレイン・ヘルツバーグ氏は自転車を押しながら、４車線のノース・ミルアベニューを歩いて渡ろうとしていた。

横断歩道のある交差点から100メートルほど手前の路上。通りを渡り終わる前、ヘルツバーグ氏は右から来たウーバーの自動運転車にはねられる。

自動運転車は2017年型のボルボXC90をウーバーが改造したもので、一帯で試験走行中だった。ヘルツバーグ氏は搬送先の病院で死亡が確認される。

ウーバー車の運転席にいたテストドライバー、44歳のラファエラ・バスケス氏にけがはなかった。

今回公開された報告書によれば、ウーバー車のAIシステムがヘルツバーグ氏を捉えるのが、衝突の5.6秒前。

時速44マイル（約71キロ）で、ヘルツバーグ氏との距離は110メートルほどある。この時はヘルツバーグ氏を「自動車」と認識している。

そして衝突の5.2秒前に、今度はヘルツバーグ氏を分類不明の「その他」と認識。さらにその後、衝突の2.7秒前にかけて、「自動車」と「その他」の間を、AIの分類が行ったり来たりする。

衝突2.6秒前。AIは、ヘルツバーグ氏を初めて「自転車」と認識する。だが、ヘルツバーグ氏を「静止」状態と認識し、ウーバー車の進行方向には向かっていない、と判定している。その距離はすでに50メートルほど。

衝突1.2秒前、ヘルツバーグ氏を「自転車」と認識した上で、ウーバー車と衝突することを初めて認識。危険を感知し、作動制御のシステムが始動する。

その１秒後、衝突0.2秒前になって減速が始まると同時に、ドライバーのバスケス氏に警報で危険を知らせる。すでにヘルツバーグ氏との距離は4メートルほど。

バスケス氏がハンドルを手にして自動運転を終了させたのが衝突の0.02秒前。

しかし、ウーバー車はヘルツバーグ氏に時速39マイル（約63キロ）で衝突。そしてバスケス氏がブレーキを踏んだのは、衝突から0.7秒後だった。

●ネット動画を視聴する

結局、ウーバー車は最後までヘルツバーグ氏を「人間（歩行者）」とは認識できなかった。

これについて、報告書はこう述べている。

路上の歩行者は歩道にいるもの――そんな想定でウーバーのAI車のシステムは開発されていたのだ、という。

しかも、「自動車」「その他」「自転車」と分類が頻繁に揺らぎ、そのたびに別々の「静止している」対象と捉えたため、ヘルツバーグ氏が車道を横切り、ウーバー車の進行方向に向かって”移動”していることが認識できなかったという。

また衝突直前、ウーバー車が危険を感知するが、減速を開始し、警報を鳴らすまでに１秒間の空白がある。

これは、誤検知を回避するためのウーバーによる仕様で、この間にシステムが危険が誤検知ではないかを検証した上で回避ルートを算定する、もしくは同乗する人間のドライバーが自動運転から手動運転への切り替えを行う、という想定で設定されていた時間だという。

だが、ドライバーのバスケス氏は、この時点でもハンドル操作はしていなかった。

報告書は、システムに障害は認められなかった、としている。そして、車内に取り付けられたカメラは、衝突までのバスケス氏の様子も撮影していた。

車内設置のカメラは、バスケス氏がしばしば運転席の下の方に視線をやっている姿を捉えていた。

報告書は、ネット動画配信サービスの「フールー（Hulu）」から入手したバスケス氏の利用データから、同氏がこの夜、午後９時16分から事故発生の１分後、午後９時59分までの間、動画の視聴を続けていたことが明らかになっている。

安全確保のためのドライバーは、よそ見どころか、ウーバー車の運転席で「フールー」の視聴をしていたのだ。

●システム改修と実験走行再開

ウーバーは2016年９月から東部のペンシルベニア州ピッツバーグで自動運転車の実験走行を開始。事故の１年前、2017年２月から、南西部アリゾナ州のテンピにも、実験走行の拠点を拡大していた。

同市では300人にのぼるテストドライバーによって、実験走行を展開していた。

ウーバーは死亡事故を受けて、各地の自動運転の走行実験を停止し、アリゾナでのプロジェクトは閉鎖した。

だが、テンピ市に隣接する同州チャンドラー市では、この死亡事故も一つのきっかけとなり、やはり実験走行がおこなわれていたグーグル系列のウェイモの自動運転車に、住民による妨害や攻撃が相次ぐという騒動になっていた。

※参照：ウェイモの自動運転車を住民が襲う（01/05/2019　新聞紙学的）

ただ、ウーバーによる自動運転車の実験走行は2018年12月にピッツバーグで再開。死亡事故で判明したシステムの問題点についても、歩行者検知のシステムを追加するなど、修正を行った、という。

だが、人を人として認識できないAIによって、人の命が奪われた、という事実は残る。

（※2019年11月7日付「新聞紙学的」より加筆・修正のうえ転載）

【訂正】11月９日06:14　　衝突5.6秒前のウーバー車と被害者との距離を「１キロ」から「１１０メートル」に、2.6秒前の距離を「500メートル」から「50メートル」に、0.2秒前の距離を「35メートル」から「４メートル」に、それぞれ修正しました。筆者の計算間違いでした。