米カリフォルニア大学アーバイン校と米カリフォルニア大学ロサンゼルス校の研究チームが発表した「Too Afraid to Drive: Systematic Discovery of Semantic DoS Vulnerability in Autonomous Driving Planning under Physical-World Attacks」は、自動運転車において、道路脇に置かれた物に反応し停止してしまうかを検証した論文だ。

 道路脇に物体(段ボール箱、ごみ箱、自転車、カラーコーンなど)を置くことで、自動運転車が急停止などの望ましくない行動をとる可能性を研究チームは指摘。この脆弱性は自律走行システムの過度な安全が裏目に出たもので、高速道路の出口で急停車するなど、乗車している人に危険を及ぼす可能性がある。

 現在、さまざまな企業がハイレベルの自動運転車を開発している。その中には、Google Waymo、TuSimple、Pony.aiなど、既に公道でサービスを提供しているものもある。このような高度な自動運転を実現するためには、知覚や定位などの環境センシングステップの後、自律走行システムはセンシングした情報を用い、安全かつ効率的なだけでなく、交通ルールなどの運転規範に適合した巡航、停止、車線変更などのハイレベルな運転決定を行う必要がある。

 このような意思決定プロセスに誤りがあると、攻撃的すぎる運転で衝突を引き起こしたり、保守的すぎる運転で不必要な緊急停止や道路封鎖を引き起こすなど、好ましくない運転行動に直接つながるため、セキュリティ上非常に重要なプロセスとなる。

 このような自律走行システムのセキュリティ脆弱性については、さまざまな先行研究が報告されているが、そのほとんどは自律走行システムの計画ではなく、カメラやLiDARなどによる環境センシングのエラーに着目している。また過度に攻撃的な行動のみが考慮されており、今回のような過度に保守的な側面の研究は少ないのが現状だ。

 そこで研究チームは、巡航、車線変更、減速、停止などのタイミングを管理する車両の意思決定プロセスを監督する自律走行システムのコンポーネントに着目して調査を行った。

 脆弱性を体系的に発見するために、自律走行システムの脆弱性を自動的に検出できるテストツール「PlanFuzz」を開発した。PlanFuzzを使って、オープンソースの自律走行システム「Apollo」と「Autoware」を評価しビデオによるデモを行った。

 デモには、道路脇に段ボールなどを置いて恒久的に停止させるシナリオ、路側帯に駐輪している2台の自転車により車両を一時停止標識のある交差点前で恒久的に停止させるシナリオなどが含まれる。

 その結果、道端に置かれた段ボール箱や自転車によって、誰もいない大通りや交差点で車両が恒久的に停止することが発見された。また、別のテストでは、存在しない脅威を察知した自動運転車が、計画通りに車線変更することを怠るケースも確認された。

 この結果から、自動運転車を永久に目的地に着かせないことや、緊急停止させ追突事故を起こさせること、走行ルート上で必要な左/右折や車線変更などの運転判断を放棄させるいった攻撃が行えることを示した。

 Source and Image Credits: Wan, Ziwen, et al. “Too Afraid to Drive: Systematic Discovery of Semantic DoS Vulnerability in Autonomous Driving Planning under Physical-World Attacks.”

 ※テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。