米カリフォルニア大学アーバイン校、米フロリダ大学、米Toyota InfoTech Labs、電気通信大学に所属する研究者らが発表した論文「Invisible Reflections: Leveraging Infrared Laser Reflections to Target Traffic Sign Perception」は、赤外線レーザーを用いて交通標識にスポット光を照射し、自動運転車の認識システムを誤認させる攻撃を提案した研究報告である。
自動運転車では、車に設置したカメラが捉えた映像を深層学習モデルで分析し、道路標識を識別する。このシステムの安全性を確保するため、AIに間違った標識を認識させるような攻撃の脅威を、自動運転車が普及する前に先駆けて理解するための研究が進められている。
その一例として「敵対的パッチ」という手法が存在する。これは、AIを欺くために特別にデザインしたパターンのステッカーを標識に貼り付け、AIの誤認識を誘発するものだ。しかし、この手法は人間の目には不自然さが明らかであり、攻撃のステルス性は低い。
道路標識に「人に見えないレーザー」照射 自動運転車を欺く攻撃 米国と日本の研究者らが発表（ITmedia）