このブログは「風見鶏」が、日々気づいたこと、思ったこと、したことを気ままに綴る日記です。2008年9月に旧ブログから引っ越しました。バックアップをご覧ください。

ゲストログインがうまくできないので、コメントを承認制にしました。スパムでないことを確認の上、公開します。判断はあくまで「風見鶏」の主観で行いますので、文句は受け付けません。(笑)承認が遅れることもままあると思いますが、あしからず・・・

システムトラブルのため、2015年以降のブログ画像が消失しました。鋭意、新しい物から順次復旧中です。たぶん、画像再編集には数年かかると思います。(苦笑)

なお、ここに書いていることは、あくまで個人的な思いであり、いかなる組織をも代表、代弁するものではありませんし、無関係ですので念のため。

ESCARコンファレンス初日

| コメント(0) | トラックバック(0)

今朝のブリュッセルは雲の多いお天気。予報では曇り後晴れなのだが、ちょっと小雨もまじる感じで、とりあえず朝食の後、仕事をしながら様子を見る。11時前くらいになって、天気が回復してきたので、ESCARコンファレンス会場へ行く前に小一時間、周囲を散歩してみた。

それから、会場のMCEコンファレンスセンターへ向かう。ホテルから直接なら徒歩10分かからない距離にある。

このコンファレンスの参加者には日本人も多いのだが、自動車メーカーやその系列会社の人が多いからか、知った顔がないのが残念。まぁ、海外のコンファレンスで日本人が集まってもしかたがないので、それは特に問題なしである。

ESCAR EUROPEは2年ぶり。昨年は来られなかったのだが、その間に自動車業界の雰囲気も大きく変わっている。メジャーな自動車メーカーがあいついで大手IT企業との提携を発表するなど、自動運転を巡って動きが激しい。そんな中で自動運転に関連する話題も多いだろうと期待していたのだが、残念ながら大半のセッションは従来からの流れの上にあるもので、組み込み系システムやCAN-BUS、ECUに対するハッキングといった内容だった。今日のセッションではひとつだけ、カメラ画像認識に対する攻撃手法に関するセッションがあったのだが、このあたりの話が一番聴きたかったあたりである。自動運転において、AIの判断を混乱させるような攻撃は最悪の結果をもたらしかねない。今日の話では、現在の深層学習を使った道路標識などの認識を、人が見てもわからない形で加工した画像で混乱させようというものである。いわゆる「畳み込みニューラルネットワーク」(CNN)の本質的な問題でもある。たとえば、30Kmの速度制限を70Kmと誤解させたり、一時停止の標識を認識できなくしたりといった攻撃が可能になる。講演者によれば、認識前の画像のコントラストを強めたりすることで、ある程度回避できる場合もあるが、こうした問題を完全に回避するのは困難だという。興味深いのは、こうした画像を極めて短時間、人間に見せた場合、同じような誤認が発生するらしい。人間に比べて処理が圧倒的に速いAIだが、それが裏目に出るということもありそうだ。逆に、そのあたりが回避のヒントになるのかもしれない。自動運転の際のセンサーは、カメラ以外にも様々ある。自分の車で実感しているのが、カメラは悪天候や低照度、逆光の状態に弱いという点だ。ある意味、人の目に似すぎていて、人が苦手とすることが、カメラでも苦手だったりするから、一種類のセンサーや処理技術にたよらず、複数の方法を組み合わせていくしかなさそうである。道路、信号などのインフラや周囲の車との通信も手法のひとつだが、インフラには様々な「利権」が絡むので、ガラパゴス化圧力には注意が必要だろう。出来るだけ、車が自律的に動ける技術の開発が重要だ。

そんなことを考えながら聴いていた。ハードウエア系のハッキングの話は、どちらかと言えばDEFCONばりの内容である。たとえば、ECUのクロックにノイズを加えて特定の命令を実行するタイミングでエラーを発生させることで、条件分岐を制御して、プロテクションがかかったファームウエアをMCUチップから読み出してリバースエンジニアリングする・・というような話である。もちろん、そうした可能性にも目は向けないといけないのだが、実用化目前の自動運転における問題は、大急ぎで洗い出して解決しなければいけなさそうだ。AIもその基盤は従来からの延長上にあるコンピュータハードウエアと基本ソフトウエアである。こうした部分の脆弱性がAI自体に与える影響や、多用されている深層学習のフレームワークに脆弱性がないかといった点が気になるところだ。

そんな感じで、今日のセッションは午後6時で終了。まだ口の中が少し腫れていて、ディナーをゆっくり楽しめそうになかったので、コンファレンスのディナーはパスして帰ってきた。

ホテルのレストランで軽く晩飯・・・と思ったら、なにやら厨房でトラブルが発生したため料理が出せないという。仕方が無いので少し歩いて、近くにあったアイリッシュバー風のレストランに入り、ギネスを飲みながらステーキなどを食った。口の中が痛いので、ゆっくり噛みながら食うのだが、これが結構時間がかかる。早く良くなってほしいところだ。

宿に帰って、ちょっと画像を整理していたら眠くなって、横になったら、そのまま落ちてしまった。結経、朝の5時前に起きて、これを書いている次第である。さて、今日は終日、ESCARコンファレンス。今日は冒頭の基調講演が、AI系の話みたいなので、楽しみである。

トラックバック(0)

トラックバックURL: http://www.kazamidori.jp/MT6/mt-tb.cgi/3635

コメントする

月別 アーカイブ

この記事について

このページは、風見鶏が2018年11月14日 13:41に書いた記事です。

ひとつ前の記事は「雨のブリュッセル」です。

次の記事は「ESCARコンファレンス2日目」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。