このブログは「風見鶏」が、日々気づいたこと、思ったこと、したことを気ままに綴る日記です。2008年9月に旧ブログから引っ越しました。バックアップをご覧ください。

ゲストログインがうまくできないので、コメントを承認制にしました。スパムでないことを確認の上、公開します。判断はあくまで「風見鶏」の主観で行いますので、文句は受け付けません。(笑)承認が遅れることもままあると思いますが、あしからず・・・

システムトラブルのため、2015年以降のブログ画像が消失しました。鋭意、新しい物から順次復旧中です。たぶん、画像再編集には数年かかると思います。(苦笑)

なお、ここに書いていることは、あくまで個人的な思いであり、いかなる組織をも代表、代弁するものではありませんし、無関係ですので念のため。

ESCARコンファレンス2日目

| コメント(0) | トラックバック(0)

今朝はいいお天気のブリュッセル。起床は6時台で、7時過ぎに朝食をとる。夜明けが遅いので、7時では、まだ真っ暗である。8時頃になってようやく周囲が明るくなって、こんな景色が部屋の窓から見える。

8時半くらいにホテルを出てコンファレンス会場へ。空気は、ひんやりとしている。

そして9時からコンファレンスセッション開始。冒頭のキーノートは機械学習を使ったシステムへの攻撃に関するものである。

昨日も書いたのだが、このあたりの話が今回、一番聴きたかったところ。昨日は、画像認識を混乱させる画像改変の話だったのだが、今日の話はもう少し一般的な解説である。ちなみに、講演者いわく、世間では機械(深層)学習とAIつまり「人工知能」が混同されており、前者は「学習」による「情報の分類」に特化した技術であり、後者はそうした技術を応用して、機械に知能を与えるものなので混同しないでほしいとのこと。今回の話は前者のことであるとの前置きで話が始まる。

機械学習にはいくつかの方法があるが、共通するのは、大量のデータから学習済みモデルを作り、それを使って、なんらかの情報を処理し、それを抽象化したり、分類したりすることだ。そのそれぞれのプロセスに対して攻撃の余地があるという。たとえば、学習に際してデータに意図的な偏りを与えることで、モデル自体を歪ませることが可能だ。また、学習済みモデルは、それが悪意ある者の手に渡った場合に、リバースエンジニアリングされ、攻撃に利用されたり、それ自体を改ざんされたりする可能性がある。特に、判断の境界を洗い出すことができれば、境界線上のデータを使って、先に述べたような誤認を引き起こすデータを作ることも容易になる。また、モデルを改ざんできれば、特定のパターンのデータを別のパターンと誤認識させることもでき、これを使って顔認証などへのバックドアを作ることもできる。最後は、加工された入力データによる誤動作の誘発だ。これらはすべて機械学習における本質的な問題であり、根本的な防止策はないという。つまり、こうした問題を認識した上で、学習データの完全性や、モデルの完全性、機密性を適切に保護し、データを使った攻撃に対しては、複数の判断を組み合わせるなどして対抗するしかなさそうだ。つまり、それぞれの段階で、一定のコストをかけたセキュリティ対策が必要になると言うことである。当然ながら、セキュリティの基本としての(悪意を前提とした)リスク評価で得られたリスクと対策コストのバランスが必要になる。問題は、こうした「リスクの評価」どころか、リスクがあることの認識すら希薄なままで深層学習の応用が進んでいることだ。とりわけ、自動運転などのクリティカルな領域で、機械学習に関わる技術者や研究者、そして企業の経営層が正しくリスクを認識しているかという点に不安が残る。

一方で、機械学習などの基盤は統計学や数学である。こうした分野に一定の知識がないと、その理解やリスク評価は難しいかもしれない。そういう意味では、外部の「セキュリティ専門家」で、これらに対応できる人材は極めて少ないだろう。育成も簡単ではないし、そもそもAI分野の人材が大量に必要になるであろうことを考えれば、こうした人材は「セキュリティ」ではなく「AI」に流れてしまう可能性が高い。機械学習やAI分野の技術者や専門家が、もっとこうしたリスクに目を向け、認識していくことが重要だと思うのである。また、そうした技術を実装するにあたってのセキュリティ対策も重要だ。最近、機械学習の実装を容易にする様々なフレームワークがオープンソースとして提供されつつあるが、こうしたフレームワークの脆弱性対策も重要となる。自動運転や、様々な重要分野への機械(深層)学習、AIの応用が広がる前に、こうした問題をきちんと整理しておく必要があるだろうと思うのである。

残念ながら、この種の話はこれだけだったのだが、参加者にはなんらかの問題意識が生まれただろうと思う。これをきっかけに具体的な動きが生まれてくることに期待したい。(もちろん、自分自身が何か出来ないか・・・とういことも含めて)

さて、その後のセッションは、また従来からの流れに戻り、昼過ぎまでは、どちらかといえば技術的な発表が主体だった。ランチのあと、少し時間があったので、また周囲を歩いて見る。

青空と、すこしひんやりとした空気が、なかなか心地よい昼下がりである。

午後は、自動車系のセキュリティ標準などに関する話があって、午後4時前にコンファレンスは終了となった。今日は、まだ明るい間に終わったので、一旦宿に戻ってから、また外に出てみた。

会場から帰る途中の道のあたりで、マーケットが開かれていて、色々な露天が出ていたので、すこしまわってみる。何かを買うわけではないが、こうしたローカルな雰囲気を楽しむのも旅である。

うまそうなワインを並べた露天があったので、思わず座って一杯。おすすめの白をと言ったら、ブルゴーニュの美味しいのが出てきた。一杯6ユーロである。

今回初めてのブリュッセルだが、英語が普通に通じるのが嬉しい。このあたりの人たちはフランス語を話す人が多いようだが、だいたい英語もしゃべれるようだ。ホテルの従業員もフランス語と英語を使い分けている。

結局、ワインをおかわりして、ほろ酔いになり、少し雰囲気を味わってから、暗くなる前にホテルに戻る。空には三日月がかかっている。

ホテルの部屋に戻って窓の外をみたら、こんな夕景。いい感じだ。

晩飯はホテルのレストラン。6時過ぎに行ったら、ディナーメニューは7時からだというので、飲みながら待つことにした。Leffeという地物のビールがなかなか美味しいので、2杯のんだら、先のワインも重なっていい感じになってしまった。部屋に帰ってそのまま寝落ち。夜中に明かりを消して、そのまま朝5時前まで。それから起きて、これを書いている。8時くらいには、ホテルをチェックアウトして、また歩いて中央駅に向かう予定だ。中央駅の周辺を少し歩いてから空港へ向かい、ブリュッセルをあとにする。帰りはアムステルダム経由で成田行きのKLMに乗り継ぐ予定である。

トラックバック(0)

トラックバックURL: http://www.kazamidori.jp/MT6/mt-tb.cgi/3636

コメントする

月別 アーカイブ

この記事について

このページは、風見鶏が2018年11月15日 13:15に書いた記事です。

ひとつ前の記事は「ESCARコンファレンス初日」です。

次の記事は「快晴の下、帰途に」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。