引き続きコロラドでのイベント参加。二日目の朝は、濃い霧に包まれていた。
なにやら昨今の状況を暗示しているような気がする。さて、朝は6時半に朝食会場へ行って朝飯を食い、部屋に戻ってざっとシャワーを浴びてから朝のキーノートを聴く。
今朝のキーノートは、長年FBIで誘拐事件の交渉役を務めていた人物。流石の話術で会場は盛り上がるのだが、残念ながらこうしたカジュアルな雰囲気の話は私のヒアリング力に余る。なんとか聞き取れた内容を言えば、相手に質問する際に、答えがYESになる質問の仕方の方が心理的にハードルが低いが、交渉術においては、これは罠として使えるのだとか。YES/NOの質問を織り交ぜながら相手を心理的に揺さぶっていくのだそうだ。とにかく、相手の本音をどう引き出すかが重要なポイントだとのことである。
その後、今日はAI関連の話を続けて聴く。最初の講演はCISCOのエンジニア。AIエージェントが、実際に何かを実行する際に使用するMCPサーバだが、このMCPを悪用した攻撃もあり、また、不必要な情報までエージェントが取り出してしまわないように、MCPの通信に入り込んで、チェックする仕組みについての話。既に実証は終わっていて、近いうちに製品化するとのこと。こうした仕組みを間に入れるとボトルネックにならないか気になるのだが、実際に遅延は僅かだという。大きなポイントは、データのチェックとポシリーのコントロールを分けること。エージェント、MCPサーバの双方から影響を受けない形での判断が重要だという。
同様の話は次の講演でもあった。こちらの講演は具体的な実装の話では無く、こうした制御を行う際の考え方について。Aiエージェントに対するポリシーの適用は、可能に限り、それが何かを行う直前で、独立した形で行う必要があるという点。ちょうど、人的ミスや故障の際に、機械側でフェイルセーフを組み込むのに似ている。してはならないことをAIに教えることも必要ではあるが、すべてのパターンを人が網羅出来るわけではない。現実に、人の指示をかいくぐって不正な動きをしてしまった事例は多い。AIへのポリシー適用は、AIが扱える環境とは完全に独立して行う必要があるという話だ。これは、先の講演のシステムの設計思想に通じる。
この時期、こういう飾り物は定番。このガイコツはなかなか存在感がある。これも、昨今のギョーカイ界隈の状況を暗示しているような気もするが・・・。
午後はタウンホールミーティングで、ISC2の幹部が、ISC2の方向性を話したり、参加者からの質問を受けたり。ちなみに、来年の開催は、ワシントンDC近郊のナショナルハーバーとのこと。以前何度か、別のイベントで行ったことがある場所だ。来年また行けるのを楽しみにしていよう。その後、今度はAIを使ったバグ探しの話。いろんな条件で実行させてその違いを見る研究の話は興味深い。単純にバグを探す指示だけでは、3割程度しか見つけられないが、指示を細かくしていくにつれて、検出率が上がる一方で、誤検知も多少増えるというのも面白い。☑させるときは、対象のコードが含まれたファイルだけでなく、関連したファイルをすべて与えることで、他のファイルに依存したバグ（脆弱性）も見つけ出せるようになる。いやぁ、なかなか面白い世の中になった。まぁ、そのうち、AIが全部コードを書くようになったら、そんなことも不要になるのか。あるいは、Ai間違いを別のAIがチェックすることになるのか・・・。いずれにせよ、これから数年の内にそんあ世界が来るのだろう。
会場の渡り廊下から、西側を見ると遠くにロッキーの山並みが見える。以前、アスペンやヴェイルにスキーで来たのを思い出した。スキー場のトップは4000ｍとかなので、空気が薄くて難儀したのを覚えている。
今日も部屋でちょっと横になったら寝てしまい、最後のセッションは逃してしまった。夕方、展示会場で軽食と酒が出るレセプションがあり、今夜の晩飯は、それですませる。昨夜、ちょっとカネをつかやったので、今日はタダ飯である。（笑）会場に大きなクマのぬいぐるみ。愛嬌があるが、この時期、山では本物がうろついているので、洒落にならない。
そんな感じの二日目である。こんな夕景をみながら、部屋に戻る。
夜8時から1時間ほど日本と打ち合わせ。まぁ、これはお約束である。さて、明日はもう最終日。午前中でイベントは終わる。
コメントする