今朝のサンディエゴ郊外、ホテルからの景色。
今日から、ISACAのGRCコンファレンスに参加である。知らない人のために書いておくならば、ISACAは、ITガバナンスや監査に関する団体で、様々な標準の開発や私も持っているCISA（公認情報システム監査人）などの国際的な資格の認定などを行っている団体だ。ちなみに、GRCは、ガバナンス、リスク、コントロール（統制）の頭文字を取ったものである。その名の通り、ITのガバナンスやリスクとそのコントロール（サイバーリスクを含む）をテーマにしたコンファレンスである。このコンファレンスも（昨年は参加できなかったのだが）ほぼ毎年参加している。昨日、レジストレーションができなかったので、朝、早めに会場へ行き、バッジやバッグの受け取りと、用意された朝食を食う。初日のスタートは9時と、こちらのコンファレンスにしては遅め。一旦部屋に戻ってから改めて出直す。
オープニングに続いてキーノート（基調講演）がある。テーマは、「失敗は一回きりに・・・」。どうしてサイバーの世界では、よく似た（原因や状況の）事故が何度も繰り返されるのか。その原因を航空機事故との対比で語ってくれた。根本的な違いは文化だという。航空機事故は公的機関が徹底的に調査し、その原因を明らかにした上で公表し、再発防止のための勧告を出す。航空会社や航空機メーカーはそれに従うので、同種の事故はほとんど再発しない。また、原因究明にあたっては、故意やよほど重大な過失がない限りは、究明を優先して関係者の証言に対して免責を与える。そんな中で、ニアミスのような、ヒヤリハットであっても、適切な申告がなされる文化がある。一方で、サイバー事故の場合は、秘密主義が横行している。その理由は様々だが、秘密の保護を理由に再発防止に有益な情報まで隠蔽される場合も少なくない。ISACのような組織はあるものの、限られた範囲に留まってしまう上に、対応に関しても強制力は無い。こうした違いが、同じような事故を防げない最大の原因だというのである。もちろん、航空業界も最初からそうだったわけではないし、今のようになるまでに長い時間を要したわけだが、サイバーの世界でも、すべての組織は無理としても、重要インフラ企業や金融機関、医療機関などは、国の監督下での公的な調査と一定の強制力を持った勧告というような形があってもいいかもしれない。ちょうど運輸安全委員会（米国ではNTSB）のサイバー版を、と講演者はその著書で述べている。
ほかにもいくつか面白い話があった。サイバーレジリエンス（強靱性）は、ルールの遵守（compliance）によってではなく、適切な文化から生まれるという話。これは、上の話にも通じる。あと、最近話題になっているPQC（耐量子暗号）については、出来るだけ早く対応する必要があるという。今の暗号は、従来型のコンピュータでは、解読に数十年～数百年といった長い時間がかかり、その間に情報としての価値を失ってしまう。だが、あと数年で量子コンピュータが実用期に入り、従来型の暗号が数時間で解読出来てしまうようになった場合、今、暗号化したデータを盗まれた場合でも、数十年の猶予はなく、数年後に量子コンピュータによって解読されてしまう可能性があるというのだ。考えて見ればその通りだ。今すぐ対応を始めても速すぎることはない。そろそろPQCの実装も流通し始めているから、とりわけ保存される機密情報に関しては、早急に対応を進める必要がありそうだ。
最初から、なかなか興味深い講演だったのだが、実は、会場の音響があまりクリアではない（残響が大きい）ので、私のヒアリング力では結構聞き取りが厳しかった。以上は投影された資料も交えての理解である。
次のセッション（個別セッション）はAI関連を聞いた。ITガバナンスやセキュリティの視点から見たAIは課題山積なのだが、その一方で、ビジネス面では待ったなしの利用を迫られている。その上、AIは変化が激しく、たとえば細かいルールを決めても、短期間で改訂が必要になってしまう。AIはすべての面で極限までスピードを上げてしまうので、評価やルール作りが全く追いついていないのである。講演者は、AIの変化が速いのが問題なのではなく、組織のガバナンスモデル（の適応が）遅いのが問題だと言うのだが、このスピードアップは極めて難題である。現実的にはAIを使いたいところだが、そのAIをどう信頼すればいいのか、結局堂々巡りに陥る。この講演でも明確な答えは出なかった。当面、常時チェック、監視しながら使いつつ、問題があれば直ちに対処するという臨戦態勢で臨まざるを得ない。これは、セッションの参加者にとっても最大の課題だろう。
次の講演はインサイダーリスクに関するもの。内部不正の問題は、社会技術的問題（Social Technical Issue）だと講演者は言う。人と業務のプロセス、関係性、文化、技術がすべて関係しているからだ。インサイダーリスクは、単に内部者の悪意によるものだけではない。単なる事故と、悪意ある内部不正の中間に位置するのが、無作為だと講演者は言う。悪意がなくても、無作為が問題を発生させる可能性があり、それもまたインサイダーリスクのひとつだと言うのである。たとえば、問題を認識しながら対処せずに放置した場合などだ。これも往々にして大事故に発展する可能性がある。意図的な内部不正のメカニズムとして、「不正のトライアングル」というものがある。不正は、動機があり、不正を行う機会があり、そして不正を正当化する心理があって、初めて実行されるという考え方だ。内部不正対策は、このどれか、または複数を阻害することを基本とする。講演者はそれに加えて、（正常な判断を損なうような）プレッシャーや、特にITに関する不正については、それを実行する能力も大きな要素だという。つまり、そうした能力を持ち、プレッシャーに晒されている人物も不正リスクが高いと考え得るのである。これは、ある意味、IT技術者やセキュリティ技術者、ホワイトハッカーの「闇堕ち」警戒の話に近い。内部不正の防止策の一つとして、業務権限の分離や相互牽制などがあるが、一人の不正には有効な対策も、複数人が共謀して実行する不正に対しては十分でない可能性がある。業務の実行者と承認者や監査人が結託した場合などである。実際、不正を実行するに当たって、関係者を巻き込むことも考えられるからだ。こうした対策は一つの切り口だけでは難しく、複数の切り口で考えていく必要がありそうだ。関連する話として、「忠誠心」は内部不正防止に役立つか、という話があった。正常な状態では、組織に対する「忠誠心」が高い人物は、不正に陥りにくいのだが、たとえば組織の環境が悪化したり、方針が大きく変わったりしたような場合、こうした人物に不正の動機を与えてしまう可能性がある点に注意が必要だという。言い換えれば、「かわいさ余って憎さ100倍」なのかもしれない。最近流行のAIエージェントは、ある意味新たな「インサイダー」であるというのも面白い考え方だろう。
復習がてら、思い出して書いているのだが、ちょっと疲れてきたので、休憩。続きは、またあとで・・・。
【追記】
さて、次の講演はAIエージェントの話。人の作業を肩代わりするAIエージェントは、当然ながら、本来人が行う判断も代行する。しかし、これを野放しにしてしまうと、誤った判断をAIが行った結果、深刻な事態を招く可能性がある。これを防ぐために、必ず人が作業のどこかで関与しようということなのだが、一方で、人の関与はAIの利点であるスピードを阻害してしまう可能性がある。このバランスをどう取ればいいか、という話である。
AIエージェントは指示に従い、状況を分析して判断を下し、それを実行するというサイクルを繰り返す。この判断と実行の部分に人が関与して確認することを、Human in the loopと呼ぶのだが、文字通り、人がそのサイクルに承認者として絡んでしまうと、そこで処理が人のスピードに落ちてしまう。判断や作業の結果が深刻な事態をもたらしかねないような目的、用途においては、これはやむを得ず、安全を優先する必要があるのだが、そうでない場合は、判断や作業をモニタリングするにとどめる考え方もある。これを Human on the loopと言う。つまりは、作業を上から見ているイメージだ。どちらの形にするかの判断基準として、講演者は二つの軸を挙げている。一つは判断や作業がもたらす結果が重大な影響をもたらすかどうか。たとえば、人命や安全に関わったり、経済的に大きな影響があったりするかどうかである。もう一つの軸は、判断や作業の結果を容易に取り消して、元に戻せるかどうか。この二軸で考えて、影響が大きいか、容易に取り消せない判断や作業については、人が関与し、影響が小さく、容易に戻せるものについては、AIに委ねて監視するという考え方である。場合によっては、影響が十分に小さければ、元に戻すことが困難なものであっても、AIに委ねることも考えられる。
AIに委ねる場合でも、きちんと監視することが必要だし、同時にAIの問題を把握し、対処するための基準を人の側が持っておく必要がある。たとえば、何をもって異常と判断するかと行ったしきい値（条件）や、作業を強制停止させるための、いわゆるキルスイッチ、発生した問題に対処するためのエスカレーションパスなどはあらかじめ用意しておく必要がある。そうした準備をしたとしても、人がAIのスピードで行われる作業を監督するのは容易ではないかもしれないのだが・・・。正常性を判断するためにはログも重要だ。人が関与する、しないにかかわらず、AIが行った判断とその理由（人が理解出来る文章で書かれた理由）、使われたプロンプトやツール、使用した権限（permission）などは確実に記録される必要がある。これらの監視は、人の目ではなく、AIのスピードに着いていける何らかのツールが必要になるだろう。AIエージェントが次第に重要な業務、作業に使われるようになっている現在、こうした考え方の整理とルールの整備は不可欠になっている。
最後のセッションは、いわゆるサードパーティーからの情報漏洩リスクの定量化に関するものである。具体的な定量化手法については詳しく紹介されなかったのだが、いくつか重要な知見が紹介された。特に興味深かったのが、組織のセキュリティを担う有資格者の人数と、漏洩事故発生との関係である。CISSP (ISC2), CISA (ISACA) , MCSP(マイクロソフトのベンダ資格）の3種類の資格について調査したところ、いずれも、漏洩事故の発生数と有資格者の人数に負の相関（人数が多ければ事故の発生が減る傾向）があると言う。特に、CISSPとCISAについては、強い相関があり、それ以外の資格とは大きな差があったという。また、漏洩事故の規模で見た場合、小規模の事故は有資格者の人数を増やしても、効果は頭打ちになるが、大規模な事故についてはその傾向は見られなかったという。一方、組織の全従業員数、IT技術者数、RHCE（RedHat認定技術者）数は事故発生数と正の相関があり、これらが多いと事故が増える傾向があるという。IT技術者数は、その組織の業務のIT依存度を示すから、理解ができる。一方でRHCE取得者が多いと事故が増える理由は定かでは無いが、Linuxの利用が多かったり、技術的に高度な業務が多かったりすることが原因になっているのかもしれない。いずれにせよ、興味深い話である。詳細なホワイトペーパーがあるようなので、後で読んでみようと思う。
さて、そんな感じで初日はおしまい。夕方から展示会場でウエルカムレセプションが開かれた。
しかし、このレセプション、酒はあるのだが、食い物が殆ど無い。これは酔っ払いの元である。とりあえず、配られていたつまみ程度の食い物を胃に押し込んで、いい加減酔っ払ったので会場を後にした。
そんな感じの初日。明日も一日会場に缶詰である。
コメントする