最近話題の仕事ねたを少し。米国 Anthropic社のAI、Claude Mythosが、最近ニュースになっている。米国政府を皮切りに、各国、日本などの政府が、「金融機関や重要インフラへの脅威」として、関係機関や企業に対策を促す動きが広がっている。
発端は、Mythos（日経などのメディアはミュトスと呼んでいるが、「ミュ」にはちょっと違和感があるので、私はミトスと呼ぶ）が、これまで発見されていなかった大量の脆弱性を様々なソフトウエアで発見した（と言われている）こと。おそらく、コード解析によるものだと思うのだが、これを皮切りに、大量の脆弱性が短期間に発見され、対応が追いつかなくなる可能性が最も大きな懸念点である。一方、先にダークサイドがこうしたAIを使って脆弱性を見つけ出し、修正前に攻撃を仕掛けてくることも懸念されている。
Anthropic社は、こうした懸念から、Mythosを正規のソフトウエアベンダなど、信頼がおける相手のみに限定公開しているのだが、こうした問題はMythosに限らない。最近Mythosばかりがクローズアップされているのだが、他のAIでも同様のことは可能だし、性能面のギャップもすぐに埋まっていくだろう。こうした大規模な高性能AIばかりでなく、オープンソースのモデルを使った、デスクトップレベルでのAIでも、少し高性能のハードウエア（GPUなど）を使えば、そこそこの性能は出せると、先日のBlackHat Asiaで、元Open AIの研究者が述べていた。つまり、この問題はMythosだけでなく、AI時代の脆弱性管理やシステム防御のあり方そのものに大きな課題を提起していると言えるだろう。
先に述べたように問題はいくつかある。まず、短期的には、Mythosのような高性能AIを使って、ソフトウエアベンダやオープンソースコミュニティー、研究者などが、過去のコードに大量の脆弱性を発見することで、その修正や、運用現場でのパッチ（修正されたソフトウエア）の適用が追いつかなくなることだ。コードの修正は、いっそAIにやらせれば効率が上がるだろうが、パッチの適用は簡単ではない。被害が懸念されるシステムはその多くがミッションクリティカルなシステムで、可用性の要求レベルも高い。パッチがリリースされたからと言って、すぐに停めてインストール、というわけにはいかない。まして、これまでも、パッチによる不具合は頻繁に発生しているから、たとえばバックアップのシステムに適用してきちんと動くかどうか検証する必要がある。大規模なシステムでは、多くの場合このプロセスに数週間から数ヶ月をかけているのが実情だ。
AI時代を念頭におくならば、こうしたプロセスは大幅に短縮する必要がある。こうした脆弱性は、同じようにダークサイドによって発見される可能性が高く、その脆弱性を攻撃するコードもAIに生成させることができるため、多くの脆弱性はパッチリリースと同時かそれ以前に攻撃が始まる「ゼロデイ」脆弱性になる可能性が高い。これが第二の問題だ。この状況は今後しばらくは悪化するだろう。パッチがリリースされてから、それが適用されるまでの期間、システム（特に、外部などから攻撃を受けやすい環境にあるシステム）は攻撃を受けるリスクに晒されることになる。たとえば、パッチの検証から適用までを自動的に行うシステム（これもAIがらみになるだろう）があったとしても、即日適用は難しいだろう。こうしたプロセスにはガバナンス面で、要所要所に必ず人間が介在するように設計されているからだ。AIが十分に信頼出来るようになれば、こうした問題は改善出来るようになるかもしれないが、それにはまだ時間がかかる。当面は、パッチが適用されるまでのあいだ、攻撃の兆候を監視して、防御するという「臨戦態勢」が必要になる。これも、人間がやっていたのでは限界があるから、AIの出番になりそうだ。複数のシステムに大量の脆弱性が存在し、それに対して動的に防御するというのは簡単ではない。まして、攻撃を受ける可能性があるシステムがどこに存在しているのかを十分に把握出来ていなければ、防御すべき対象から漏れるシステムが出る可能性もある。いわゆる攻撃対象領域管理（Attack Surface Management）や脅威暴露管理（Threat Exposure Management）が普段から出来ていないと、対応が難しくなる。
最も深刻な問題は、こうした対処に必要なリソース（特に専門的スキルを含めた人的なリソース）が膨大になることだ。リスクベースで、リソースを優先配分するにしても、おそらく絶対的にリソースが足りなくなり、防御が手薄になるシステムが少なからず生じてしまう。この問題も、おそらくAIに頼って、自動化、効率化することが必須となるだろう。つまり、AI時代には、守る側もAIをフル活用できなければ負けてしまうということなのだ。
つまり、Mythosが提起しているのは、これからのサイバー領域での攻防は、AI対AIの戦いにならざるを得ないという問題なのだと私は考える。セキュリティソリューションベンダもこうしたことを念頭においたシステムを市場に投入してくるだろう。ただ、これは部分的なソリューションで解決できる問題ではなく、防御対象とそのリスクの全体像を把握した上で、すべての対処を最適化するという総合的なソリューションを必要とする。単一のベンダでこうしたソリューションを提供できそうなところは少ない。当然複数のソリューションを組み合わせて構築する必要があるのだが、残念ながらそうした能力を持つSIerも多くないのが現状だ。そういう意味では、当事者であるITユーザ企業自身が、こうした全体像を把握し、大きな絵を描いて、ベンダやSIerに提示出来るだけの能力を獲得しなければ、生き残っていけないと思うのである。一方、こうしたことにあまり時間をかけているわけにはいかない。脅威はそこに迫っているからだ。ショートカットができないなら、正面から全力で取組むしかないだろうと思うのである。
日本政府が金融や重要インフラに対して検討を指示したのは、おそらく米国の影響だろう。一方で、政府が作る検討の場で、こうした問題がどこまで真剣に議論されるのかは注視していかなければいけない。この問題は決して、「お茶にごし」ではすまないからだ。問題の本質をきちんと理解して、対処していかなければ、国の存亡にも係わる事態なのである。
長い目でみれば、この問題は一過性のものかもしれない。いずれ、ソフトウエアやシステムの開発もAIが担うようになり、少なくとも人が作り込むレベルでの脆弱性は排除されてしまうだろうからだ。一方、より高次元のAI同士の戦いは続いていくかもしれない。もしかしたら、もう10年もすればそんな時代になるのだろうか。その時、我々人間はどのように過ごしているのだろう。
コメントする