米アンソロピック社の高性能AIモデル「クロード・ミュトス（Claude Mythos）」の話題は、最近はだいぶ下火になった気がします。4月に発表されたときは、片山さつき財務相が「今そこにある危機」と表現して緊急性を喚起し、メディアでも盛んにとり上げられていました。高市早苗首相もミュトスを念頭にサイバー攻撃対策を関係各所に指示し、米政府と交渉してミュトスへの特別なアクセスを取り付けたと報じられていました。
あれから三か月あまり、一般メディアではほとんど話題に上らなくなっていたのですが、8月27日に「メガバンクがミュトスを利用可能に」と新聞の見出しに出ていました。日本の3メガバンクが米政府からミュトスへのアクセスを許可され、自社システムの脆弱性発見に活用するかどうか検討に入る、という記事でした。今頃は、きっと検討が加速されていることでしょう。
一方、すでに検討ならぬ検証が進んでいた米国では、ミュトスに対する若干ネガティブな評価もちらほら出てきているようです。ネガティブというと語弊がありますが、決してミュトスへの失望が寄せられているわけではなく、脆弱性を見つけたはいいけど、それをどうするかは簡単ではないぞ、という新たな課題が指摘されているようです。
たとえば、ソフトウェア サプライチェーンのセキュリティ会社Echoは、オープンソースで広く利用されている250件のコンテナ プロジェクトで4万件近くのCVE（Common Vulnerabilities and Exposures – 共通脆弱性識別子）を検証し、さらに米国内80社のセキュリティ リーダーを対象に調査した結果をまとめた「ミュトス準備度（Mythos Readiness）レポート」を発表しています。それによると、アンソロピックが公表した27件の脆弱性のうち、ミュトスが「Critical（重大）」と評価した脆弱性の8件に1件が実際に重大だった（残りは、そこまで深刻ではなかった）という調査結果が報告されています。つまり、ミュトスは確かに脆弱性の迅速な発見に非常に優れてはいるが、脆弱性の深刻度の評価はさほど・・・という疑問が提議されています。
ミュトスをはじめとするセキュリティ特化型LLMの業界横断型検証チーム「プロジェクト・グラスウィング（Project Glasswing）」の関係者からは、ミュトスを導入することによって企業は毎日新たに発見される200件の脆弱性に対応しなければならなくなると指摘する声もあります。発見された脆弱性が本当に修正が必要なのか、どのくらい深刻で緊急を要するのか、人間が介入して判断しなければならない面が思った以上に大きく膨らんできているようです。
AIに人間の介入（ヒューマン・イン・ザ・ループ）が必要なことは常々言われてきたことで、それがAIに支配されないための、人間のあるべき未来なのですが、サイバーセキュリティの場合、攻撃側のスピード（いわゆるマシンスピード）が速すぎて、防御側がヒューマンスピードでは太刀打ちできない問題があります。AIによる脆弱性の評価精度を高めることが、今後ますます重要になるのは想像に難くありません。
脆弱性を発見するのは、プログラミングの分析という非常に論理的な作業ですが、その深刻度を評価するのは、論理的ではない微妙な要素が混ざってくる可能性があります。発見された脆弱性に影響を受ける機能のニーズ、ユーザーの傾向、使用される環境や条件、ITリソース／スタッフの状況、健康状態や人間関係だって、まったく無関係とは言えません。この点に、AIの世界と人間の世界のギャップを感じてしまいます。すべての条件をデータ化して、きちんとタグ付けして整理すれば、AIが人間的な微妙な判断をやがては精確にできるようになるのだとは思いますが、論理的でない部分の学習には相当な時間がかかるかもしれません。
たとえば、医療でのAIの活用は今後もっとも発展が期待される分野の一つですが、画像診断など、検査結果の分析という非常に論理的で科学的なAIの得意分野と、それを受ける側の人間心理とのギャップをどうするかという課題は、やがてもっと表面化してくるのではないでしょうか。システムの脆弱性を見つけるみたいに病気をどんどん見つけるのは、必ずしも良いこととは限らないという矛盾です。からだの中に病気が隠れている場合、それを確認しておくに越したことはないはずで、論理的に考えればそれが当たり前です。AIもそれを疑わないでしょう。でも、現実には知る必要がない、知らないほうがむしろ良い場合もあります。たとえば、手術をして除去するよりも、手術自体のリスクのほうが若干上回る脳動脈瘤とか、生活の質（QOL）を著しく落とす治療をするよりも、知らずに余命をすごしたほうが、患者さんの人生をトータルで見た場合に幸せな場合とか。これは迂闊には論じられない難しい問題で、人間自身でさえ判断が難しく、哲学的な世界でさえあります。それをきちんとデータ化してAIで判断できるようになる日がくるのかは疑問です。これこそヒューマン・イン・ザ・ループで専門家が間に入って判断すればよいという考えもありますが、専門家にだってけっこうな負担だし、本人に無断で勝手に判断できないし、人的介入で解決できる問題でもありません。そもそもが過剰検査の弊害で、発見しないほうがすべて丸く収まった可能性もあります。見て見ぬふりをするのとは意味が違って、積極的に見つけることが必ずしも良い結果につながるとは限らない、という問題です。過剰医療や尊厳死に関わる問題でもあるので、やはり、迂闊には論じられない哲学的な領域です。これ以上はやめておきます。
要は、問題発見能力に長けたAIの力を存分に活用して、すべての潜在的問題をどんどん洗い出すことが、本当に人間社会に役立つのか、その辺の微妙な判断をAIにどこまで任すのか任さないのか、という課題が未解決のまま、AI活用がどんどん先に進んでしまうのは危険な気がします。
少し飛躍が過ぎたので、サイバーセキュリティに話題を戻すと、ミュトスのように非常に優れた脆弱性発見器がハッカーに悪用される脅威と、たとえミュトスを活用しても大量の脆弱性に防御側が対応できない課題は、非常に深刻なのですが、それにとらわれすぎるのもどうかと思います。それが、サイバーセキュリティを取り巻く状況を一変させた、とは思えません。
ミュトスが公表される前から、サイバー攻撃の被害増はすでに十分深刻で、「It is not a matter of if but when（被害を受けるか受けないか、ではなく、いつ受けるかの問題）」という決まり文句があったぐらいです。この考え方からすると、ミュトスの登場でサイバー被害の可能性が増大したわけではなく、可能性はもとから100％です。今さら、脆弱性の大量発見にジタバタしても始まらないです。もちろん、AIを活用した脆弱性の発見と対応が重要なことは言うまでもないのですが、被害を受けてしまったときにどうするかをあらかじめ決めて、準備しておくことも同じくらい、いや、それ以上に重要です。バックアップを頻繁に取ること、別サイトにも保存すること、バックアップファイル自体が汚染されないようにエアギャップ、イミュータブルにすることなど、これまで再三繰り返されてきた基本的なセキュリティ対策を徹底することが、結局、何よりも重要なのではないでしょうか。被害に遭ってしまったときの対応（社内連絡、広報、リカバリ手順など）も普段からきちんと整理し、いざというときに速やかに行動に移せるように予行演習しておく必要があります。
長くなりましたが、当ブログの結論としては、いくら脆弱性を発見されようが発見されまいが、いずれにせよ「結局バックアップが大事」という事実に変わりはないということです。
RSSフィードを取得する
