In-depth summary | The security difficulties of machine intelligence

人は生涯を通じて、自分だけの究極の答えを探し求めています。常に、自分が携わる分野で真理に一歩でも近づきたいと願っています。たとえそれが小さな一歩であっても。脅威との対峙、インテリジェンスの調査判断、データの分析、知識の理解、インテリジェンスの追求、心の探求、人間性への洞察、人生の悟り、世界の認知、宇宙の探索——突き詰めれば、すべては真理への渇望です。

セキュリティの真理とは何か。かつてセキュリティとは人と人の対峙でしたが、現在のセキュリティ状況は、攻撃者と攻撃マシンが防御者と防御マシンに対峙する構図です。セキュリティの最終形態は、マシン同士の自律対抗に帰結します。この観点から見ると、セキュリティの本質はエージェント間の知識対抗です。インテリジェンスは炭素ベースの知能でもシリコンベースの知能でも構いません。最終的にセキュリティを「クリア」できたかどうかは重要ではありません。重要なのは、人間のインテリジェンスの延長として自ら鍛え上げたマシンインテリジェンスが、必然的に人間より一歩先にセキュリティの真理に到達するということです。

汎用技術と人類の発展
技術は人間の能力の拡張であり、技術を発明することこそ人類最大の才能です。現生人類（ホモ・サピエンス）が出現するはるか以前から、初期の人類はさまざまな技術を発明し、他の動物との生存競争で優位に立ちました。人類の歴史において、生産性と経済レベルの飛躍的向上を牽引してきた中核的原動力は、世代を超えて次々と生み出された汎用技術（GPTs: General Purpose Technologies）の発明です。汎用技術は、既存の経済・社会構造への影響を通じて、人類の発展プロセスに根本的な変化をもたらします。

汎用技術とは、単一の識別可能な基盤共通技術です。これまでの人類の歴史において、汎用技術に分類できる技術はわずか約 20 種類です。これらの技術には以下の特性があります。

「遍在性」汎用技術は多様な用途と、広範かつ多数のユースケースを持ちます。
「継続的改善」時間の経過とともに、汎用技術は絶えず改良され、利用コストが低下し続けます。
「イノベーション駆動」汎用技術は技術革新と発明を容易にし、さらに多くの新製品を生み出します。

新石器時代の農業革命における動植物の家畜化技術や文字技術から、18〜19 世紀の第一次産業革命における蒸気機関技術、工場制度、鉄道システム、さらに第二次産業革命における内燃機関技術、電気技術、自動車技術、航空技術、そして 20 世紀の情報革命におけるコンピュータ、インターネット、バイオテクノロジーに至るまで、**汎用技術の発明間隔はますます短くなり、その強度は高まり、影響範囲は拡大し、生産性の向上速度も加速しています。**

同時代のさまざまな汎用技術間の技術的連携が生み出すシナジー効果は、生産性、経済発展、イノベーション促進に対して重畳的な推進力を発揮します。蒸気の時代では、蒸気機関が動力エネルギーを提供し、鉄道ネットワークが物理空間を接続して鉄鋼などの資材を輸送し、さまざまな機械システムに応用されました。電気の時代では、中央発電所が電気エネルギーを提供し、送電網が物理空間を接続して電流を伝送し、さまざまな電気システムに応用されました。

情報の時代では、パーソナルコンピュータ（またはサーバ）がコンピューティング能力を提供し、インターネット接続がデータを伝送し、さまざまなデジタル空間の情報システムを接続しました。インテリジェンスの時代では、汎用コンピューティング（クラウド、エッジなどの計算形態）がコンピューティング能力を提供し、物理空間とデジタル空間の境界はますます曖昧になって融合空間を形成し、IoE（Internet of Everything）が融合空間内のさまざまなインテリジェントシステムを接続します。異なる時代において、共通技術間のシナジーの仕組みは類似しています。蒸気の時代はマシンに運動エネルギーを、電気の時代はマシンに電気エネルギーを、情報の時代はマシンにデータを、インテリジェンスの時代はマシンに知識を提供します。

マシンインテリジェンスの歴史的発展
すべての汎用技術の中で、マシンインテリジェンスは最も特殊な汎用技術です。人類が初めて発明した、マシンが自律的に知識を獲得できる技術であり、非炭素ベースの知的存在を創造する能力を人類が初めて手にした技術でもあります。

1882 年 2 月の寒い午後、若きニコラ・テスラは 5 年間悩み続けた交流発電機のアイデアを完成させ、歓喜のあまりこう叫びました。「これからは、人間はもはや重労働の奴隷ではない。マシンが人間を解放し、全世界を変えるのだ」。

1936 年、数学には決定不能な命題が存在することを証明するために、24 歳のアラン・チューリングは「チューリングマシン」の概念を提案しました。1948 年には論文「INTELLIGENT MACHINERY」でコネクショニズムの大部分の内容を記述し、続いて「COMPUTING MACHINERY AND INTELLIGENCE」を発表して有名な「チューリングテスト」を提唱しました。同年、マービン・ミンスキーとクラスメートのダン・エドモンドが世界初のニューラルネットワークコンピュータを構築しました。

1955 年、フォン・ノイマンはイェール大学シリマン・レクチャーの招聘を受け、その講義内容は後に『THE COMPUTER AND THE BRAIN』として書籍化されました。1956 年、ジョン・マッカーシーがダートマス大学サマーシンポジウムで初めて「Artificial Intelligence」の概念を提唱しました。ここに、マシンインテリジェンスの歴史の序幕が正式に上がり、シンボリズム、コネクショニズム、行動主義の三大学派が次々と形成されました。

マシンインテリジェンスは発展の過程で何度かのブームと冬の時代を経験し、三大学派もそれぞれ浮沈を経てきました。1950 年代以降、エキスパートシステムと古典的機械学習に代表されるシンボリズムが長期にわたり主流を占めました。一方、コネクショニズムは紆余曲折を経ました。パーセプトロンの提案から 1980 年代のバックプロパゲーションの発表、コンピューティング能力とデータの充実によるディープラーニングの成功、そして 2018 年に三巨頭 Geoffrey Hinton、Yann LeCun、Yoshua Bengio がチューリング賞を受賞するまで、ようやく注目を集めるに至りました。強化学習に代表される行動主義は、2016 年の AlphaGo と AlphaZero の誕生後に大きな関心を集め、汎用マシンインテリジェンスへの唯一の道とも言われています。

人間のインテリジェンスの進化には数百万年を要しましたが、マシンインテリジェンスの進化はまだ 60 年余りです。汎用マシンインテリジェンスにはまだ遠い道のりがありますが、現在既にマシンインテリジェンスは多くの分野で人間のインテリジェンスを凌駕し始めています。過去 60 年間で、データ計算能力、データストレージ能力、データ伝送能力はいずれも少なくとも 1,000 万倍に増大しました。同時に、データリソースの成長速度はムーアの法則の成長速度をはるかに上回っています。2020 年までに全世界のデータ総量は 40ZB に達すると推定されています。現在、マシンインテリジェンスは汎用技術爆発の臨界点に達しています。同時に、他の汎用技術とのシナジーにより、今回の汎用技術が引き起こす変化はこれまでのどの時代よりも劇的なものとなります。

データドリブンからインテリジェンスドリブンへ
「ビジネスインテリジェンスとスマートビジネス」、「安全インテリジェンスとスマートセキュリティ」...このような言葉は数多くあります。両者の核心的な違いは、前者が単一ポイントのインテリジェンスであるのに対し、後者はグローバルなインテリジェンスであること、前者がデータドリブンであるのに対し、後者はインテリジェンスドリブンであることです。「データドリブン」と「インテリジェンスドリブン」は類似しているように見えますが、根本的な違いがあります。最も本質的な違いは、背後にある意思決定主体の違いです。「データドリブン」では最終的に人間が意思決定を行います。データはより良い判断を可能にする補助情報を提供するに過ぎません。一方、「インテリジェンスドリブン」はマシンが人間に代わってオンラインで直接意思決定を行うことを意味します。

人間の脳は生命の進化の結果として認知バイアスの影響を受けています。脳の情報伝達帯域幅と情報処理速度の制約により、初期の狩猟採集段階から、人間は大量の情報処理にかかる高いコストを回避するため、単純なヒューリスティクスに基づく推論・意思決定システムを徐々に形成してきました。これによりさまざまな危険な状況で素早くほぼ無意識に判断を下すことが可能となり、文明は今日まで存続してきました。しかし、素早くほぼ無意識の判断は、常に最適あるいは正確な判断を意味するわけではありません。

ヒューリスティクスは遺伝的に受け継がれ、脳にプリロードされた認知バイアスとなります。これらの「バイアス」は合理的客観性から逸脱する形で人間の意思決定に影響を与えます。「データドリブン」時代が到来するまで、豊富で大量のオンラインデータがより良い意思決定のための補助判断基盤を提供するようになりました。汎用コンピューティングと大規模データ処理技術を使用して、データ量を人間の脳が消化可能な範囲に縮約し、さまざまなアプリケーションシナリオでの補助的な意思決定に活用しています。

「データドリブン」は従来の「直感ドリブン」や「経験ドリブン」と比べて比類なき優位性を持ちますが、依然として人間が「中央処理装置」としての意思決定主体の役割を果たしているため、限界があります。人間の脳プロセッサのスループット限界により、全量の生データを処理できません。全量のデータリソースを「要約データ」や「集約データ」に変換し、そこから知識を抽出するしかありません。このプロセスには必然的に情報損失が伴い、全量データの背後に隠された関係性、データパターン、インサイトの一部が失われます。

「インテリジェンスドリブン」とは、マシンインテリジェンスが直接オンラインで意思決定を行うことです。意思決定の効率、スケール、客観性、進化の成長速度のいずれにおいても「データドリブン」とは比較になりません。「インテリジェンスドリブン」は全量のデータリソースから直接全量の知識を抽出し、その全量の知識を使って直接グローバルな意思決定を行います。「データドリブン」の本質は集約データと人間のインテリジェンスの組み合わせであり、「インテリジェンスドリブン」の本質は全量データとマシンインテリジェンスの組み合わせです。

しかし現実のビジネスシナリオでは、多くの意思決定が「データドリブン」にすら達していません。「インテリジェンスドリブン」は言うまでもありません。マシンインテリジェンスによる「知覚」の実現は第一歩に過ぎず、「意思決定」の実現がより重要なステップです。マシンインテリジェンスの現段階は、チャーチルの言葉を借りれば「Now this is not the end, it is not even the beginning of the end. But it is perhaps the end of beginning」。では、真のマシンインテリジェンスシステムとは一体何でしょうか。

インテリジェントシステムのコアパラダイム
真にインテリジェントなシステムにおいて、インスタンスのコアパラダイムには以下のコンポーネントが必要です。知覚システム、認知システム、意思決定システム、行動システムです。同時に、インテリジェントシステムのインスタンスは環境とのインタラクションと切り離すことができません。これまではシステムの内部特性を強調し過度に注目してきましたが、環境とのインタラクションの役割を見落としがちでした。

知覚システムの機能は環境を観測し蓄積することであり、出力はデータです。すべてのデータの生成は環境の観測と蓄積に由来します。観測と蓄積の背後にある動機は、世界を測定、記録、分析したいという欲求です。情報は環境（デジタル空間または物理空間）に常に存在しています。さまざまなシナリオにおいて、ハードウェア、ソフトウェア、アルゴリズムを使って情報を「デジタル化」します。ハードウェアにはセンサ、カメラなど、ソフトウェアにはログレコーダ、データコレクタなど、アルゴリズムには各種インテリジェントビジョンアルゴリズム、インテリジェント音声アルゴリズムなどがあります。いつの日か、すべての物理空間をデジタル化し、物理空間をデータ空間に完全にマッピングできるようになるでしょう。

認知システムの役割はデータを帰納・要約して知識を抽出することです。人間が理解する知識は自然言語で表現される必要がありますが、マシンの場合は問題空間を表現できるデータセットで学習し、学習済みの「モデル」を使って新しいデータ空間で推論を行います。特定のターゲットタスクを解決できる限り、その形式がベクトル、グラフ、自然言語のいずれであっても、それは知識です。特徴空間の表現自体が一種の知識です。

意思決定システムの役割はターゲットタスクに対する計画と意思決定を行い、戦略を生成することです。行動システムは戦略に従って具体的なアクションを実行し、環境とインタラクションして環境に影響を与えます。アクションが環境に作用してフィードバックを形成し、フィードバックが知覚システムにより多くのデータの知覚を促進することで、継続的に知識を獲得し、ターゲットタスクに対してより良い意思決定を行い、クローズドループの継続的な進化を実現します。

この観点から見ると、マシンインテリジェンスの本質は、環境のデータを観測・蓄積し、データを要約して知識を抽出し、ターゲットのオンライン意思決定を計画し、アクションを実行して環境に影響を与える自律マシンです。マシンインテリジェンスは自律マシンであり、自律マシンと従来の自動化マシンとの最大の違いは、ターゲットタスクを解決するための知識を自律的に獲得できるかどうかです。

個体インテリジェンスから群知能へ
現在のインテリジェントシステムの大半は、インテリジェンスが孤立分散した単一インスタンスであり、対応するソリューションも個別問題の孤立的な解決です。クラウドコンピューティングの本質は「コンピューティングのオンライン化」、ビッグデータの本質は「データのオンライン化」であり、マシンインテリジェンスは最終的にインテリジェンスのオンライン化を実現し、インテリジェントインスタンスがオンラインで自律的にインタラクションできるようにする必要があります。

単一のインテリジェントインスタンスは「知覚-認知-意思決定-行動」のシステムで構成される自律システムであり、独自の世界表現を持ち、自律的に自身のゴールとタスクを遂行できます。同一の動的かつ複雑なゲーム環境において、インスタンスはオンライン相互接続を通じて相互にインタラクションします。協力、競争、共存が可能であり、協力も競争もしないこともあります。あるインスタンスのポリシー変更は自身の環境に影響するだけでなく、他のインスタンスのポリシー変更にも影響を与えます。

協力する複数のインテリジェントインスタンスは、データ、知識、戦略、アクションを共有し、協調してより複雑なターゲットタスクを完遂し、共同でより高次のインテリジェントインスタンスを形成できます。単位空間内のインテリジェントインスタンスのカバレッジ密度が十分に高くなると、個体インテリジェンスは群知能へと進化し始めます。

インテリジェンスとセキュリティの四象限
セキュリティはすべての技術の中で最も特殊であり、厳密には技術として「セキュリティ」と呼べないかもしれません。セキュリティは人類がいかなる技術を発明するはるか以前から、さまざまな人間活動に付随してきました。これまでセキュリティ分野に固有の、あるいはセキュリティ分野から生まれた技術は存在しませんが、セキュリティは常に他の技術と相互補完してきました。

いかなる汎用技術とセキュリティを組み合わせる方法は 4 通りあります。マシンインテリジェンス技術も例外ではありません。縦軸は「インテリジェンスのためのセキュリティ」と「セキュリティのためのインテリジェンス」、横軸は「攻撃の視点」と「防御の視点」です。インテリジェンスにセキュリティをもたらすとは、マシンインテリジェンス技術自体が新たなセキュリティ課題を生むことを意味します。一つはマシンインテリジェンス自体の脆弱性に起因するセキュリティ課題、もう一つはマシンインテリジェンスが引き起こす周辺シナリオ由来のセキュリティ課題です。セキュリティにインテリジェンスを付与するとは、マシンインテリジェンスをセキュリティシナリオに適用することです。攻撃者はマシンインテリジェンスで攻撃を強化し、防御者はマシンインテリジェンスで防御を強化します。

この四象限において、新技術とセキュリティが交差するタイミングと成熟度は異なります。攻撃者は防御者より強い動機と利益を持つため、攻撃関連の象限は通常、新技術の探索と受容が早くなります。防御者は常に後追いであり、旧技術と人為的な経験が生み出す偽りの安全感に陥りやすく、第四象限は常に最も遅れた開発速度を示します。もちろん、これは防御視点自体の属性と困難さにも直接関係しています。

マシンインテリジェンスのセキュリティジレンマ
囲碁は単純な複雑ゲームであり、セキュリティは複雑な単純ゲームです。1994 年、認知科学者スティーブン・ピンカーは『言語を生みだす本能』の中で「マシンインテリジェンスにとって、難しい問題は解決しやすく、単純な問題は解決が困難である」と記しました。「単純な複雑問題」とは、問題空間は閉じているが問題自体は比較的高い複雑性を持つことを意味します。「複雑な単純問題」とは、問題空間が無限に開いているが問題自体の複雑性はそれほど高くないことを意味します。現在、マシンインテリジェンス技術は「単純な複雑問題」の分野では人間を上回ることが多いですが、「複雑な単純問題」に対しては汎化限界に起因する次元の呪いにより失敗することが少なくありません。

セキュリティは典型的な「複雑な単純問題」であり、モラベックのパラドックスはセキュリティ分野でより顕著に現れます。高い不確実性がセキュリティの最大の特徴であり、「未知の未知」への対処がセキュリティ自体の最大のジレンマです。多くの場合、問題を明確に定義する前にマシンインテリジェンスで解決しようと急いでしまいます。これがセキュリティ分野でマシンインテリジェンスが失敗する主な原因です。現在のセキュリティ分野では、インテリジェント技術の天井を突破する必要はほとんどありません。むしろ解決すべきは「問題の明確な定義」、すなわち問題空間をいかに閉じるかです。

セキュリティの問題空間は通常無境界であり、問題空間に対応する正例・負例のサンプル空間は深刻に非対称です。「未知の未知」に起因する負例データ（攻撃データ、リスクデータなど）の深刻な不足が特徴空間の非対称をもたらし、特徴空間が問題空間を真に表現できなくなります。「モデル」とは既存のデータ空間での世界に関する仮説であり、新しいデータ空間で推論するために使用されます。現在のマシンインテリジェンス技術は入力と出力の間の非線形な複雑関係を解決できるようになりましたが、サンプル空間と問題空間の間の巨大なギャップに対しては依然として脆弱です。

1960 年代、Bell-LaPadula セキュリティモデルは「システムが安全であるのは、安全な状態から出発し、決して安全でない状態に陥らない場合に限る」と述べました。セキュリティの本質が対抗である以上、対抗の存在はセキュリティ分野のほとんどのマシンインテリジェンスモデルが「オンライン化した瞬間からの劣化」という宿命から逃れられないことを意味します。トレーニングセットで良好なパフォーマンスを示すモデルも、大規模な実環境においてはオンライン化した瞬間から対抗のエスカレーションを引き起こし、継続的に劣化状態に陥ります。モデル劣化は閉鎖系におけるエントロピー増大と同様に不可避です。

同時に、セキュリティシナリオは検出結果の精度と解釈可能性に極めて敏感です。従来のセキュリティで多用されるルールベース・ポリシーベースの検出技術と比較して、マシンインテリジェンスは強力な表現能力という優位性を持ちますが、同時にその説明不可能性と曖昧性により、推論結果を意思決定シナリオで直接活用できません。現在のインテリジェントセキュリティシステムの大半は「知覚」を行っているだけであり、せいぜい補助的な意思決定の根拠に過ぎません。

しかし、これらは最大の「難題」ではありません。セキュリティ分野におけるマシンインテリジェンスの最大の「難題」は、思考モードのジレンマです。セキュリティの思考モードは「正を守り奇を出す」であり、マシンインテリジェンスの思考モードは「Model The World」です。この 2 つの思考モードには巨大な差異があるだけでなく、両者の融合は信じられないほど困難です。一方で、この 2 つの思考方法を同時に駆使できる人は極めて少なく、他方で、2 つの思考方法を持つ人を協力させることも極めて難しいです。

問題空間、サンプル空間、推論結果、モデル劣化への対抗、思考パターン——これらが現在の実環境におけるインテリジェントセキュリティシステムの大半のパフォーマンスが満足できないものである原因です。あるいはより悲観的に言えば、セキュリティ分野には現時点で真のインテリジェントセキュリティシステムは存在しません。

真のインテリジェントセキュリティシステム
まず、一般的なセキュリティシナリオにおける汎用データパラダイムについて述べます。プラトン主義者は「我々が知覚する世界は洞窟内の壁に映された投影である」と信じています。現象世界は理性世界の反映であり、理性世界が世界の本質あるいは起源です。「洞窟の比喩」は、人間の認知に依存しない外部の客観的知識体系が存在することを意味します。人間が知識を探求するプロセスは、現実世界の現象の観察からこの客観的知識体系を絶えず探索し推測するプロセスです。アリストテレスはさらにオントロジーの原型的な考えを確立し、それを「存在」の科学として定義しました。これは形而上学の基本分野です。17 世紀、哲学者 R. Goclenius が初めて「Ontology」という用語を提唱しました。1960 年代、マシンインテリジェンスの分野がオントロジーの考えを導入し始め、その後セマンティック Web とナレッジグラフへと発展しました。

セキュリティにおける対抗の本質は知識の対抗であり、より多くの知識を獲得した側がより大きな非対称的優位性を持ちます。脅威分析、インテリジェンスの調査判断、攻撃検出、イベント追跡のいずれであっても、本質は知識を探求するプロセスです。これが Palantir の Gotham、IBM の I2、UEBA、各種脅威インテリジェンス製品などがすべて同様に、あるいは多かれ少なかれオントロジーの思考を借用している根本的な理由です。

セキュリティシナリオにおける共通データパラダイムもオントロジーと切り離せません。エンティティ、属性、行動、イベント、関係——これら 5 種類のメタデータタイプを通じて、すべてのセキュリティシナリオのデータアーキテクチャを構築できます（基盤セキュリティ、ビジネスセキュリティ、データセキュリティ、公共安全、都市セキュリティのいずれでも。注：公共安全分野では「軌跡」というメタデータタイプも別途注目しますが、「軌跡」は特殊な「行動」データであるため、ここでは行動に統合します）。

エンティティ：客観的に存在し、他のオブジェクトと区別できるオブジェクトです。
属性：属性はラベルであり、エンティティを記述し、エンティティの抽象的側面を表現するものです。
行動：行動は特定の時空でエンティティが発するアクションです。
イベント：イベントは特定の時空または条件において認識される識別可能な事象です。
関係：関係はエンティティと他のエンティティとの関連の程度と表現です。
セキュリティ分野で蓄積されるソースデータの大部分は行動データです。ネットワークトラフィックログ、ホストコマンドログ、ビジネスログ、カメラデータストリーム、センサデバイスデータストリームなど、これらはすべて行動データです。エンティティ、属性、関係、イベントはすべて行動データから抽出され、異なる行動データに対して異なる関数を実行することで生成されます。

関数がイベントを生成する場合、それはセキュリティ検出の課題であり、攻撃検出、脅威検知、リスク検出、異常検知などが含まれます。ほとんどのセキュリティ検出問題のアトミックパラダイムは Y=F(X) として抽象化できます。X はエンティティの行動データ、Y は検出結果、F は検出モデルです。F はルールベース、ポリシーベース、字句意味解析、統計検出、機械学習、深層ニューラルネットワークなどさまざまであり、Y は正常、異常、攻撃、不明のいずれかです。

より複雑な検出シナリオも、基本的な F とさまざまなオペレータを組み合わせて構築できます。各タイプの F にはそれぞれ長所と短所があり、最適なユースケースも異なります。絶対的に先進的で優位な検出技術は存在しません。実際、セキュリティ検出におけるアルゴリズムにとって最も重要なのは検出モデル自体を作ることではなく、さまざまなシナリオに応じて最適な検出モデルを自律的に生成し、自律的に継続してモデルを改善できるかどうかです。

真のインテリジェントセキュリティシステムにも知覚システム、認知システム、意思決定システム、行動システムが必要であり、同時に環境とのフィードバックループを形成する必要があります。知覚システムには少なくとも異常センサ、攻撃センサ、偽陰性センサ、誤検知センサが含まれます。「異常センサ」の役割は、一方では「未知の未知」に対する知覚能力を維持すること、他方では「正常を定義することで異常を発見する」という考え方を活用して「サンプル空間のジレンマ」を解決することです。「攻撃センサ」の役割は異常データに基づいて攻撃を検出することです。「推論結果の困難さ」を理解するためにも、誤検知と偽陰性の範囲を大幅に削減します。「偽陰性パーセプトロン」と「誤検知パーセプトロン」は「モデル劣化への対抗問題」を解決するためのものです。ここから分かるように、業界が最も注目する「アルゴリズムによる攻撃検出」は実際にはインテリジェントシステムの知覚システムにおける小さな一歩に過ぎません。

認知システムはあらゆるセキュリティ関連知識を蓄積します。少なくとも正常知識、攻撃知識、偽陰性知識、誤検知知識が含まれます。セキュリティ知識はエキスパートルール、ベクトル、モデル、グラフ、自然言語などに基づくことができますが、どのような形式であっても、「千人千面」の精緻でパーソナライズされた知識でなければなりません。すなわち、各保護対象（ユーザー、システム、アセット、ドメイン、データなど）に対して、その保護対象に適用可能な異常知覚、攻撃知覚、偽陰性知覚、誤検知知覚の知識セットを形成します。意思決定システムには少なくともターゲットタスクのインターセプト戦略、各種モデルのオンライン/オフライン戦略などが含まれ、どの行動をブロックすべきか、どのモデルが劣化して再学習または置換すべきかを自律的に判断できます。

行動システムには環境に影響を与えるさまざまなアクションがあります。パス、ブロック、再学習、リリースなどです。真のインテリジェントセキュリティインスタンスには数千のエージェントが含まれ、各エージェントは対応する保護対象に対してのみ作用します。最終的に「問題空間のジレンマ」の解決策は、開いた問題空間を小さな閉じたリスクシナリオに収束させることです。一方では 4 つのパーセプトロンのカスケードが形成する深層検出に依存し、他方では「千人千面」エージェントに依存します。

マシンインテリジェンスが新たなセキュリティを再構築する
セキュリティ分野は発展以来、排除された問題は少なく創出された概念は多いという段階にあり、新技術を使って古い問題を真に解決することが急務です。さまざまな産業でのマシンインテリジェンスの普及はセキュリティ業界の注目も集めています。しかし、現在のセキュリティ分野のインテリジェンス能力はまちまちであり、同時に真贋の判別も困難です。少しでもアルゴリズムを使えば「人工知能ベースの XX セキュリティシステム」を標榜するほどです。かつてのインテリジェントドライビング分野と同様に、現在のインテリジェントセキュリティにも統一的なレベル分け基準が急務であり、異なるレベルのインテリジェントセキュリティ技術の差異を明確にする必要があります。「セキュリティの本質はインテリジェントエージェント間の対抗である」。したがって、自律対抗の程度に応じてインテリジェントセキュリティを L0〜L5 の 6 段階に分類します。

L0 レベルは「手動対抗」です。マシンインテリジェンスの能力は一切なく、防御者が攻撃者に対して人手で対抗します。対抗運用、知覚判断、タスクサポートのすべてが手動で行われます。

L1 レベルは「支援型対抗」です。マシンが既知攻撃の攻撃検出と攻撃防御を完了し、残りの運用（未知の脅威の検知、誤検知の検知、偽陰性の検知など）は人間が行います。

L2 レベルは「低レベル自律対抗」です。マシンが既知攻撃の攻撃検出と攻撃防御を完了し、未知の脅威または誤検知・偽陰性を知覚する能力を持ちますが、残りは人間が運用します。

L3 レベルは「中程度の自律対抗」です。すべての対抗運用（攻撃検出、攻撃防御、未知脅威のアクティブ知覚、誤検知・偽陰性のアクティブ知覚、対抗アップグレードの自動学習）はマシンが完了しますが、応答タイミングの判断では中間プロセスに必ず人間の参加が必要です。

L4 レベルは「高度自律対抗」です。すべての対抗運用はマシンが完了します。システム要件に応じて、人間が必ずしもすべての応答を提供する必要はなく（中間プロセスに人間の参加は不要）、ただし限定された特定のセキュリティシナリオ（ネットワークドメイン、ホストドメインなど）でのみ使用可能です。

L5 レベルは「完全自律対抗」です。すべての対抗運用はマシンが完了します。システム要件に応じて、人間が必ずしもすべての応答を提供する必要はなく、特定のシナリオに限定されず全ドメインで作用します。

インテリジェントドライビング技術とは異なり、異なるレベルでまったく異なるテクノロジースタックを使用するわけではありません。インテリジェントセキュリティの L0〜L5 は段階的に構築・発展させる必要があります。この区分に従えば、現在の業界のセキュリティシステムの大半は L1 システムであり、L2 に到達できるものは極めて少なく、真の L3 以上のインテリジェントセキュリティシステムは存在しません。レベルが上がるにつれて、防御者は低レベルの対抗から徐々に解放され、高レベルの対抗により集中できるようになります。L3 は分水嶺であり、5 年以内に実現が見込まれます。「囲碁から始まり、セキュリティで終わる」——セキュリティ分野におけるマシンインテリジェンスの最終形態とは何か。ネットワーク層、ホスト層、アプリケーション層、ビジネス層、データ層がそれぞれ独自のインテリジェントインスタンスを持ち、異なる層のインスタンスがオンラインで相互接続し、真の意味での協調防御とインテリジェンス共有を実現する。インテリジェンス（Intelligence）とインテリジェンス（Intelligence）が融合する日が、真の「インテリジェンスが新たなセキュリティを再構築する」です。

現在、Alibaba Cloud インテリジェントセキュリティラボは多くの分野で L3 レベルのインテリジェントセキュリティシステムを構築しており、クラウドセキュリティにおけるインテリジェント技術の応用に取り組んでいます。現在、セキュリティアルゴリズムエキスパートとセキュリティデータエキスパートを募集しており、「インテリジェンスが新たなセキュリティを再構築する」を共に探求・創造する志を同じくする仲間を求めています。1 年足らずで、以下の段階的成果を達成しています。

LTD 攻撃検出アルゴリズムが IJCAI 2019 に採択「Locate Then Detect: Web Attack Detection via Attention-Based Deep Neural Networks」。
WAF AI コアが Alibaba Cloud WAF の 2019 Gartner Magic Quadrant for Web Application Firewall 選出に貢献し、アルゴリズム能力が「強い」と評価されました。

Anti-Bot AI コアが Alibaba Cloud クローラリスク管理の 2018 Forrester Bot Management Competitors Quadrant 選出に貢献しました。
コンテンツセキュリティアルゴリズムが Alibaba Cloud の国家レベルの重大保険活動をリスク漏洩ゼロで無事に乗り越える支援をしました。
セキュリティデータプラットフォームサービスプロダクト群を提供開始しました。[XDATA] セキュリティデータコア、[XID] コアデータアセット、[XService] インテリジェントセキュリティサービス、[string+] セキュリティナレッジエンジン、そして数百億ノード・数千億エッジの複雑ネットワークとグラフコンピューティングアプリケーション、QPS 数千万レベルのオンライン複雑ストリームコンピューティングアプリケーションを展開しています。