Serverless Scheduling Papers Included by ACM SoCC

このたび、Alibaba Cloud のファンクションコンピューティングプロダクトチームが執筆したサーバーレススケジューリングに関する革新的な論文が、クラウドコンピューティング分野の国際学会 ACM SoCC に採択されました。

昨年、Alibaba Cloud のファンクションコンピューティングチームは、FaaS シナリオにおける分散型高速コンテナイメージ配信技術を業界で初めて提案しました。同チームの論文はコンピュータシステム分野のトップカンファレンス USENIX ATC '21 に採択され、中国計算機学会（CCF）が推奨する国際 A クラス学術会議リストに選定されました（クリックして詳細を参照）。今年も Alibaba Cloud はファンクションコンピューティング分野で継続的なブレークスルーを達成しています。関数プロファイルに基づくスケジューリングアルゴリズムの論文を発表し、国際クラウドコンピューティング分野のトップカンファレンス ACM SoCC に採択されました。これにより、高性能かつ安定的なパフォーマンスを維持しながら、関数リソースの使用率向上を実現します。

ACM Symposium on Cloud Computing（以下、SoCC）は、アメリカ計算機学会が主催するクラウドコンピューティング技術に特化した学術会議であり、クラウドコンピューティング分野の第一線で活動する研究者、開発者、ユーザー、実務者が一堂に会するカンファレンスです。SIGMOD（データ管理専門分科会）と SIGOPS（オペレーティングシステム専門分科会）が共同スポンサーとなっている唯一の会議であり、近年急速に発展しています。データベースおよびコンピュータシステム分野の研究者を集結させ、産業界におけるクラウドコンピューティング技術の研究開発を共同で推進することを目指しています。

今回採択された論文は「Owl: Performance-Aware Scheduling for Resource-Efficient Function-as-a-Service Cloud」です。

本論文は Alibaba Cloud のサーバーレスプロダクトである Function Computing から着想を得ています。Function Computing は Alibaba Cloud の Function-as-a-Service（サービスとしての関数）プロダクトであり、イベント駆動型のフルマネージドコンピューティングサービスです。Function Computing を利用することで、サーバーなどのインフラストラクチャを管理する必要がなく、コードを記述してアップロードするだけで、コンピューティングリソースを自動プロビジョニングし、スケーラブルかつ安定的にコードを実行できます。さらに、ログクエリ、パフォーマンスモニタリング、アラームなどの機能も提供します。現在は、イベント駆動、オーディオ・ビデオ処理、ゲーム、IoT、ニューリテール、AI など、さまざまなビジネスシナリオをカバーし、Alibaba Cloud、Gaode、Alipay、Taobao、CBU などの企業やプロジェクトで利用されています。

上図は、典型的な FaaS スケジューリングシステムのアーキテクチャを示しています。スケジューラはクラスター内の各ノードに異なる関数インスタンスをロードして実行します。FaaS プロダクトでは関数の数が多く、関数の粒度が細かく、実行時間が短いため、ノードのリソース使用率が低くなるという課題があります。同じノードにより多くのインスタンスをスケジューリングすることでリソース使用率はある程度向上しますが、リソース競合やパフォーマンス低下を引き起こす可能性があります。

この問題に対し、本論文では関数プロファイルに基づくスケジューリングアルゴリズムを革新的に提案し、リソース使用率を向上させるとともに、より優れたパフォーマンス安定性を実現しています。

1. 高頻度で呼び出される関数については、スケジューラが異なる関数インスタンスを同一ノードに配置した際のパフォーマンスを識別し、関数インスタンスのスケジューリングを誘導します。

2. 低頻度で呼び出される関数については、スケジューラが実行中の実際のリソース消費量を集計し、関数インスタンスのスケジューリングを誘導します。同時に、スケジューラは関数の実行遅延を監視し、遅延が増加した場合は分離によって緩和します。

3. スケジューラはさらに、アイドルインスタンスを低使用率ノードから高使用率ノードへ移行し、アイドルノードを解放します。

アルゴリズムの効果を評価するため、本論文では本番環境の典型的な関数負荷に基づいて 10 個の関数を抽象化しました。これらの関数は、異なるプログラミング言語、リソース消費量、実行時間、外部依存関係をカバーしています。リストは以下の通りです。

実験結果によると、OWL スケジューリングアルゴリズムは 100 ノード規模で 43.8% のリソースを節約でき、関数の実行遅延も顕著に増加しません。

スケジューリング遅延も顕著に増加しませんでした。

現在、OWL の関数レンダリング機能は Function Computing の本番環境にも導入され、良好な成果を上げています。ACM SoCC での論文採択は、サーバーレススケジューリング分野における Alibaba Cloud のさらなるイノベーションです。

論文情報（付録）

• 論文タイトル：

Owl: Performance-Aware Scheduling for Resource-Efficient Function-as-a-Service Cloud

• 著者：Tian Huangshi、Li Suyi、Wang Ao、Wang Wei、Wu Tianlong、Yang Haoran

• 論文概要：

クラウドコンピューティングにおいて、FaaS は非常に人気のあるプロダクト形態であり、主要なクラウドベンダーが対応するプラットフォームを提供しています。プラットフォーム構築者として観察したところ、大半の関数インスタンスで CPU とメモリ使用率が低く、結果としてクラスターノードの使用率も低いという課題がありました。単純により多くの関数インスタンスをノードに配置する方法もありますが、リソース競合やパフォーマンス低下を引き起こす可能性があります。さらに、関数の外部依存関係もパフォーマンス低下の要因となり得ます。本論文では、これらの問題を解決し、高いリソース使用率とパフォーマンス安定性を実現する OWL スケジューリングシステムを設計しました。低頻度で呼び出される関数については、スケジューラが実行中の実際のリソース消費量を集計し、関数インスタンスのスケジューリングを誘導します。同時に、スケジューラは関数の実行遅延を監視し、遅延が増加した場合は分離によって緩和します。高頻度で呼び出される関数については、スケジューラが異なる関数インスタンスを同一ノードに配置した際のパフォーマンスを識別し、関数インスタンスのスケジューリングを誘導します。さらに、スケジューラはアイドルインスタンスを低使用率ノードから高使用率ノードへ移行し、アイドルノードを解放します。OWL プロトタイプシステムを実装し、本番環境の負荷に基づいてテストセットを構築しました。実験結果により、OWL スケジューリングシステムはリソース消費を 43.8% 削減し、パフォーマンス低下を効果的に緩和できることが実証されました。