このトピックでは、Realtime Compute for Apache Flink の VVR 11.8.0 における主要な機能変更とエクスペリエンスの向上について説明します。
このリリースは、ネットワーク全体で段階的に展開されています。アップグレードの進捗状況については、Realtime Compute コンソールの右ペインにある最新のお知らせをご確認ください。説明されている機能がご利用のアカウントでまだ利用できない場合、アカウントのグレースケールアップグレードが完了していない可能性があります。アップグレードを早めるには、ビジネス要件を添えてチケットを送信してください。弊社にてスケジュールを調整いたします。
概要
Realtime Compute for Apache Flink の VVR 11.8.0 は、Apache Flink 1.20.4 をベースに構築されています。このアップグレードでは、リアルタイム AI 推論とマルチモーダルデータ処理、データインジェストと CDC、コネクタのセキュリティとクラウド認証情報管理の強化に重点を置いており、Apache Flink 1.20.4 からの改善点も取り入れています。
AI シナリオ向けに、VVR は SQL、DataFrame API、Flink Agents を拡張し、マルチモーダルデータ (画像、音声、動画) と大規模モデルの呼び出しをサポートします。また、モデル登録の免除、トークン使用量の制限、外部キャッシュなどのガバナンス機能を導入しています。データインジェストの面では、Kafka、MySQL CDC、SQL Server CDC、Paimon、StarRocks のパイプラインにおいて、フォーマットの互換性、スキーマ進化、並列度のチューニング、データ型の処理が継続的に強化されています。コネクタの面では、このリリースでは KMS、認証情報不要のアクセス、AssumeRole、SSL/TLS 証明書などのセキュリティ機能がさらに向上し、MySQL、Hologres、Redis、Iceberg、Fluss コネクタのユーザビリティと安定性も改善されています。
エンジン
リアルタイム AI 推論、マルチモーダルコンピューティング、ベクトル検索、非同期ルックアップ、および Apache Flink コミュニティの機能が継続的に強化され、インテリジェントなリアルタイムデータ処理シナリオのためのより完全な基盤を提供します。
AI Function、DataFrame API、およびマルチモーダルコンピューティング
-
マルチモーダル AI Function のサポート:SQL AI Function が音声や動画などのマルチモーダルデータ処理シナリオをサポートするようになり、画像、動画、音声の各演算子の機能とエンドツーエンドテストのカバー率が向上しました。
-
組み込みモデルの登録免除:プラットフォームのマスターアカウントが提供する組み込みモデルを使用する場合、モデル登録が不要になり、モデル呼び出しの障壁が低減されました。
-
トークン使用量のガバナンス:SQL AI Function と PyFlink は、
max-total-tokensパラメーターをサポートし、1 回のジョブ実行で消費される合計トークン数を制限することで、モデル呼び出しコストの管理に役立ちます。 -
外部キャッシュのサポート:AI Function は外部ストレージをキャッシュとしてサポートし、繰り返される推論リクエストの処理効率を向上させます。
-
DataFrame API の強化:DataFrame API (Stage 3) が強化され、マルチモーダルデータソース、大規模モデルの呼び出し、マルチモーダル演算子をサポートするようになりました。名前空間形式のアクセサーや
read_video_framesなどの新機能が追加され、動画データ処理のエクスペリエンスが向上しました。 -
Flink Agents の統合:Flink Agents を SQL ジョブ内でテーブル値関数 (TVF) として呼び出せるようになり、Flink Agents 0.3 に対応しました。
ベクトル検索と非同期ルックアップ
-
DLF Paimon ベクトル検索:
vector_searchとvector_search_aggが DLF Paimon のベクトルテーブルの検索をサポートし、データレイクハウスのデータとベクトル検索シナリオの統合を強化します。 -
Lookup Join のタイムアウト処理:
AsyncLookupFunctionとAsyncTableFunctionに基づく Lookup Join が、ユーザー定義のタイムアウト処理ロジックをサポートし、非同期クエリシナリオにおける制御性を向上させます。
Apache Flink 1.20.4 コミュニティ機能の同期
-
Apache Flink 1.20.4 からの改善点とバグ修正が取り入れられ、ジョブの正確性、安定性、開発エクスペリエンスが継続的に向上します。
データインジェスト (Flink CDC)
このリリースでは、Kafka、MySQL CDC、SQL Server CDC、Paimon、StarRocks のデータインジェストパイプラインが引き続き改善され、フォーマットの互換性、データ型の処理、運用効率が向上しています。
Kafka と Canal JSON
-
Canal JSON のメタデータと DDL:
mysqlTypeやsqlTypeなどのメタデータが保持され、DDL 変更の同期がサポートされるようになり、Canal プロトコルとの互換性が向上しました。 -
変更されたフィールドのみを出力:Kafka Canal JSON の出力で、変更されたフィールドのみを保持できるようになり、後続処理のオーバーヘッドが削減されます。
-
カスタムフォーマットと型推論の最適化:Kafka コネクタがカスタムフォーマットをサポートします。Canal JSON、Debezium JSON、および JSON データについて、型推論が文字列を自動的に時刻型に変換しようとするのを回避します。
-
Kafka のべき等性設定の検証:特定のクラウド Kafka シナリオにおいて、ジョブが互換性のないべき等性設定を検出し、明確なプロンプトを表示することで、設定エラーを削減します。
MySQL、SQL Server、および StarRocks
-
MySQL CDC のパラメーター検証:Debezium のパラメーター検証が標準化され、設定の問題の可視性が向上しました。
-
Binlog の後続への伝播制御:MySQL Binlog の後続オペレーターへの伝播を、構成によってオンデマンドで制御できるようになりました。
-
Source のレート制限:MySQL Source が
numRecordsInOfSourcePerSecondなどのメトリクスに基づくレート制限をサポートし、後続処理の負荷制御に役立ちます。 -
SQL Server CDC:データインジェストが SQL Server Source をサポートし、
op_typeメタデータ列を使用して変更操作のタイプを識別できるようになりました。 -
StarRocks Sink の強化:
sink.ignore-update-beforeパラメーターをサポートします。MySQL から StarRocks への YAML パイプラインで、JSON 型のサポートが強化されました。
Paimon、YAML、およびインジェスト操作
-
Paimon が空のテーブルでのコミットをスキップ:テーブルにデータが書き込まれていない場合、そのコミットをスキップして、不要なコミットのオーバーヘッドを削減できるようになりました。
-
Paimon DLS カタログ:Filesystem カタログが DLS をサポートするようになり、データレイクハウスのデプロイメントとアクセスのシナリオが拡張されました。
-
Source から Sink へのデータ分散戦略:Source から Sink へのデータ分散を戦略モードで構成できるようになり、複雑なトポロジーに対する構成の柔軟性が向上しました。
-
YAML ジョブの Autopilot:YAML ジョブが Autopilot による並列度の更新をサポートし、弾力的なチューニングが改善されました。
-
スキーマ変更の互換性:さまざまな Sink のスキーマ変更に対する互換性が見直され、改善されたことで、ジョブ設計と変更評価が容易になりました。
コネクタ
セキュリティ、認証情報、および認証
-
KMS 統合フレームワーク:コネクタ側に KMS 統合機能が追加または改善され、データベースやその他の外部システムの認証情報を一元管理しやすくなりました。PostgreSQL CDC コネクタが KMS 統合をサポートします。
-
認証情報不要のコネクタ:フレームワークレベルでの認証情報不要のアクセスが改善され、Fluss コネクタを介した認証情報不要のアクセスなどのシナリオがサポートされます。
-
OSS AssumeRole:OSS が AccessKey/SecretKey の代わりに AssumeRole を介してカスタムロールを使用することをサポートし、クラウドアクセスのセキュリティと柔軟性を向上させます。
-
SSL/TLS 証明書のサポート:コネクタは、パラメーターを介してカスタムの SSL/TLS 証明書ファイルパスの構成をサポートします。独立した証明書パラメーターがサポートされていないシナリオでは、マージされた証明書を使用できます。
MySQL、Hologres、Redis、および Iceberg
-
MySQL Sink のバッチ書き込み:MySQL コネクタは、プライマリキーのないテーブルへの書き込み時にバッチ挿入をサポートし、書き込みスループットを向上させます。
-
MySQL の delete 処理:MySQL Sink は DELETE イベントを無視するモードをサポートし、特定の同期戦略に対応します。
-
Hologres Sink の最適化:式を介して
ignore-nullを使用する場合、クライアントサイドの重複排除がサポートされ、書き込みパイプラインのパフォーマンスと結果の整合性が向上します。 -
Redis 接続プールの最適化:Redis コネクタの接続プールの実装が最適化され、高同時実行接続シナリオでの安定性が向上しました。
-
Iceberg OSS クライアントパラメーター:Iceberg コネクタが OSS クライアントパラメーターのチューニングをサポートし、オブジェクトストレージアクセスに対する構成の柔軟性を高めます。
互換性と安定性の向上
-
データインジェストとコネクタの構成検証、フォーマット処理、型推論、およびランタイムプロンプトが最適化され、ジョブの構成と運用コストが削減されます。
-
Apache Flink、Flink CDC、およびコアコネクタにおける正確性と安定性の問題が継続的に修正され、本番ジョブの信頼性が向上します。