本文介绍实时计算Flink版AI服务(内置模型)的功能、使用方式及限制。
功能概述
Flink AI服务(内置模型)是实时计算Flink版的托管式AI模型调用能力。您无需配置 API-Key 、私网连接,即可在 Flink 作业中通过私网调用内置模型,实现流式 AI 推理与向量化。
核心优势
特性 | 说明 |
开箱即用 | 无需配置API-Key、Endpoint或私网连接。 |
按 Token 计费 | 按 Token 用量计费,成本清晰可控。 |
多模型支持 | 内置多款主流大模型,覆盖文本生成、视觉理解、翻译、向量化等场景。 |
全地域覆盖 | 支持国内及海外多地域,跨地域访问自动打通。 |
功能架构
开通与关闭
开通条件
登录实时计算管理控制台,在 Flink AI 服务界面,单击 立即开通 。
需由主账号、或被授予AliyunBSSOrderAccess及AliyunStreamFullAccess权限的子账号开通。
每个地域独立开通,开通后该地域下所有工作空间均可使用。
采用按量付费模式,开通不产生费用,仅在实际调用时计费,详情请参见AI服务计费(按量付费)。
关闭服务
在AI服务页面单击关闭服务,确认以下事项:
关闭后本地域所有作业将无法使用内置模型服务。
关闭前需确认所有作业均未依赖内置模型。
服务保护
为避免意外关闭服务造成的业务意外中断,用户可通过控制台开启服务保护。
开启后,系统将拒绝所有通过控制台、API或CLI发起的手动释放请求。此功能仅在 Flink AI 按量付费模式下支持,且仅针对手动释放操作,在以下由系统自动触发的释放场景中不会生效:
账号欠费导致服务关闭。
因违反云平台安全规则被强制释放。
支持地域
Flink AI服务开服地域 | 地域代码 | Endpoint 地域 | 推理执行地域 |
华北2(北京) | cn-beijing | 华北2(北京) | 中国内地(动态调度) |
华北3(张家口) | cn-zhangjiakou | ||
华东2(上海) | cn-shanghai | ||
华东1(杭州) | cn-hangzhou | ||
华南1(深圳) | cn-shenzhen | ||
西南1(成都) | cn-chengdu | ||
新加坡 | ap-southeast-1 | 新加坡 | 中国内地以外地域(动态调度) |
中国香港 | cn-hongkong | ||
马来西亚(吉隆坡) | ap-southeast-3 | ||
印度尼西亚(雅加达) | ap-southeast-5 | ||
日本(东京) | ap-northeast-1 | ||
韩国(首尔) | ap-northeast-2 | ||
泰国(曼谷) | ap-southeast-7 | ||
阿联酋(迪拜) | me-east-1 | ||
墨西哥 | na-south-1 | ||
美国(弗吉尼亚) | us-east-1 | ||
美国(硅谷) | us-west-1 |
地域决定了数据接入与推理执行的物理位置,请根据数据合规要求选择对应地域开通。
Endpoint地域:决定接入点和数据存储位置;
推理执行地域:决定推理执行位置,在一定范围内动态调度。
选择中国内地以外地域时,业务数据将跨境传输至新加坡地域,并根据需要动态调度至中国内地以外的推理服务节点进行计算。请自行确保相关数据跨境传输行为符合所适用的法律法规及监管政策要求,包括但不限于:传输的数据中不含任何所适用法律限制或禁止跨境传输的内容、已完成必要的审批或备案程序、已充分履行告知义务并取得必要同意。
内置模型列表
模型分类 | 模型 | 模型能力 | 支持地域 |
千问 | qwen3.8-max | 文本生成、推理模型、视觉理解 | 全部 |
qwen3.7-max | 文本生成、推理模型、视觉理解 | 全部 | |
qwen3.7-plus | 文本生成、推理模型、视觉理解 | 全部 | |
qwen3.6-plus | 文本生成、推理模型、视觉理解 | 全部 | |
qwen3.5-plus | 文本生成、推理模型、视觉理解 | 全部 | |
qwen3.7-flash | 文本生成、推理模型、视觉理解 | 全部 | |
qwen3.6-flash | 文本生成、推理模型、视觉理解 | 全部 | |
qwen3.5-flash | 文本生成、推理模型、视觉理解 | 全部 | |
qwen3.5-ocr | OCR识别 | 中国内地 | |
qwen-vl-ocr | OCR识别 | 全部 | |
qwen-mt-plus | 翻译 | 全部 | |
qwen-mt-flash | 翻译 | 全部 | |
DeepSeek | deepseek-v4-flash-0731 | 文本生成、推理模型 | 全部 |
deepseek-v4-pro | 文本生成、推理模型 | 全部 | |
GLM | glm-5.2 | 文本生成、推理模型 | 全部 |
Embedding | qwen3.7-text-embedding | 文本向量化 | 中国内地 |
text-embedding-v4 | 文本向量化 | 全部 | |
qwen3-vl-embedding | 多模态向量化 | 中国内地 |
使用方式
SQL
在CREATE MODEL语句中指定task和model参数,无需指定endpoint和api-key:
CREATE MODEL model_name
INPUT (column_name STRING)
OUTPUT (column_name {STRING | ARRAY<FLOAT>})
WITH (
'provider' = 'openai-compat | dashscope',
'task' = 'chat/completions | embeddings | multimodal-embedding',
'model' = '<model-name>'
);
更多使用详情请参见模型设置。
Pyflink Dataframe
在 set_model_provider 中指定 task,在函数中指定 model,使用示例:
pf.set_model_provider(pf.OpenAICompatProvider(task="chat/completions"))
questions = pf.from_dict({
"id": [1, 2],
"question": ["What is Flink?", "What is stream processing?"],
})
# default output column: output (STRING)
df = questions.llm.predict("question", model="qwen3.6-plus")
更多使用详情请参见AI / LLM 函数。