本文介绍实时计算Flink版AI服务(内置模型)的功能、使用方式及限制。
功能概述
Flink AI服务(内置模型)是实时计算Flink版的托管式AI模型调用能力。您无需配置 API-Key ,即可在 Flink SQL 作业、Flink Agent中调用内置模型,实现流式 AI 推理与向量化。
核心优势
特性 | 说明 |
开箱即用 | 无需配置API-Key、Endpoint或私网连接。 |
按 Token 计费 | 按 Token 用量计费,成本清晰可控。 |
多模型支持 | 内置多款主流大模型,覆盖文本生成、视觉理解、翻译、向量化等场景。 |
全地域覆盖 | 支持国内及海外多地域,跨地域访问自动打通。 |
功能架构
内置模型与自定义模型(BYOK)对比
对比维度 | 对比项 | 内置模型(推荐) | 自定义模型(不推荐) |
接入配置 | endpoint | 无需指定,系统自动配置 | 必须指定 |
api-key | 无需指定,系统托管 | 由用户提供并维护 | |
支持模型 | 仅限内置模型列表 | 任意兼容OpenAI/DashScope协议的模型 | |
前提条件 | 主账号在对应地域开通Flink AI服务 | 自行开通模型服务并获取API-Key | |
网络与安全 | 访问链路 | 阿里云内网直连,流量不出VPC | 需要开通公网访问 |
数据安全性 | 高,全链路在阿里云内网传输 | 数据经公网传输,需自行评估风险 | |
网络配置成本 | 零配置 | 公网需开通NAT网关、EIP或公网IP | |
性能 | 调用延迟 | 低,内网直连无额外网络跳数 | 公网受网络波动影响,延迟更高且不稳定 |
可用性 | 有SLA保障,网络稳定,延迟更低 | 取决于模型服务商SLA及网络链路稳定性 | |
计费 | 模型调用费用 | 按 Token 计费 | 由模型服务商直接计费 |
网络费用 | 无额外费用 | 公网需支付NAT网关费、EIP费及公网流量费 | |
账单归属 | 合并在Flink账单 | 模型费用与网络费用分散在多个账单 | |
免费额度 | 每个自然月赠送100万Token免费额度 | 没有免费额度赠送和重置 |
开通与关闭
开通条件
需由主账号操作开通。
每个地域独立开通,开通后该地域下所有工作空间均可使用。
采用按量付费模式,开通不产生费用,仅在实际调用时计费,详情请参见AI服务计费(按量付费)。
登录实时计算管理控制台,在 Flink AI 服务界面,单击 立即开通 。
关闭服务
在AI服务页面单击关闭服务,确认以下事项:
关闭后本地域所有作业将无法使用内置模型服务。
关闭前需确认所有作业均未依赖内置模型。
支持地域
Flink AI服务开服地域 | 地域代码 | Endpoint 地域 | 推理执行地域 |
华北2(北京) | cn-beijing | 华北2(北京) | 中国内地(动态调度) |
华北3(张家口) | cn-zhangjiakou | ||
华北6(乌兰察布) | cn-wulanchabu | ||
华东2(上海) | cn-shanghai | ||
华东1(杭州) | cn-hangzhou | ||
华南1(深圳) | cn-shenzhen | ||
西南1(成都) | cn-chengdu | ||
新加坡 | ap-southeast-1 | 新加坡 | 中国内地以外地域(动态调度) |
中国香港 | cn-hongkong | ||
马来西亚(吉隆坡) | ap-southeast-3 | ||
印度尼西亚(雅加达) | ap-southeast-5 | ||
日本(东京) | ap-northeast-1 | ||
韩国(首尔) | ap-northeast-2 | ||
泰国(曼谷) | ap-southeast-7 | ||
阿联酋(迪拜) | me-east-1 | ||
墨西哥 | na-south-1 | ||
美国(弗吉尼亚) | us-east-1 | ||
美国(硅谷) | us-west-1 |
地域决定了数据接入与推理执行的物理位置,请根据数据合规要求选择对应地域开通。
Endpoint地域:决定接入点和数据存储位置;
推理执行地域:决定推理执行位置,在一定范围内动态调度。
选择中国内地以外地域时,业务数据将跨境传输至新加坡地域,并根据需要动态调度至中国内地以外的推理服务节点进行计算。请自行确保相关数据跨境传输行为符合所适用的法律法规及监管政策要求,包括但不限于:传输的数据中不含任何所适用法律限制或禁止跨境传输的内容、已完成必要的审批或备案程序、已充分履行告知义务并取得必要同意。
内置模型列表
推理模型(chat/completions)
模型名称 | 适用场景 | 输入 | 输出 | 支持地域 |
qwen3.7-max | 视觉理解、文本生成,千问最新旗舰模型 | 文/图/视 | 文 | 全部 |
qwen3.6-plus | 视觉理解、文本生成,高性能且具性价比 | 文/图/视 | 文 | 全部 |
qwen3.6-flash | 视觉理解、文本生成,高性价比模型 | 文/图/视 | 文 | 全部 |
qwen3.5-plus | 视觉理解、文本生成,性能强劲 | 文/图/视 | 文 | 全部 |
qwen3.5-flash | 视觉理解、文本生成,速度快成本低 | 文/图/视 | 文 | 全部 |
向量模型(embeddings)
模型名称 | 适用场景 | 输入 | 输出 | 支持地域 |
text-embedding-v4 | 文本向量化 | 文 | 向量 | 全部 |
qwen3-vl-embedding | 多模态向量化 | 图/文/视频 | 向量 | 中国内地 |
使用方式
基本语法
使用内置模型时,在CREATE MODEL语句中指定task和model参数,无需指定endpoint和api-key:
CREATE MODEL model_name
INPUT (column_name STRING)
OUTPUT (column_name {STRING | ARRAY<FLOAT>})
WITH (
'provider' = 'openai-compat',
'task' = 'chat/completions | embeddings',
'model' = '<model-name>'
);更多使用详情请参见模型设置。
与自定义模型的关系
场景 | endpoint | api-key | 行为 |
使用内置模型 | 不指定 | 不指定 | 自动使用Flink托管的模型服务 |
使用自定义模型 | 指定 | 指定 | 使用自定义模型服务(BYOK模式) |
若未开通AI服务且未指定endpoint和api-key,系统将返回错误提示,需主账号开通AI服务后方可使用内置模型。
使用场景
场景 | 推荐模型 | 说明 |
实时文本分类/打标 | qwen3.5-flash / qwen3.6-flash | 对流数据进行实时情感分析、分类标注 |
实时信息抽取 | qwen3.5-plus / qwen3.6-plus | 从非结构化文本中提取结构化信息 |
实时向量化 | text-embedding-v4 | 对流数据进行实时向量化,用于相似度检索 |
多模态向量化 | qwen3-vl-embedding | 对图片、文本、视频进行统一向量化 |