Alibaba Cloud Model Studio:マルチモーダル埋め込み API

画像埋め込み

import dashscope
import json
from http import HTTPStatus
# 画像 URL をここに置き換えます。
image = "https://dashscope.oss-cn-beijing.aliyuncs.com/images/256_1.png"
input = [{'image': image}]
# モデル API を呼び出します。
resp = dashscope.MultiModalEmbedding.call(
    model="tongyi-embedding-vision-plus",
    input=input
)

if resp.status_code == HTTPStatus.OK:
    result = {
        "status_code": resp.status_code,
        "request_id": getattr(resp, "request_id", ""),
        "code": getattr(resp, "code", ""),
        "message": getattr(resp, "message", ""),
        "output": resp.output,
        "usage": resp.usage
    }
    print(json.dumps(result, ensure_ascii=False, indent=4))

import dashscope
import base64
import json
from http import HTTPStatus
# 画像を読み取り、Base64 に変換します。xxx.png を実際の画像ファイル名またはパスに置き換えます。
image_path = "xxx.png"
with open(image_path, "rb") as image_file:
    # ファイルを読み取り、Base64 に変換します。
    base64_image = base64.b64encode(image_file.read()).decode('utf-8')
# 画像フォーマットを設定します。
image_format = "png"  # 実際のフォーマット（jpg や bmp など）に応じて変更してください。
image_data = f"data:image/{image_format};base64,{base64_image}"
# 入力データ
input = [{'image': image_data}]

# モデル API を呼び出します。
resp = dashscope.MultiModalEmbedding.call(
    model="tongyi-embedding-vision-plus",
    input=input
)
if resp.status_code == HTTPStatus.OK:
    result = {
        "status_code": resp.status_code,
        "request_id": getattr(resp, "request_id", ""),
        "code": getattr(resp, "code", ""),
        "message": getattr(resp, "message", ""),
        "output": resp.output,
        "usage": resp.usage
    }
    print(json.dumps(result, ensure_ascii=False, indent=4))

動画埋め込み

動画入力は URL のみをサポートします。ローカル動画はサポートされていません。

import dashscope
import json
from http import HTTPStatus
# 動画 URL をここに置き換えます。
video = "https://help-static-aliyun-doc.aliyuncs.com/file-manage-files/zh-CN/20250107/lbcemt/new+video.mp4"
input = [{'video': video}]
# モデル API を呼び出します。
resp = dashscope.MultiModalEmbedding.call(
    model="tongyi-embedding-vision-plus",
    input=input
)

if resp.status_code == HTTPStatus.OK:
    result = {
        "status_code": resp.status_code,
        "request_id": getattr(resp, "request_id", ""),
        "code": getattr(resp, "code", ""),
        "message": getattr(resp, "message", ""),
        "output": resp.output,
        "usage": resp.usage
    }
    print(json.dumps(result, ensure_ascii=False, indent=4))
    

テキスト埋め込み

import dashscope
import json
from http import HTTPStatus

text = "汎用マルチモーダル表現モデルの例"
input = [{'text': text}]
# モデル API を呼び出します。
resp = dashscope.MultiModalEmbedding.call(
    model="tongyi-embedding-vision-plus",
    input=input
)

if resp.status_code == HTTPStatus.OK:
    result = {
        "status_code": resp.status_code,
        "request_id": getattr(resp, "request_id", ""),
        "code": getattr(resp, "code", ""),
        "message": getattr(resp, "message", ""),
        "output": resp.output,
        "usage": resp.usage
    }
    print(json.dumps(result, ensure_ascii=False, indent=4))

融合埋め込み

import dashscope
import json
import os
from http import HTTPStatus

# マルチモーダル融合埋め込み：テキスト、画像、動画を単一の融合埋め込みに結合します。
# クロスモーダル取得および画像検索などのアプリケーションに最適です。
text = "マルチモーダル融合埋め込みを生成するためのテストテキストです。"
image = "https://dashscope.oss-cn-beijing.aliyuncs.com/images/256_1.png"
video = "https://help-static-aliyun-doc.aliyuncs.com/file-manage-files/zh-CN/20250107/lbcemt/new+video.mp4"

# 入力にはテキスト、画像、動画が含まれます。enable_fusion=True を設定して単一の融合埋め込みを生成します。
input_data = [
    {"text": text},
    {"image": image},
    {"video": video}
]

# qwen3-vl-embedding を使用して融合埋め込みを生成します。
resp = dashscope.MultiModalEmbedding.call(
    # 環境変数が設定されていない場合は、DashScope API キーを直接指定します（例：api_key="sk-xxx"）。
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    model="qwen3-vl-embedding",
    input=input_data,
    enable_fusion=True,
    # オプション：埋め込み次元を指定します。サポートされる値は 2560、2048、1536、1024、768、512、256 です。デフォルトは 2560 です。
    # parameters={"dimension": 1024}
)

print(json.dumps(resp, ensure_ascii=False, indent=4))

複数画像融合埋め込み

この例では、qwen3-vl-embedding モデルを使用して、複数の画像とテキストを単一の埋め込みに融合する方法を示しています。この複数画像融合を実行するには、複数の image アイテムを渡します。この手法は、多角度の製品画像とテキスト説明を用いた包括的な意味検索に最適です。

import dashscope
import json
import os
from http import HTTPStatus

# 複数画像＋テキスト融合埋め込み：複数の製品画像と説明テキストを単一の埋め込みに融合します。
# 多角度の製品画像とテキスト説明を用いた包括的な意味検索に適しています。
text = "白いスポーツシューズ。軽量で通気性に優れ、ランニングおよび日常着用に適しています。"
image1 = "https://dashscope.oss-cn-beijing.aliyuncs.com/images/256_1.png"
image2 = "https://img.alicdn.com/imgextra/i3/O1CN01rdstgY1uiZWt8gqSL_!!6000000006071-0-tps-1970-356.jpg"

# 複数画像融合のため、複数の image アイテムを渡します。enable_fusion=True を設定すると、すべての入力が単一の埋め込みに融合されます。
input_data = [
    {"text": text},
    {"image": image1},
    {"image": image2}
]

resp = dashscope.MultiModalEmbedding.call(
    # 環境変数が設定されていない場合は、DashScope API キーを直接指定します（例：api_key="sk-xxx"）。
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    model="qwen3-vl-embedding",
    input=input_data,
    enable_fusion=True
)

print(json.dumps(resp, ensure_ascii=False, indent=4))