本文旨在介紹在智能圖文匹配成片-通用情境下的合成參數、進階配置、SDK調用樣本。
指令碼化自動成片與智能圖文匹配成片共用同一個提交任務API。有關如何通過參數區分這兩者,請參見參數區別說明
注意:在此介面中,所有媒資的OSS URL中的地區(region)必須與調用OpenAPI服務地址中的地區(region)保持一致。
支援的地區:華東2(上海)、華北2(北京)、華東1(杭州)、華南1(深圳)、美國(西部)、新加坡。
在實際使用過程中,請將文檔所有參數樣本中的 [your-bucket]、[your-region-id]、[your-file-name]、[your-file-path]、媒資ID(例如:“****9d46c8b4548681030f6e****”)等參數替換為您的實際值。
為了更好地閱讀本文,建議您在閱讀本文之前先通過智能一鍵成片操作指南瞭解【智能圖文匹配成片-通用情境】相關的概念與使用流程。
智能圖文匹配-通用情境包含兩種成片模式。本文將針對以下幾種“模式”進行詳細闡述:
全域口播模式
分鏡指令碼模式
使用說明
將多個視頻、音頻、圖片素材進行智能混剪,一鍵批量合成視頻介面說明,請參見SubmitBatchMediaProducingJob - 批量智能一鍵成片,api關鍵參數詳見下文InputConfig 參數說明、EditingConfig 參數說明、OutputConfig 參數說明。
擷取批量智能一鍵成片作業的詳細資料,請參見GetBatchMediaProducingJob - 擷取批量智能一鍵成片任務資訊。
InputConfig 參數說明
使用者可通過配置InputConfig,指定視頻素材、口播、背景音樂、貼紙等基礎素材的參數配置。
參數 | 類型 | 說明 | 樣本值 | 是否必填 | 支援模式 |
MediaArray | List<String> |
| ["****b4549d46c88681030f6e****","****549d46c88b4681030f6e****"] | MediaArray和MediaSearchInput二選一必填 | 全部支援 |
MediaSearchInput | 通過指定檢索庫和主題描述文本智能搜尋匹配的剪輯素材。 | {"LibSearchCondition":{"SearchLibs":["ims-default-search-lib","test-20"],"SearchText":"阿里雲小助手正在學習如何直播帶貨"}} | 全部支援 | ||
TitleArray | List<String> | 標題數組,每次合成隨機選一個 最多50個,每個標題不超過50字 | ["標題1","標題2"] | 否 | 全部支援 |
SubHeadingArray | List<SubHeading> | 副標題設定 | [{"Level":1,"TitleArray":["一級副標題1","一級副標題2"]},{"Level":3,"TitleArray":["三級副標題"]}] | 否 | 全部支援 |
SpeechTextArray | List<String> |
| ["口播內容1","口播內容2"] | 否 |
|
SceneInfo | 情境資訊,用於情境相關的參數. | 是 |
| ||
StickerArray | List<Sticker> |
| [{"MediaId":"****9d46c8b4548681030f6e****","X":10,"Y":100,"Width":300,"Height":300,"Opacity":0.6}] | 否 | 全部支援 |
BackgroundMusicArray | List<String> |
| ["****b4549d46c88681030f6e****","****549d46c88b4681030f6e****"] | 否 | 全部支援 |
BackgroundImageArray | List<String> |
| ["****b4549d46c88681030f6e****","****549d46c88b4681030f6e****"] | 否 | 全部支援 |
MediaSearchInput 參數說明
參數 | 類型 | 說明 | 是否必填 |
LibSearchCondition | 檢索庫搜尋條件設定 | 必填 |
LibSearchCondition 參數說明
參數 | 類型 | 說明 | 樣本值 | 是否必填 |
SearchLibs | List<String> | 檢索庫列表 | ["ims-default-search-lib"] | 是 |
SearchText | String | 主題描述文本,用於描述目標匹配素材的主題內容,常值內容最長20個字元。 | 海洋、珊瑚礁、海豹、海豚、海洋環境 | 是 |
SceneInfo 參數說明
參數 | 類型 | 說明 | 是否必填 |
Scene | String | 匹配情境類型,通用情境下固定傳值“General”即可。 | 是 |
ShotInfo | 設定分鏡指令碼。 說明 此參數只適用於分鏡指令碼模式,如果是全域口播模式無需設定此參數。 | 否 |
ShotInfo 參數說明
此參數只適用於分鏡指令碼模式,如果是全域口播模式無需設定此參數。
參數 | 類型 | 說明 | 是否必填 |
ShotScripts | List<ShotScript> | 分鏡指令碼數組 | 是 |
ShotScript 參數說明
此參數只適用於分鏡指令碼模式,如果是全域口播模式無需設定此參數。
參數 | 類型 | 說明 | 樣本值 | 是否必填 |
ScriptText | String | 單個分鏡中的指令碼文案,用於描述分鏡的內容 | 他最近在研製一種新的魔法藥劑。 | 否 |
SpeechText | String |
| 老魔法師丹尼在倒騰著奇怪的儀器,他最近在研製一種新的魔法藥劑。 | 否 |
Duration | Float |
| 5 | 否 |
Volume | Float |
| 0.5 | 否 |
參數樣本:全域口播模式
{
// MediaArray和MediaSearchInput二選一
"MediaArray": [
"****9d46c886b45481030f6e****",
"****c886810b4549d4630f6e****",
"http://[your-bucket].oss-[your-region-id].aliyuncs.com/test1.mp4",
"http://[your-bucket].oss-[your-region-id].aliyuncs.com/test2.png"
],
// MediaArray和MediaSearchInput二選一
"MediaSearchInput": {
"LibSearchCondition": {
"SearchLibs": [
"ims-default-search-lib",
"test-20"
],
"SearchText": "阿里雲小助手正在學習如何直播帶貨"
}
},
"TitleArray": [
"回龍觀盒馬鮮生開業啦",
"盒馬鮮生開業啦"
],
"SubHeadingArray": [
{
"Level": 1,
"TitleArray": ["副標題1", "副標題2"]
},
{
"Level": 3,
"TitleArray": ["三級副標題"]
}
],
"SpeechTextArray": [
"附近的商場新開了一家盒馬鮮生,今天是第一天開業,趕緊來湊熱鬧,這家盒馬面積不大,但商場裡的人不少,零食、酒水都比較便宜,排隊的人都排成了長龍,大家也快來看看呀",
"附近的商場新開了一家盒馬鮮生,今天是第一天開業,趕緊來湊熱鬧",
"<speak>戰火<phoneme alphabet=\"py\" ph=\"zheng4 hao3\">正酣</phoneme>。今天,我們的主角,乒壇傳奇馬龍,正向著榮耀的巔峰發起衝擊。1/4決賽中面對實力強勁的戶上隼輔,馬龍毫不畏懼,每一個回合都全力以赴。他精準的球路和冷靜的判斷,讓他在這場比賽中佔據了上風。最終,馬龍成功戰勝對手,晉級四強。</speak>"
],
"Sticker": {
"MediaId": "****b681034549d46c880f6e****",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300,
"Opacity": 0.6
},
"StickerArray": [
{
"MediaId": "****9d46c8b4548681030f6e****",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300,
"Opacity": 0.6
},
{
"MediaURL": "http://[your-bucket].oss-[your-region-id].aliyuncs.com/test3.png",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300
}
],
"BackgroundMusicArray": [
"****b4549d46c88681030f6e****",
"****549d46c88b4681030f6e****",
"http://[your-bucket].oss-[your-region-id].aliyuncs.com/test4.mp3"
],
"BackgroundImageArray": [
"****6c886b4549d481030f6e****",
"****9d46c8548b4681030f6e****",
"http://[your-bucket].oss-[your-region-id].aliyuncs.com/test1.png"
]
}參數樣本:分鏡指令碼模式
{
// MediaArray和MediaSearchInput二選一
"MediaArray": ["****9d46c886b45481030f6e****", "****c886810b4549d4630f6e****"],
// MediaArray和MediaSearchInput二選一
"MediaSearchInput": {
"LibSearchCondition": {
"SearchLibs": [
"ims-default-search-lib",
"test-20"
],
"SearchText": "阿里雲小助手正在學習如何直播帶貨"
}
},
"SceneInfo": {
"Scene": "General", // General 通用匹配
"ShotInfo": {
"ShotScripts": [
{
"ScriptText": "這裡是第一場分鏡的指令碼文案",
"SpeechText": "這是第一場分鏡的口播文案,改分鏡的時間長度與口播時間長度一致"
},
{
"ScriptText": "這裡是第二場分鏡的指令碼文案,無口播文案時支援設定Duration控制分鏡時間長度",
"Duration": 5.0, // 無口播文案時支援設定
"Volume": 1.0 // 設定分鏡中視頻素材的音量
},
{
"ScriptText": "這裡是第三場分鏡的指令碼文案",
"SpeechText": "<speak>口播文案支援ssml。戰火<phoneme alphabet=\"py\" ph=\"zheng4 hao3\">正酣</phoneme>。今天,我們的主角,乒壇傳奇馬龍,正向著榮耀的巔峰發起衝擊。<s>1/4決賽中面對實力強勁的戶上隼輔,馬龍毫不畏懼,每一個回合都全力以赴</s>他精準的球路和冷靜的判斷,讓他在這場比賽中佔據了上風。最終,馬龍成功戰勝對手,晉級四強<break time=\"1000ms\"/></speak>"
}
]
}
},
"TitleArray": [
"回龍觀盒馬鮮生開業啦",
"盒馬鮮生開業啦"
],
"SubHeadingArray": [
{
"Level": 1,
"TitleArray": ["副標題1", "副標題2"]
},
{
"Level": 3,
"TitleArray": ["三級副標題"]
}
],
"StickerArray": [
{
"MediaId": "****9d46c8b4548681030f6e****",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300
},
{
"MediaURL": "http://[your-bucket].oss-[your-region-id].aliyuncs.com/test3.png",
"X": 10,
"Y": 100,
"Width": 300,
"Height": 300
}
],
"BackgroundMusicArray": [
"****b4549d46c88681030f6e****",
"****549d46c88b4681030f6e****",
"http://[your-bucket].oss-[your-region-id].aliyuncs.com/test4.mp3"
],
"BackgroundImageArray": [
"****6c886b4549d481030f6e****",
"****9d46c8548b4681030f6e****",
"http://[your-bucket].oss-[your-region-id].aliyuncs.com/test1.png"
]
}EditingConfig 參數說明
使用者可通過配置EditingConfig,指定成片素材的標題字型、音量、位置及其他合成參數。如無特殊需求,建議客戶使用預設配置,該欄位可置空。
通用情境下的“全域口播模式”和“分鏡指令碼模式”參數說明皆相同。
參數 | 類型 | 說明 | 樣本值 | 是否必填 |
JSON | 輸入視頻素材相關配置。 | 詳見參數樣本 | 否 | |
JSON | 標題相關配置。支援配置字幕參數。 | 詳見參數樣本 | 否 | |
SubHeadingConfig | JSON | 多級副標題相關配置。支援設定字幕參數。 JSON欄位說明: | 詳見參數樣本 | 否 |
JSON | 口播文案相關配置。 | 詳見參數樣本 | 否 | |
JSON | 背景音樂相關配置。 | {"Volume":0.2} | 否 | |
JSON | 背景圖相關配置。如果InputConfig中已配置背景圖,則此欄位不生效。 | {"SubType":"Blur","Radius":0.5} | 否 | |
JSON | 混剪處理配置。 | 詳見參數樣本 | 否 | |
JSON | 用於前端頁面預覽時的畫布配置。 | {"Width": 1080,"Height": 1920} | 否 | |
ProduceConfig | JSON | 普通剪輯合成配置,欄位詳見:EditingProduceConfig | {"AutoRegisterInputVodMedia":true,"OutputWebmTransparentChannel":true,"CoverConfig":{"StartTime":3.3},"AudioChannelCopy":"left","PipelineId":"***d54a97cff4108b555b01166d4b***","MaxBitrate":5000,"KeepOriginMaxBitrate":false,"KeepOriginVideoMaxFps":false} | 否 |
ProcessConfig 參數說明
參數 | 類型 | 說明 | 樣本值 | 是否必填 |
SingleShotDuration | Float | 長視頻素材進行剪輯時會自動拆條,拆條後單鏡頭的時間長度,單位秒。 | 5 | 否,預設3 |
EnableClipSplit | Boolean | 表示是否進行AI拆條(按照視頻畫面切換,自動拆分長素材)。如果為true,SingleShotDuration參數則失效。 | false | 否,預設false |
AllowVfxEffect | Boolean | 是否允許添加特效效果。 | true | 否,預設false |
VfxEffectProbability | Float | 特效應用在每個視頻片段上的機率,取值:0.0 - 1.0,支援2位小數。 | 0.6 | 否,預設0.5 |
VfxFirstClipEffectList | List<String> |
| ["slightshow","starfieldshinee"] | 否 |
VfxNotFirstClipEffectList | List<String> |
| ["zoomslight","zoom"] | 否 |
AllowTransition | Boolean | 是否允許添加轉場效果。 | true | 否,預設false |
TransitionDuration | Float | 轉場時間長度,單位秒。如果轉場時間長度 > 片段時間長度 - 1,則該片段上的轉場效果不會生效。 | 0.5 | 否,預設0.5秒 |
TransitionList | List<String> | 自訂轉場效果列表,當AllowTransition=true時,隨機選取列表中的一個轉場效果進行合成。轉場效果的可選範圍詳見轉場效果庫。如果此參數為空白,則會從以下轉場效果中隨機選取:"linearblur", "colordistance", "crosshatch", "dreamyzoom", "doomscreentransition_up" | ["directional", "linearblur"] | 否 |
UseUniformTransition | Boolean | 單個成片中是否使用一致的轉場效果。 | true | 否,預設true |
AllowFilter | Boolean | 是否允許添加自訂濾鏡 | false | 否,預設false |
FilterList | List<String> | 自訂濾鏡效果列表,當AllowFilter=true時,隨機選取列表中的一個濾鏡進行合成,濾鏡效果的可選範圍濾鏡效果樣本,如果此參數為空白,則不會添加濾鏡效果。 | ["m1", "m2"] | 否 |
AllowDuplicateMatch | Boolean | 表示匹配過的片段是否允許重複使用。 | false | 否,預設false |
ImageDuration | Float | 圖片素材的持續時間長度,單位秒。 | 2 | 否,預設2 |
EditingConfig參數樣本
EditingConfig 中的所有參數均為非必填項,以下是預設配置。
{
"MediaConfig": {
"Volume": 0 // 預設視頻素材靜音
},
"TitleConfig": {
"Alignment": "TopCenter",
"AdaptMode": "AutoWrap",
"Font": "Alibaba PuHuiTi 2.0 95 ExtraBold",
"SizeRequestType": "Nominal",
"Y": 0.1, // 成片為豎屏時,標題Y座標值
"Y": 0.05, // 成片為橫屏時,標題Y座標值
"Y": 0.08 // 成片為方屏時,標題Y座標值
},
"SpeechConfig": {
"Volume": 1, // 口播音頻預設用原始音量
"SpeechRate": 0,
"Voice": null,
"Style": null,
"CustomizedVoice": null, // 人聲複製voiceId,若填寫了此欄位,Voice和Style將失效。
"AsrConfig": {
"Alignment": "TopCenter",
"AdaptMode": "AutoWrap",
"Font": "Alibaba PuHuiTi 2.0 65 Medium",
"SizeRequestType": "Nominal",
"Spacing": -1,
"Y": 0.8, // 成片為豎屏時,字幕Y座標值
"Y": 0.9, // 成片為橫屏時,字幕Y座標值
"Y": 0.85 // 成片為方屏時,字幕Y座標值
}
},
"SubHeadingConfig": {
"1": {
"Y": 0.3,
"FontSize": 40
},
"3": {
"Y": 0.5,
"FontSize": 30
}
},
"BackgroundMusicConfig": {
"Volume": 0.2, // 背景音樂預設用20%音量,
"Style": null
},
"ProcessConfig": {
"SingleShotDuration": 3, // 拆條後的鏡頭時間長度,SingleShotDuration和EnableClipSplit二選一
"EnableClipSplit": false // 是否進行AI拆條,如果為true,SingleShotDuration參數則失效
"AllowVfxEffect": false, // 是否添加特效效果
"AllowTransition": false, // 是否添加轉場效果
"AllowDuplicateMatch": false, // 圖文匹配模式下,匹配過的片段是否允許重複使用
}
}TemplateConfig 參數說明
TemplateConfig為一鍵成片的公用參數,用於設定一鍵成片模板。詳細參數說明和使用樣本詳見TemplateConfig 參數說明
OutputConfig 參數說明
使用者可通過配置OutputConfig,指定成片輸出地址、名稱規則、成片的寬高、輸出成片數量等合成參數配置。
通用情境下的“全域口播模式”和“分鏡指令碼模式”參數說明皆相同。
參數 | 類型 | 說明 | 樣本值 | 是否必填 |
MediaURL | String | 輸出視頻地址,必須要有預留位置 {index}. | 規則:http://[your-bucket].oss-[your-region-id].aliyuncs.com/[your-file-path]/[your-file-name]_{index}.mp4 樣本:http://example.oss-cn-shanghai.aliyuncs.com/example/example_{index}.mp4 | 當GeneratePreviewOnly=false時,且成片輸出到OSS時必填 |
StorageLocation | String | 指定輸出到VOD的媒資檔案儲存體地址。 | 規則:[your-vod-bucket].oss-[your-region-id].aliyuncs.com 樣本:outin-****6c886b4549d481030f6e****.oss-cn-shanghai.aliyuncs.com | 當GeneratePreviewOnly=false時,且成片輸出到VOD時必填 |
FileName | String | 輸出檔案名稱,必須要有預留位置 {index}。 | 規則:[your-file-name]__{index}.mp4 樣本:example_{index}.mp4 | 當GeneratePreviewOnly=false時,且成片輸出到VOD時必填 |
GeneratePreviewOnly | Boolean |
| false | 否,預設false |
Count | Integer | 輸出視頻數
| 10 | 否,預設1 |
MaxDuration | Float | 輸出視頻單片時間長度上限。 如果有確定「口播文本」參數,以口播文本tts時間長度為準,當前參數無效; 如果無「口播文本」,以當前設定單片時間長度為最大時間長度,預設15s。 | 20 | 否,預設15秒 |
FixedDuration | Float | 輸出視頻單片的固定時間長度。如果設定了固定時間長度,視頻時間長度將會對齊此參數。 注意:
| 20 | 否,預設15秒 |
Width | Integer | 成片寬,px | 1080 | 是 |
Height | Integer | 成片高,px | 1920 | 是 |
JSONObject | 輸出視頻流相關配置,Crf、Codec等 | {"Crf": 27} | 否 |
參數樣本
{
"MediaURL": "http://[your-bucket].oss-[your-region-id].aliyuncs.com/[your-file-path]/[your-file-name]_{index}.mp4",
"Count": 1,
"MaxDuration": 15,
"Width": 1080,
"Height": 1920,
"Video": {"Crf": 27},
"GeneratePreviewOnly":false
}SDK調用樣本
前提條件
您已安裝IMS服務端SDK,詳情請參見準備工作。
程式碼範例
以全域口播模式為例
API調用入參詳情
混剪邏輯與進階配置
處理邏輯
全域口播模式:
如果視頻素材通過“指定檢索庫+設定主題描述文本”方式進行選擇,則可以通過“主題描述文本”作為檢索條件,在指定檢索庫中智能搜尋出相應的視頻片段作為輸入視頻。
如果輸入視頻為長視頻片段,會先進行拆條,混剪時選取拆條後的視頻片段進行拼接合成。拆條後單鏡頭的時間長度預設為3s,您也可以通過參數SingleShotDuration指定鏡頭時間長度。
如果沒有口播文案,則隨機選取視頻片段進行前後拼接,合成大約15s的成片。
如果有口播文案,則進行圖文智能匹配並對齊口播文案,批量合成多條成片。
分鏡指令碼模式:
如果視頻素材是通過“指定檢索庫+設定主題描述文本”方式進行指定,則應通過“主題描述文本”在指定檢索庫中進行智能搜尋,以提取相應的視頻片段作為輸入視頻。
在分鏡指令碼模式下,無需設定SpeechTextArray/SpeechText,通過SceneInfo.ShotInfo.ShotScripts控製成片中的每一個分鏡的內容、時間長度、口播等資訊。
在單個分鏡中,優先通過指令碼文案進行片段的智能截取和匹配,如未設定指令碼文案,但設定了口播文案,則通過口播文案進行匹配。
在單個分鏡中,分鏡的時間長度與口播時間長度或自訂時間長度進行對齊。
進階配置
進階配置詳見批量一鍵成片混剪邏輯與進階配置