全部產品
Search
文件中心

OpenSearch:內容社區行業

更新時間:Nov 14, 2024

社區內容通常包括UGC和PGC。由於關鍵詞和內容多樣性豐富、用詞規範程度參差不齊,搜尋引擎需要對關鍵詞和內容進行智能語義分析,識別出使用者真正的查詢意圖,找到最全面最相關的結果滿足使用者需求。本文將詳細介紹如何通過“OpenSearch(OpenSearch)內容增強版”在社區論壇情境的應用,提升使用者搜尋體驗。

社區的核心是使用者,使用者進入社區的主要目的是為了消費內容。內容可以是廣義的圖文、音頻、視頻,也可以是通過社區找到解決問題的方法。優質的內容能提升使用者的活躍度,為平台帶來流量與時間長度,實現使用者增長和留存,獲得更多業務機會和收益。

"搜尋"作為社區直接擷取內容的最有效途徑,每個社區都在不斷解決下面的搜尋效果問題:

  • 如何準確理解使用者的搜尋意圖,返回最佳結果?

  • 如何通過內容傳播的差異化,個人化來提升使用者的搜尋體驗,增強社區歸屬感和忠誠度?

  • 如何在社區裡不同領域,不同垂類,不同頻道間的內容召回中實現互動和串連?

  • 如何?非商業化內容與商業化內容更好的融合與發展?

本文將帶著以上幾個思考,為大家解析內容社區行業搜尋特點和挑戰,以及介紹阿里雲智能OpenSearch-內容社區行業增強版的解決方案和應用實踐。

內容行業搜尋業務需求

»更多的曝光機會——無結果率低; »更好的搜尋品質——搜尋相關性高,更高品質的排序; »更豐富的業務特徵——結合業務特性調整搜尋結果; »更全面的配套功能——智能錯誤修正、熱搜、底紋、下拉提示等配套能力; »更低的擁有成本——相較自建搜尋引擎更低的開發、資源、營運成本; »更便捷的開發使用——上線周期短,降低搜尋引擎開發、效果調優難度;

» 使用者搜尋意圖指向性強——主搜聚集多個頻道內容,搜尋結果相關性要求更加精準;

以某論壇社區為例,產品線覆蓋多個平台,包含網頁、APP、小程式等形式,同時業務上區分多個頻道。隨著業務的發展,首頁綜合搜尋(後簡稱“主搜”)的流量越來越大,各種付費、引流業務接入,對搜尋流量的營運變得更加重要,對主搜的業務訴求越來越多,需要彙總多個頻道的內容,同時搜尋結果相關性要求更加精準,在考慮文本相關性的前提下,要加入更多的商業因素考慮。 成熟的搜尋引擎涉及離線模組、線上模組、查詢理解服務、演算法平台等系統,所需大量開發、演算法調優以及持續的複雜營運工作,由於人力有限,自建搜尋系統很難滿足業務需求。

常見搜尋業務情境

  • 博文、問答、心得分享等內容搜尋

  • 精品內容、熱帖發現

  • 付費資源引流

  • 標籤分類過濾、篩選

image

(配圖來自阿里雲開發人員社區)

  • 熱門活動、話題互動

  • PGC、UGC

  • 熱搜、底紋、下拉提示等搜尋引導

  • 個人化、時效性

image

(配圖來自阿里雲開發人員社區)

OpenSearch內容社區增強版

方案架構

image

功能介紹

內容行業增強版基於阿里巴巴最新演算法功能,貼合不同垂類內容搜尋情境的痛點和需求,提供了內容行業專屬的智能語義理解能力、向量召回、排序演算法,為內容行業的搜尋效能和效果準確性提供雙重保障,並有效解決了超大詞庫資料導致的搜尋延遲高、資源消耗大、搜尋無結果率高等行業重痛點問題。針對內容行業,OpenSearch還提供了向量模型,以實現向量召回及多路搜尋,提高查詢準確率,並提供多模態搜尋解決方案。

1、功能差異

功能列表

通用版

內容行業增強版

一站式配置

建立應用後,需要手動建立並配置查詢分析、排序策略和下拉提示模型。

結合內容行業常見搜尋情境,選擇所需能力及功能,同時提供應用結構模板和索引結構模板,實現一鍵式配置,降低新使用者使用門檻。

查詢分析

針對通用行業提供同義字拓展、停用詞省略、拼字錯誤修正、詞權重分析、類目預測等能力。

針對內容行業,提供增強版分析器與查詢分析功能。結合內容搜尋情境及行業難題,更精準的構建索引並識別使用者查詢意圖,與通用版相比效果更優。

策略排序

建立應用後,需要結合業務情境手動設定並調試相應的排序策略。

在應用結構模板和索引結構模板基礎上,提供內容行業常用排序運算式,無需額外配置即可滿足大部分內容行業排序效果需求。

功能迭代

定期更新分析器、查詢分析等系統預設詞典。

根據內容行業的名詞、產品等變化,不斷迭代更新,最佳化原有分詞、查詢分析能力,提供更高時效性的服務保障。

2、查詢分析效果對比

行業增強版較通用版相比在查詢分析功能上做出了更深入的最佳化,不僅在通用版的基礎上更新了常見bad case,而且針對內容行業集各家之所長,豐富已有詞庫。

  • 分詞:(以空格分詞)

query

通用版

行業增強版

為瞭解壓縮

為 瞭解 壓縮

為了 解 壓縮

實參與形參

實 參與 形參

實參 與 形參

結構體重載

結構 體重 載

結構體重載

googlechromeframe

googlechromeframe

google chrome frame

  • 拼字錯誤修正

query

通用版

行業增強版

淘寶只能視覺

淘寶只能視覺

淘寶智能視覺

mybatics代碼產生

mybatics代碼產生

mybatis代碼產生

電腦網路

電腦網路

電腦網路

微行小程式

微型小程式

微信小程式

深度學西

深度學西

深度學習

針對內容行業的垂類行業資料分布提供高品質的向量召回模型,保證長尾query,包含錯別字query,依賴同義字改寫召回query的召回效果

  • 向量召回

query

美國gmted2010的shuju下載

向量召回top1

gmt43相關代碼、資料下載地址

向量召回top2

gmt0054-2010.pdf

向量召回top3

gmted2010美國download地址

query

3D遊戲畫面處理

向量召回top1

3d遊戲動畫處理基礎

向量召回top2

3d遊戲動畫的基礎

向量召回top3

動畫遊戲處理

query

禁用n卡

向量召回top1

網卡的禁止和啟動

向量召回top2

禁用網卡

向量召回top3

禁用及啟用網卡

基於Seq行為建模,實現個人化搜尋

例如:使用者連續搜尋:“面試”,“Java”兩個詞和使用者只搜尋“Java”的結果是有差異的,實現個人化召回,針對性滿足不同使用者的搜尋需求,提示使用者搜尋體驗。

深度排序模型DeepRanking

模型參數規模可以達到1000億層級,保障更優搜尋效果,且模型訓練、使用成本低,遠低於自研人力+機器+研發支援所用成本。

深度召回模型集合阿里雲達摩院的NLP能力,提升搜尋效果,降低無結果率

image

針對使用者和資料特點,結合阿里巴巴長期技術積累,深度定製模型結構,做到Make for you的特有深度模型結構。

增強版接入流程

輕鬆接入,快速上手,一鍵式接入行業模板,可根據自身業務自訂選擇功能,並滿足非技術人員業務幹預調優與數字化營運需求。

表結構設計

詳情可參考應用結構--->建立多表join

資料接入

OpenSearch支援使用者通過資料來源將資料接入搜尋,也支援無資料來源,通過API/SDK/控制台上傳檔案的方式匯入資料詳情如下:

  1. RDS資料來源配置

  2. MaxCompute(原ODPS)資料來源配置

  3. PolarDB資料來源配置

  4. API/SDK資料匯入

內容社區行業模板配置

功能選擇,垂類選擇“IT”行業為例,模板功能可自行勾選(預設全選)

image

其中模板功能包括:查詢分析(IT詞權重、IT同義字包、文本向量化等)、排序策略(多路搜尋、文本相關性、向量相關性)、下拉提示。

搜尋測試

  1. 如需使用“IT

    向量索引

    ”搜尋,需要先配置查詢分析-文本向量化功能,並添加對應的IT

    向量索引

  2. 在搜尋測試中進行測試:

效果定製服務

如果有深度召回、排序效果調優、個人化搜尋需求,OpenSearch團隊專家支援效果定製服務,請諮詢支援人員或商務同學。

案例實踐

某技術社區作為中文IT內容社區,致力於為中國軟體開發人員提供知識傳播、線上學習、職業發展等全生命週期服務,旗下包括多款產品。

自開始接觸阿里雲OpenSearch產品,在一年的時間裡陸續接入PC端、移動端的多個平台,覆蓋首頁搜尋、部落格、下載、問答等細分業務的頻道搜尋。通過OpenSearch,為旗下產品的使用者提供高品質的搜尋服務,並通過搜尋能力的最佳化帶來更多的業務轉化,提升整體業務收入。

  • 對比基於開源自建的服務CTR提升超過80%

  • 後續演算法專家通過深度定製模型不斷幫客戶調優,每曝光使用者帶來點擊次數提升16.7%,Item-CTR提升11.8%,效果還在持續提升中;

image