Alibaba Cloud Linux：共用記憶體通訊（SMC）常見問題

問題描述

使用SMC加速應用TCP串連之後，應用的效能與直接使用TCP對比並沒有提升。

問題原因及解決方案

• 由於某些原因，導致應用建立的SMC串連回退到TCP，此時無法使用RDMA加速網路通訊。詳細的回退排查和解決方案，請參見啟用SMC後回退無法使用RDMA加速。

• 應用的網路通訊開銷在整個應用中佔比較小。例如應用是傾向於CPU密集型，網路通訊在應用中佔比較低。

• 由於RDMA資料包相較於TCP需要佔用更多的頭部空間以攜帶與RDMA相關的資訊，因此在頻寬滿載的情況下，RDMA傳輸的資料頻寬會略低於TCP。您可以考慮啟用巨型幀（Jumbo Frames）來緩解這個問題。更多資訊，請參見巨型幀（Jumbo Frames）。

• 應用的網路通訊模型不適用SMC。例如：

  • 頻繁建立、銷毀串連（短串連）的情境。SMC建立串連涉及到RDMA資源建立和申請等慢速路徑，根據不同應用短串連的佔比，效能對比TCP可能沒有收益。

  • 資源受限的情境。SMC通訊所使用的資源受限於機器記憶體和eRDMA網卡規格，資源不足可能導致SMC回退到TCP。更多資訊，請參見共用記憶體通訊（SMC）使能和配置說明。

問題描述

使用Alibaba Cloud Linux 3開啟SMC之後，訪問某些地址（例如某些公網服務）不通，但是可以ping通。關閉SMC之後恢複正常。

問題原因

某些伺服器實現上沒有嚴格遵守TCP規範，在處理TCP options時，可能重放TCP options，導致SMC協議識別出現問題。

如果用於表徵支援SMC的TCP option被重放，就會使得本端誤認為對端服務具備SMC能力，引起握手錯誤，導致請求（例如curl）失敗，而ping（ICMP協議）成功的現象。

您可以通過通訊鏈路檢查診斷此類問題。

解決方案

對於重放SMC TCP option的非預期現象，由於是網路中間節點或對端的錯誤行為，無法從根本上避免，建議通過基於BPF策略的SMC協商控制，避免此鏈路訪問使用SMC通訊。

問題描述

根據共用記憶體通訊（SMC）使能和配置說明通過smc_run ./foo在應用程式維度啟用SMC後，使用smcr l觀察發現沒有成功建立的link group，使用smcss -a也看不到串連或是看到一側串連出現回退。

問題原因

smc_run透明啟用SMC的原理是通過LD_PRELOAD將smc-tools中提供的動態連結程式庫優先於其他庫之前載入，在優先載入的動態連結程式庫的socket(2)中對socket的family和protocol進行修改。因此，若應用程式並非通過動態方式連結（如靜態連結），則smc_run無法成功透明啟用SMC。

解決方案

根據共用記憶體通訊（SMC）使能和配置說明提供的sysctl net.smc.tcp2smc啟用SMC。

問題描述

載入SMC後，65500後的16個連接埠（即65500～65515）不可用，bind(2)這些連接埠會導致返回EADDRINUSE。

問題原因

由於SMC-R+eRDMA實現方式的特殊性，SMC模組將會佔用ERI所在net namespace下65500開始的16個連接埠作為OOB建連的預留連接埠，在dmesg中可以查看到如下提示資訊：

smc: smc: load SMC module with reserve_mode
NET: Registered protocol family 43
smc: netns <netns ID> reserved ports [65500 ~ 65515] for eRDMA OOB
smc: adding ib device erdma_0 with port count 1
smc: ib device erdma_0 port 1 has pnetid

如果連接埠佔用失敗則SMC模組無法使用eRDMA裝置。

解決方案

卸載SMC模組後將會釋放這些連接埠。卸載方法請參見在阿里雲ECS上使用SMC。

問題描述

在使用IPv6地址的應用程式中啟用SMC，通過smcss命令可以觀察到SMC回退到TCP協議棧的現象，回退原因代碼為0x03030000或0x0x09990000。

問題原因

阿里雲eRDMA裝置與SMC目前均不支援使用IPv6地址。如果應用程式層使用IPv6地址，會導致SMC回退到TCP協議棧。

解決方案

在對建立串連啟用SMC前，根據實際需求選擇以下任意一種方法禁用IPv6地址。

• 方案一：禁用IPv6地址。

  • 執行以下命令，禁用所有網路介面的IPv6地址。

    sudo sysctl -w net.ipv6.conf.all.disable_ipv6=1
    sysctl -w net.ipv6.conf.default.disable_ipv6=1

  • 執行以下命令，禁用特定網路介面的IPv6地址。

    <NetInName>替換為具體的網路介面名。

    sudo sysctl -w net.ipv6.conf.<NetInName>.disable_ipv6=1

• 方案二：在5.10.134-17.3及更高版本的核心上，使用IPv4-mapped IPv6地址。

問題描述

當網路壓力達到ECS執行個體規格定義的網路收發包PPS上限時，啟用SMC使用eRDMA後應用程式的QPS(Queries Per Second)表現不如TCP。

• TCP流量：通過sar -n DEV 1命令查看網路介面每秒傳輸包數量rxpck/s和txpck/s，確定網路壓力是否達到PPS上限。

• SMC的eRDMA流量：通過eadm stat -d <ibdev_name> -l命令來查看eRDMA網路介面每秒傳輸包數量，確定網路壓力是否達到PPS上限。更多eadm的資訊，請參見使用eadm工具進行eRDMA故障診斷和排查。

問題原因

由於RDMA協議的網路包設計與TCP不同，RDMA對於相同數量網路請求產生的網路包數量更多，更易達到執行個體規定的PPS上限，導致應用程式的QPS無法繼續增長。

解決方案

該問題僅出現在達到PPS上限的極限網路壓力情況下，例如使用benchmark壓測時。在實際情境中網路流量壓力極少會達到執行個體PPS上限。如果確實出現因PPS上限導致SMC效能劣於TCP的實際情境，則建議不在此情境下使用SMC。

問題描述

啟用SMC並替換應用的TCP串連，此時運行smcss -a命令可以看到建立的串連已經自動回退（fallback）到TCP。

問題原因

SMC建立串連時，如果發生異常會自動回退到TCP串連，此時SMC串連仍然可以正常通訊，但是無法享受RDMA帶來的效能提升。SMC發生回退時會提供回退原因編號，根據回退編號可以協助分析和定位問題。

解決方案

1. 運行smcss -a命令，查看SMC串連的回退編號。

   返回結果樣本：

   State          UID   Inode   Local Address           Peer Address            Intf Mode
   ACTIVE         00000 0156721 192.168.99.21:60188     192.168.99.22:8090      0000 TCP 0x03010000
   ACTIVE         00000 1202539 172.16.4.189:44780      172.16.4.190:1811       0000 SMCR

   其中第一條記錄Mode列為TCP，意味著該SMC串連回退到TCP，同時回退編號為0x03010000。第二條記錄Mode列為SMCR，則說明已經正常建立SMC-R串連。如果Mode列顯示的回退編號為兩個（例如0x05000000/0x03030001），其中第一個回退編號為本地的回退原因，第二個回退編號為對端的回退原因，通常是由於對端回退導致了本機無法正常建立SMC串連而回退。

2. 根據回退編號，從下表中查看可能的原因和解決方案。

   啟用SMC後回退無法使用RDMA加速的原因和解決方案

   回退原因編號	說明	可能原因和解決方案
   0x01010000	機器記憶體不足，導致資源建立失敗。	原因：機器的空餘記憶體不足，不足以建立SMC建立串連所需要的資料結構和讀寫記憶體。 解決方案：釋放機器的記憶體，例如停止不必要的進程。
   0x02010000	通過CLC或者LLC握手時，等待RDMA鏈路確認逾時。	原因1：RDMA網卡或者鏈路發生故障，導致LLC串連（通過RDMA鏈路通訊）訊息回複逾時。 解決方案1：確認RDMA網卡的狀態是否正常。 原因2：乙太網路卡或者TCP/IP網路發生故障或者異常，導致CLC串連（通過TCP串連通訊）訊息回複逾時。 解決方案2：確認乙太網路卡的狀態是否正常。
   0x02020000	通過LLC建立link逾時。	預留欄位，當前未使用。
   0x03000000	配置錯誤，無法擷取正確的IP地址。	原因：建立串連時，構建proposal時擷取CLC socket對應的IP地址失敗。 解決方案：檢查當前CLC串連（基於TCP協議）和所對應的裝置是否正常後重試。
   0x03010000	對端不支援或未使用SMC。	原因：如果支援SMC協議，將會在建立串連時的CLC串連（基於TCP協議）的SYN（用戶端）或SYNACK（服務端）報文頭中攜帶SMC TCP option標誌位。 解決方案：檢測本地或者對端是否已將應用的協議棧替換為SMC，通過smcss命令（smc-tools包提供）可查看當前SMC的串連狀態。如果沒有找到應用的串連和連接埠，請重新替換為SMC並建立新的串連。
   0x03020000	不支援IPSec。	原因：替換的串連使用IPSec，但是當前SMC並不支援IPSec。 解決方案：不使用IPSec。
   0x03030000	未找到可用的SMC-D或SMC-R裝置。	原因1：SMC建立串連使用時，未找到可用的SMC-R（RDMA）裝置。 解決方案1：執行smcr d命令，檢查當前是否有SMC-R（RDMA）裝置。如果沒有返回任何裝置，在使用阿里雲eRDMA的情境下，請檢查ECS控制台是否正確配置ERI裝置，並確保作業系統中正確安裝ERI的驅動。 原因2：在多乙太網路卡環境中，串連所用的乙太網路卡不具備ERI功能，無法找到eRDMA裝置。 解決方案2：通過ibv_devinfo命令查看eRDMA裝置的node_guid，再通過ip addr命令查看乙太網路卡的MAC地址，對比兩者確認串連所用的乙太網路裝置具備ERI eRDMA功能。 原因3：如果啟用RDMA裝置的獨佔模式，SMC只會在當前建立socket的net namespace中尋找RDMA裝置。 解決方案3：執行rdma system命令，如果返回的結果中包含netns exclusive則說明為獨佔模式。如果需要在某個netns中使用該RDMA裝置，請執行命令rdma dev set <RDMA 裝置名稱> netns <NETNS 名>，將RDMA裝置移至該netns。如果RDMA裝置為RoCE和iWARP，請將所需的乙太網路裝置也一併移動到該netns。 原因4：使用eRDMA裝置時，用戶端嘗試將AF_INET6串連替換為SMC串連。 解決方案4：eRDMA裝置只能配合SMCv2協議使用，而SMCv2協議目前不支援替換AF_INET6協議族串連，因此回退到TCP。此時請將應用程式切換為AF_INET協議族。
   0x03030001	未找到可用的SMC-D裝置。	當前雲情境暫未提供可用的SMC-D裝置，如出現該錯誤請聯絡阿里雲支援人員。
   0x03030002	未找到可用的SMC-R裝置。	原因1：SMC建立串連過程中，已經選中的RDMA裝置失效。 解決方案1：執行smcr d命令，檢查當前系統中是否有可用的SMC-R（RDMA）裝置，如果所需的RDMA裝置為阿里雲eRDMA裝置，請確保該ERI裝置已經在ECS控制台中添加並正確安裝和配置ERI驅動。 原因2：在多乙太網路卡環境中，串連所用的乙太網路卡不具備ERI功能，無法找到eRDMA裝置。 解決方案2：通過ibv_devinfo命令查看eRDMA裝置的node_guid，再通過ip addr命令查看乙太網路卡的MAC地址，對比兩者確認串連所用的乙太網路裝置具備ERI eRDMA功能。 原因3：如果啟用RDMA裝置的獨佔模式，SMC只會在當前建立socket的net namespace中尋找RDMA裝置。 解決方案3：執行rdma system命令，如果返回的結果中包含netns exclusive則說明為獨佔模式。如果需要在某個netns中使用該RDMA裝置，請執行命令rdma dev set <RDMA 裝置名稱> netns <NETNS 名>，將RDMA裝置移至該netns。如果RDMA裝置為RoCE和iWARP，請將所需的乙太網路裝置也一併移動到該netns。
   0x03030003	SMC-D裝置不支援ISMv2協議。	當前雲情境暫未提供可用的SMC-D裝置，如出現該錯誤請聯絡阿里雲支援人員。
   0x03030004	對端不支援SMCv2協議的拓展。	原因：本地啟用了SMC v2協議，但對端不支援SMC v2協議。SMC協議棧通過底層裝置能力自動選擇使用SMC v1或SMC v2協議。在使用阿里雲eRDMA和RoCE v2的情境下，將使用SMC v2協議。 解決方案：保證通訊兩端所有RDMA裝置類型相同，則兩端SMC協議版本相同。可通過smcr d查看SMC-R所用裝置，在type一欄中可以看到裝置類型，如RoCE_Express、RoCE_Express2、或0x107f（即阿里雲eRDMA）。
   0x03030005	對端不支援SMC-Dv2協議的拓展。	當前雲情境暫未提供可用的SMC-D裝置，如出現該錯誤請聯絡阿里雲支援人員。
   0x03030006	對端缺失SEID。	預留欄位，當前未使用。
   0x03030007	未找到可用的SMC-D v2裝置。	當前雲情境暫未提供可用的SMC-D裝置，如出現該錯誤請聯絡阿里雲支援人員。
   0x03030008	對端缺少UEID。	原因：啟用了SMC v2協議，但沒有設定UEID。 解決方案：在兩側通過smc-tools設定相同的UEID，指令為smcr ueid {show | add | del}。
   0x03030009	本地和對端協商SMC版本失敗。	原因：兩側協商SMC版本的結果在CLC握手過程中發生變化。 解決方案：確認兩端OS發行版一致。
   0x0303000a	LGR可容納串連數量協商失敗。	原因：SMCv2.1支援兩端協商LGR可容納串連數量。若協商結果不可接受，如串連數量為0或超過本地最大支援值，出現該回退。 解決方案：確認兩端OS發行版一致。
   0x0303000b	LGR可容納link數量協商失敗。	原因：SMCv2.1支援兩端協商LGR可容納link數量。若協商結果不可接受，如link數量為0或超過本地最大支援值，出現該回退。 解決方案：確認兩端OS發行版一致。
   0x0303000c	本地與對端協商SMC vendor特性失敗。	原因：兩側協商SMC vendor特性的結果在CLC握手過程中發生變化。 解決方案：首先確認兩端OS發行版一致；其次通過uname -r命令確認核心版本，若核心版本為5.10.134-015，則確保在建連過程中不要主動修改sysctl net.smc.vendor_exp_options的值，若核心版本大於等於5.10.134-016，則確保在建連過程中不要主動修改sysctl net.smc.experiment_vendor_options的值。
   0x03040000	本地和對端的SMC裝置模式不匹配（SMC-D或SMC-R）。	當前雲情境暫未提供可用的SMC-D裝置，如出現該錯誤請聯絡阿里雲支援人員。
   0x03050000	對端RMBE中包含eyecatcher非法欄位。	預留欄位，Linux實現中未使用。
   0x03060000	串連使用了不支援MSG_FASTOPEN。	原因：SMC暫不支援MSG_FASTOPEN選項。 解決方案：建立socket時移除MSG_FASTOPEN選項。
   0x03070000	本地和對端的IP首碼/子網不匹配。	原因：所用RDMA裝置是RoCEv1裝置時，SMC自動使用SMCv1協議。SMCv1僅支援子網內通訊。當兩側不在同一子網內時，將出現該回退。 解決方案：若所用RDMA裝置為RoCEv1，則確保通訊兩側處在同一子網內；若所用RDMA裝置為阿里雲eRDMA，則SMC預設使用SMCv2協議，不會有子網限制與相關回退。
   0x03080000	擷取裝置VLAN ID失敗。	原因：建立串連時，SMC會嘗試擷取socket對應裝置的VLAN ID。 解決方案：檢查該五元組建立的TCP串連和對應的乙太網路裝置是否正常。
   0x03090000	ISM裝置註冊VLAN ID失敗。	當前雲情境暫未提供可用的SMC-D裝置，如出現該錯誤請聯絡阿里雲支援人員。
   0x030a0000	LGR中無可用SMC-R RDMA鏈路。	原因：建立串連時，將會為每一個串連指定一個該串連所屬LGR的link，如果沒有可用的link，則無法使用RDMA加速。 解決方案：執行smcr d命令，檢查ECS的RDMA卡是否正常。如果所需的RDMA裝置為阿里雲eRDMA裝置，請確保該ERI裝置已經在ECS控制台中添加並正確安裝和配置ERI驅動。
   0x030b0000	用戶端找不到服務端提供的RDMA鏈路。	原因：用戶端建立串連時，根據服務端提供的QPN、GID和MAC等資訊尋找對應的link並建立串連，如果找不到正確的RDMA link則無法使用RDMA加速。 解決方案：執行smcr d命令，檢查ECS的RDMA卡是否正常。如果所需的RDMA裝置為阿里雲eRDMA裝置，請確保該ERI裝置已經在ECS控制台中添加並正確安裝和配置ERI驅動。
   0x030c0000	協商SMC版本失敗。	原因：通訊兩端SMC版本協商結果超出可接受範圍。 解決方案：確認兩端OS發行版一致。
   0x030d0000	SMC-D DMB數量超越上限。	當前雲情境暫未提供可用的SMC-D裝置，如出現該錯誤請聯絡阿里雲支援人員。
   0x030e0000	SMC-R v2串連對端不可達。	原因：建連過程中，SMCv2協議中，用戶端需要根據服務端提供的地址尋找正確的路由資訊，當前無法根據本地和遠端IP地址找到對應的路由項。 解決方案：檢查該五元組建立的TCP串連和對應的乙太網路裝置是否正常、可達，例如系統的乙太網路卡、IP配置和路由項配置等。
   0x030f0000	SMC-R v2串連非直連標誌位設定錯誤。	原因：建連過程中，SMCv2協議中，用戶端根據伺服器設定的gateway標誌位判斷是否經過網關，但是根據本地和遠端IP查到的路由項指出並沒有經過網關，二者不一致。 解決方案：檢查該五元組建立的TCP串連和對應的乙太網路裝置是否正常、可達，是否經過相同的網路路徑，例如系統的乙太網路卡、IP配置和路由項配置等。
   0x04000000	服務端和用戶端複用LGR錯誤。	原因：建連過程中，服務端複用LGR，但是用戶端想要建立LGR，二者行為錯誤。 解決方案：執行smcr d命令，檢查ECS的RDMA卡是否正常。如果所需的RDMA裝置為阿里雲eRDMA裝置，請確保該ERI裝置已經在ECS控制台中添加並正確安裝和配置ERI驅動。
   0x05000000	握手過程中對端拒絕。	原因：建立串連過程中，對端回複的CLC訊息拒絕建立RDMA串連。 解決方案：執行smcss命令，根據五元組資訊找到對應的串連，並找到回退原因，包含本地和對端回退原因，根據對端回退編號確定具體原因。
   0x09990000	RDMA相關資源建立錯誤。	原因：RDMA資源建立、初始化失敗。 解決方案：通過RDMA監控工具查看資源申請失敗統計。若所用裝置為阿里雲eRDMA裝置，可以使用eadm stat查看錯誤統計。
   0x09990001	RDMA rtoken增加失敗。	SMC協議棧錯誤，如出現該錯誤請聯絡阿里雲支援人員。
   0x09990002	初始化RDMA QP資源失敗。	原因：建立串連時，如果需要建立新的link（對應為一個RDMA QP）資源，SMC會依次調用IB verbs介面初始化並修改RDMA QP，而在此過程中發生異常。 解決方案：執行smcr d命令，檢查當前是否有SMC-R（RDMA）裝置。如果使用阿里雲eRDMA，請檢查ECS控制台是否正確配置ERI裝置，並確保作業系統中正確安裝ERI的驅動。
   0x09990003	RDMA記憶體註冊（MR）失敗。	原因：使用RDMA通訊時，需要註冊記憶體地區用以RDMA網卡訪問和寫入資料，如果使用的MR數量或者大小超過了RDMA裝置的規格，則會報錯。 解決方案：執行smcr d命令，找到SMC所使用的RDMA裝置名稱。再執行ibv_devinfo -d <RDMA裝置名稱> -v | grep max_mr，其中 max_mr為RDMA裝置支援的最多MR數量，max_mr_size為RDMA裝置支援的最大MR大小；通常情況下為MR的數量達到瓶頸，此時請減少SMC的串連數量。
   0x09990004	SMC流控所需的credit初始化失敗。	原因：RDMA網卡或者鏈路發生故障，導致credit通告訊息（通過RDMA鏈路通訊）發送失敗。 解決方案：確認RDMA網卡的狀態是否正常。

問題描述

使用Alibaba Cloud Linux 3開啟SMC-R之後，常見的網路分析工具tcpdump、Wireshark等，網路監控工具ss（Socket Statistics）、netstat等，觀察到的網路流量與預期不符或無法觀察到預期流量。

問題原因

這是因為SMC-R是基於RDMA的網路通訊技術，目前常見的網路營運工具只能分析或監控TCP流量，無法識別RDMA的網路資料報文。這會導致實際的網路資料和網路營運工具中顯示的資料不匹配。

解決方案

可以嘗試使用RDMA相關的營運工具進行資料分析或監控。更多資訊，請參見監測和診斷eRDMA。

問題描述

在GPU或SCC執行個體上載入SMC模組，模組不可用。

問題原因

這類執行個體中安裝了Mellanox廠商版本OFED驅動，預設載入的是OFED中的SMC模組，不具備實際功能。且由於安裝Mellanox OFED驅動後RDMA相關函數的符號發生變化，載入核心內建的SMC模組會出現Unknow symbol錯誤而無法載入成功。

解決方案

目前Alibaba Cloud Linux 3 SMC模組不支援在GPU或SCC等執行個體中使用。

問題描述

啟用SMC並替換應用的TCP串連後，原本作用於TCP串連的部分SOL_SOCKET或SOL_TCP層選項通過setsockopt或getsockopt設定失敗，或設定成功但無法起到預期效果。

問題原因

使用SMC替換TCP協議棧後，資料路徑上基於共用記憶體完成通訊，協議棧設計和資料傳遞方式都與TCP有著很大的不同。因此，部分SOL_SOCKET或SOL_TCP層選項不再適用。

解決方案

對照下表查看Alibaba Cloud Linux 3中SMC對SOL_SOCKET或SOL_TCP層選項的支援情況。

SMC對SOL_SOCKET或SOL_TCP層選項的支援情況可以分為以下3種類型：

• Y：支援，設定/擷取選項返回成功，並且能夠達到預期效果。

• M：不支援，設定/擷取返回成功，但由於SMC與TCP設計的不同，無法達到預期效果。

• N：不支援，設定/擷取返回失敗，回退到TCP（回退原因編號：0x03060000或0x03010001）。