MaxCompute支援通過DELETE、UPDATE操作,在行層級刪除或更新Transactional表中的資料。
本文中的命令您可以在如下工具平台執行:
前提條件
執行DELETE、UPDATE操作前需要具備目標Transactional表的讀取表資料許可權(Select)及更新表資料許可權(Update)。授權操作請參見MaxCompute許可權。
功能介紹
MaxCompute的DELETE、UPDATE功能具備與傳統資料庫用法類似的刪除或更新表中指定行的能力。
實際使用DELETE、UPDATE功能時,系統會針對每一次刪除或更新操作自動產生使用者不可見的Delta檔案,用於記錄刪除或更新的資料資訊。具體實現原理如下:
DELETE:Delta檔案中使用txnid(bigint)和rowid(bigint)欄位標識Transactional表的Base檔案(表在系統中的儲存形式)中的記錄在哪次刪除操作中被刪除。例如,表t1的Base檔案為f1,且內容為
a, b, c, a, b,當執行DELETE FROM t1 WHERE c1='a';命令後,系統會產生一個單獨的f1.delta檔案。假設txnid是t0,則f1.delta的內容是((0, t0), (3, t0)),標識行0和行3,在txnt0中被刪除了。如果再執行一次DELETE操作,系統會又產生一個f2.delta檔案,該檔案仍然是根據Base檔案f1編號,讀取檔案時,基於Base檔案f1和當前所有Delta檔案的共同表示結果,讀取沒有被刪除的資料。UPDATE:UPDATE操作會轉換為DELETE+INSERT INTO的實現邏輯。
DELETE、UPDATE功能具備的優勢如下:
寫資料量下降
此前,MaxCompute通過
INSERT INTO或INSERT OVERWRITE操作方式刪除或更新表資料,更多資訊,請參見插入或覆寫資料(INSERT INTO | INSERT OVERWRITE)。當使用者需要更新表或分區中的少量資料時,如果通過INSERT操作實現,需要先讀取表的全量資料,然後通過SELECT操作更新資料,最後通過INSERT操作將全量資料寫回表中,效率較低。使用DELETE、UPDATE功能後,系統無需寫回全部資料,寫資料量會顯著下降。說明對於隨用隨付情境,
DELETE、UPDATE和INSERT OVERWRITE任務的寫資料部分不收費,但是DELETE、UPDATE任務需要按分區過濾讀取需要變更的資料,用於標註刪除的記錄或寫回更新的記錄,而讀取資料部分依然遵照SQL作業隨用隨付模型收費,所以DELETE、UPDATE任務相比INSERT OVERWRITE任務,費用並不能因為寫資料量減少而減少。對於訂用帳戶情境,
DELETE、UPDATE減少了寫資料資源消耗,與INSERT OVERWRITE相比,相同資源可以運行更多的任務。
可直接讀取最新狀態的表
此前,MaxCompute在批次更新表資料情境使用的是拉鏈表,該方式需要在表中增加
start_date和end_date輔助列,標識某一行記錄的生命週期。當查詢表的最新狀態時,系統需要從大量資料中根據時間戳記擷取表的最新狀態,使用起來不夠直觀。使用DELETE、UPDATE功能後,系統可以基於表的Base檔案和Delta檔案的共同表示結果,直接讀取最新狀態的表。
多次DELETE、UPDATE操作會使Transactional表的底層儲存增大,增加儲存和後續查詢費用,且影響後續查詢效率,建議定期合并(Compact)後台資料。更多合併作業資訊,請參見合并Transactional表檔案。
當作業並發運行且操作的目標表相同時,可能會出現作業衝突問題,更多資訊,請參見ACID語義。
應用情境
DELETE、UPDATE功能適用於隨機、低頻刪除或更新表或分區中的少量資料。例如,按照T+1周期性地批量對錶或分區中5%以下的行刪除或更新資料。
DELETE、UPDATE功能不適用於高頻更新、刪除資料或即時寫入目標表情境。
使用限制
DELETE、UPDATE功能及對應Transactional表、Delta Table表的使用限制如下:說明關於Transaction表和Delta Table表詳細資料,詳情請參見Transaction Table與Delta Table表參數。
在對Transactional表的重要資料執行
UPDATE、DELETE或insert overwrite操作前需要手動通過SELECT+INSERT操作將資料備份至其他表中。Delta Table表
UPDATE文法不支援修改PK列。
注意事項
通過DELETE、UPDATE操作刪除或更新表或分區內的資料時,注意事項如下:
如果需要對錶中較少資料進行刪除或更新操作,且操作和後續讀資料的頻率也不頻繁,建議使用
DELETE、UPDATE操作,並且在多次執行刪除或更新操作之後,請合并表的Base檔案和Delta檔案,降低表的實際儲存。更多資訊,請參見合并Transactional表檔案。如果刪除或更新行數較多(超過5%)並且操作不頻繁,但後續對該表的讀操作比較頻繁,建議使用
INSERT OVERWRITE或INSERT INTO操作。更多資訊,請參見插入或覆寫資料(INSERT INTO | INSERT OVERWRITE)。例如,某業務情境為每次刪除或更新10%的資料,一天更新10次。建議根據實際情況評估
DELETE、UPDATE操作產生的費用及後續對讀效能的消耗是否小於每次使用INSERT OVERWRITE或INSERT INTO操作產生的費用及後續對讀效能的消耗,比較兩種方式在具體情境中的效率,選擇更優方案。刪除資料會產生Delta檔案,所以刪除資料不一定能降低儲存,如果您希望通過
DELETE操作刪除資料來降低儲存,請合并表的Base檔案和Delta檔案,降低表的實際儲存。更多資訊,請參見合并Transactional表檔案。MaxCompute會按照批處理方式執行
DELETE、UPDATE作業,每一條語句都會使用資源併產生費用,建議您使用批量方式刪除或更新資料。例如您通過Python指令碼產生並提交了大量行層級更新作業,且每條語句只操作一行或者少量行資料,則每條語句都會產生與SQL掃描輸入資料量對應的費用,並使用相應的計算資源,多條語句累加時將明顯增加費用成本,降低系統效率。命令樣本如下。推薦方案:
UPDATE table1 SET col1= (SELECT value1 FROM table2 WHERE table1.id = table2.id AND table1.region = table2.region);不推薦方案:
UPDATE table1 SET col1=1 WHERE id='2021063001'AND region='beijing'; UPDATE table1 SET col1=2 WHERE id='2021063002'AND region='beijing';
刪除資料(DELETE)
DELETE操作用於刪除Transactional或Delta Table表中滿足指定條件的單行或多行資料。
命令格式
DELETE FROM <table_name> [WHERE <where_condition>];參數說明
參數名
是否必填
描述
table_name
是
待執行
DELETE操作的Transactional或Delta Table表名稱。where_condition
否
WHERE子句,用於篩選滿足條件的資料。
更多WHERE子句資訊,請參見WHERE子句(WHERE_condition)。如果不帶WHERE子句,會刪除表中的所有資料。
使用樣本
樣本1:建立非分區表acid_delete,並匯入資料,執行
DELETE操作刪除滿足指定條件的行資料。命令樣本如下:--建立Transactional表acid_delete。 CREATE TABLE IF NOT EXISTS acid_delete(id BIGINT) tblproperties ("transactional"="true"); --插入資料。 INSERT OVERWRITE TABLE acid_delete VALUES(1),(2),(3),(2); --查看插入結果。 SELECT * FROM acid_delete; --返回結果 +------------+ | id | +------------+ | 1 | | 2 | | 3 | | 2 | +------------+ --刪除id為2的行,如果在MaxCompute用戶端(odpscmd)執行,需要輸入yes|no確認。 DELETE FROM acid_delete WHERE id = 2; --查看結果表中資料只有1、3。 SELECT * FROM acid_delete; --返回結果 +------------+ | id | +------------+ | 1 | | 3 | +------------+樣本2:建立分區表acid_delete_pt,並匯入資料,執行
DELETE操作刪除滿足指定條件的行。命令樣本如下:--建立Transactional表acid_delete_pt。 CREATE TABLE IF NOT EXISTS acid_delete_pt(id BIGINT) PARTITIONED BY(ds STRING) tblproperties ("transactional"="true"); --添加分區。 ALTER TABLE acid_delete_pt ADD IF NOT EXISTS PARTITION (ds= '2019'); ALTER TABLE acid_delete_pt ADD IF NOT EXISTS PARTITION (ds= '2018'); --插入資料。 INSERT OVERWRITE TABLE acid_delete_pt PARTITION (ds='2019') VALUES(1),(2),(3); INSERT OVERWRITE TABLE acid_delete_pt PARTITION (ds='2018') VALUES(1),(2),(3); --查看插入結果。 SET odps.sql.allow.fullscan=true; SELECT * FROM acid_delete_pt; --返回結果 +------------+------------+ | id | ds | +------------+------------+ | 1 | 2018 | | 2 | 2018 | | 3 | 2018 | | 1 | 2019 | | 2 | 2019 | | 3 | 2019 | +------------+------------+ --刪除分區為2019且id為2的資料,如果在MaxCompute用戶端(odpscmd)執行,需要輸入yes|no確認。 DELETE FROM acid_delete_pt WHERE ds='2019' AND id = 2; --查看結果表中已刪除分區為2019且id為2的資料。 SET odps.sql.allow.fullscan=true; SELECT * FROM acid_delete_pt; --返回結果 +------------+------------+ | id | ds | +------------+------------+ | 1 | 2018 | | 2 | 2018 | | 3 | 2018 | | 1 | 2019 | | 3 | 2019 | +------------+------------+樣本3:建立目標表acid_delete_t和關聯表acid_delete_s,通過關聯操作刪除滿足指定條件的行。命令樣本如下:
--建立目標Transactional表acid_delete_t和關聯表acid_delete_s。 CREATE TABLE IF NOT EXISTS acid_delete_t(id INT,value1 INT,value2 INT) tblproperties ("transactional"="true"); CREATE TABLE IF NOT EXISTS acid_delete_s(id INT,value1 INT,value2 INT); --插入資料。 INSERT OVERWRITE TABLE acid_delete_t VALUES(2,20,21),(3,30,31),(4,40,41); INSERT OVERWRITE TABLE acid_delete_s VALUES(1,100,101),(2,200,201),(3,300,301); --刪除acid_delete_t表中id與acid_delete_s表中id不匹配的行。如果在MaxCompute用戶端(odpscmd)執行,需要輸入yes|no確認。 DELETE FROM acid_delete_t WHERE NOT EXISTS (SELECT * FROM acid_delete_s WHERE acid_delete_t.id=acid_delete_s.id); --查看結果表中只有id為2、3的資料。 SELECT * FROM acid_delete_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 2 | 20 | 21 | | 3 | 30 | 31 | +------------+------------+------------+樣本4:建立Delta Table表mf_dt,並匯入資料,執行DELETE操作刪除滿足指定條件的行。命令樣本如下:
--建立目標Delta Table表mf_dt。 CREATE TABLE IF NOT EXISTS mf_dt (pk BIGINT NOT NULL PRIMARY KEY, val BIGINT NOT NULL) PARTITIONED BY(dd STRING, hh STRING) tblproperties ("transactional"="true"); --插入資料 INSERT OVERWRITE TABLE mf_dt PARTITION (dd='01', hh='02') VALUES (1, 1), (2, 2), (3, 3); --查看插入結果 SELECT * FROM mf_dt WHERE dd='01' AND hh='02'; --返回結果 +------------+------------+----+----+ | pk | val | dd | hh | +------------+------------+----+----+ | 1 | 1 | 01 | 02 | | 3 | 3 | 01 | 02 | | 2 | 2 | 01 | 02 | +------------+------------+----+----+ --刪除分區為01和02,且val為2的資料。 DELETE FROM mf_dt WHERE val = 2 AND dd='01' AND hh='02'; --查看結果表中只有val為1、3的資料 SELECT * FROM mf_dt WHERE dd='01' AND hh='02'; --返回結果 +------------+------------+----+----+ | pk | val | dd | hh | +------------+------------+----+----+ | 1 | 1 | 01 | 02 | | 3 | 3 | 01 | 02 | +------------+------------+----+----+
清空列資料
使用CLEAR COLUMN命令清空普通表的列,將不再使用的列資料從磁碟刪除共置NULL,從而達到降低儲存成本的目的。
命令格式
ALTER TABLE <table_name> [PARTITION ( <pt_spec>[, <pt_spec>....] )] CLEAR COLUMN column1[, column2, column3, ...] [WITHOUT TOUCH];參數說明
參數名
描述
table_name
將要執行清空列資料的表名稱。
column1 , column2 ...將要被清空資料的列名稱。
PARTITION
指定分區,若未指定,則表示操作所有分區。
pt_spec
分區描述,格式為
(partition_col1 = PARTITION_col_value1, PARTITION_col2 = PARTITION_col_value2, ...)。WITHOUT TOUCH
表示不更新
LastDataModifiedTime;若未指定,則會更新LastDataModifiedTime。說明目前預設指定WITHOUT TOUCH,計劃在下一階段支援未指定WITHOUT TOUCH的清空列資料行為,即若未指定WITHOUT TOUCH,則會更新
LastDataModifiedTime。使用限制
不支援對具有非空屬性的列進行clear column操作,可以手動取消not nullable屬性:
ALTER TABLE <table_name> change COLUMN <old_col_name> NULL;ACID表不支援清空列資料。
Cluster不支援清空列資料。
不支援對巢狀型別內部執行清空列資料操作。
不支援清空所有列資料(DROP TABLE可以起到相同效果,且效能更好)。
注意事項
Clear Column操作不會改變表的Archive屬性。
對巢狀型別的列執行Clear Column操作可能會失敗。
失敗的情況為在列式(Columnar)巢狀型別關閉的情況下對含有Columnar巢狀型別的表做Clear Column操作。
Clear Column命令執行需要依賴Storage Service線上服務,在作業量多的情況下可能需要排隊導致任務變慢。
Clear Column操作需要使用計算資源對資料進行讀取與寫入,所以針對訂用帳戶使用者,會佔用計算資源,對隨用隨付使用者,會產生和SQL一樣的費用。(目前正在邀測中,暫時不進行收費。)
使用樣本
--建立表 CREATE TABLE IF NOT EXISTS mf_cc(key STRING, value STRING, a1 BIGINT , a2 BIGINT , a3 BIGINT , a4 BIGINT) PARTITIONED BY(ds STRING, hr STRING); --添加分區 ALTER TABLE mf_cc ADD IF NOT EXISTS PARTITION (ds='20230509', hr='1641'); --插入資料 INSERT INTO mf_cc PARTITION (ds='20230509', hr='1641') VALUES("key","value",1,22,3,4); --查詢資料 SELECT * FROM mf_cc WHERE ds='20230509' AND hr='1641'; --返回結果 +-----+-------+------------+------------+--------+------+---------+-----+ | key | value | a1 | a2 | a3 | a4 | ds | hr | +-----+-------+------------+------------+--------+------+---------+-----+ | key | value | 1 | 22 | 3 | 4 | 20230509| 1641| +-----+-------+------------+------------+--------+------+---------+-----+ --清空列資料 ALTER TABLE mf_cc PARTITION(ds='20230509', hr='1641') CLEAR COLUMN key,a1 WITHOUT TOUCH; --查詢資料 SELECT * FROM mf_cc WHERE ds='20230509' AND hr='1641'; --返回結果,key和a1的資料已經變成null +-----+-------+------------+------------+--------+------+---------+-----+ | key | value | a1 | a2 | a3 | a4 | ds | hr | +-----+-------+------------+------------+--------+------+---------+-----+ | null| value | null | 22 | 3 | 4 | 20230509| 1641| +-----+-------+------------+------------+--------+------+---------+-----+下圖為
lineitem表(aliorc格式)的總儲存大小隨著對每一列進行Clear Column後的變化過程。lineitem表共16列,有Bigint、Decimal、Char、Date、Varchar幾種類型。
可以看出隨著表的16個列陸續被Clear Column命令置為Null,儲存空間總共下降了99.97%(由最初的186783526byte下降到了236715byte)。
說明列的資料類型和實際儲存的值和Clear Column操作節省的空間有關,比如在這個例子中,對Decimal類型的
l_extendedprice列,Clear Column操作節省了24.2%的空間(146538799 byte -> 111138117 byte)明顯好於平均水平。當所有列被置Null後表的大小是236715 byte,而不是0。這是因為表的檔案結構還存在,Null欄位會佔用少量的儲存空間,系統也需要保留檔案Footer資訊。
更新資料(UPDATE)
UPDATE操作用於將Transactional表或Delta Table表中行對應的單列或多列資料更新為新值。
命令格式
--方式1 UPDATE <table_name> SET <col1_name> = <value1> [, <col2_name> = <value2> ...] [WHERE <where_condition>]; --方式2 UPDATE <table_name> SET (<col1_name> [, <col2_name> ...]) = (<value1> [, <value2> ...])[WHERE <where_condition>]; --方式3 UPDATE <table_name> SET <col1_name> = <value1> [ , <col2_name> = <value2> , ... ] [ FROM <additional_tables> ] [ WHERE <where_condition> ]參數說明
參數名
是否必填
描述
table_name
是
待執行
UPDATE操作的Transactional表名稱。col1_name/col2_name
是
至少更新一個。待修改行對應的列名稱。
value1/value2
是
至少更新一個列值。修改後的新值。
where_condition
否
WHERE子句,用於篩選滿足條件的資料。
更多WHERE子句資訊,請參見WHERE子句(WHERE_condition)。如果不帶WHERE子句,會更新表中的所有資料。
additional_tables
否
FROM子句。
UPDATE支援FROM子句,使用FROM子句時,UPDATE的使用會更加方便,不使用FROM子句與使用FROM子句的對比樣本如下。情境
範例程式碼
不使用from子句
UPDATE target SET v = (SELECT MIN(v) FROM src GROUP BY k WHERE target.k = src.key) WHERE target.k IN (SELECT k FROM src);使用from子句
UPDATE target SET v = b.v FROM (SELECT k, MIN(v) v FROM src GROUP BY k) b WHERE target.k = b.k;從上述範例程式碼可見:
當用源表的多行資料更新目標表的一行資料的時,由於不知道使用哪條源表的資料進行更新,所以遇到這種情況需要使用者寫彙總操作來保證資料來源的唯一性,可以看出不使用FROM子句時,代碼不夠簡潔,用FROM子句的寫法比較簡潔易懂。
關聯更新的時候,如果只更新交集資料,不使用FROM子句時需要寫額外的WHERE條件,相對於FROM文法而言也不太簡潔。
使用樣本
樣本1:建立非分區表acid_update,並匯入資料,執行
UPDATE操作更新滿足指定條件的行對應的列資料。命令樣本如下:--建立Transactional表acid_update。 CREATE TABLE IF NOT EXISTS acid_update(id BIGINT) tblproperties ("transactional"="true"); --插入資料。 INSERT OVERWRITE TABLE acid_update VALUES(1),(2),(3),(2); --查看插入結果。 SELECT * FROM acid_update; --返回結果 +------------+ | id | +------------+ | 1 | | 2 | | 3 | | 2 | +------------+ --將所有id為2的行,id值更新為4。 UPDATE acid_update SET id = 4 WHERE id = 2; --查看更新結果,2被更新為4。 SELECT * FROM acid_update; --返回結果 +------------+ | id | +------------+ | 1 | | 3 | | 4 | | 4 | +------------+樣本2:建立分區表acid_update,並匯入資料,執行
UPDATE操作更新滿足指定條件的行對應的列資料。命令樣本如下:--建立Transactional表acid_update_pt。 CREATE TABLE IF NOT EXISTS acid_update_pt(id BIGINT) PARTITIONED BY(ds STRING) tblproperties ("transactional"="true"); --添加分區。 ALTER TABLE acid_update_pt ADD IF NOT EXISTS PARTITION (ds= '2019'); --插入資料。 INSERT OVERWRITE TABLE acid_update_pt PARTITION (ds='2019') VALUES(1),(2),(3); --查看插入結果 SELECT * FROM acid_update_pt WHERE ds = '2019'; --返回結果 +------------+------------+ | id | ds | +------------+------------+ | 1 | 2019 | | 2 | 2019 | | 3 | 2019 | +------------+------------+ --更新指定行的一列資料,將分區為2019的所有id=2的行,id值更新為4。 UPDATE acid_update_pt SET id = 4 WHERE ds = '2019' AND id = 2; --查看更新結果,2被更新為4。 SELECT * FROM acid_update_pt WHERE ds = '2019'; --返回結果 +------------+------------+ | id | ds | +------------+------------+ | 4 | 2019 | | 1 | 2019 | | 3 | 2019 | +------------+------------+樣本3:建立目標表acid_update_t和關聯表acid_update_s,實現同時更新多列值。命令樣本如下:
--建立待更新目標Transactional表acid_update_t和關聯表acid_update_s。 CREATE TABLE IF NOT EXISTS acid_update_t(id INT,value1 INT,value2 INT) tblproperties ("transactional"="true"); CREATE TABLE IF NOT EXISTS acid_update_s(id INT,value1 INT,value2 INT); --插入資料。 INSERT OVERWRITE TABLE acid_update_t VALUES(2,20,21),(3,30,31),(4,40,41); INSERT OVERWRITE TABLE acid_update_s VALUES(1,100,101),(2,200,201),(3,300,301); --方式一:用常量更新。 UPDATE acid_update_t SET (value1, value2) = (60,61); --查詢方式一目標表結果資料。 SELECT * FROM acid_update_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 2 | 60 | 61 | | 3 | 60 | 61 | | 4 | 60 | 61 | +------------+------------+------------+ --方式二:關聯更新,規則為acid_update_t表左關聯acid_update_s表。 UPDATE acid_update_t SET (value1, value2) = (SELECT value1, value2 FROM acid_update_s WHERE acid_update_t.id = acid_update_s.id); --查詢方式二目標表結果資料。 SELECT * FROM acid_update_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 2 | 200 | 201 | | 3 | 300 | 301 | | 4 | NULL | NULL | +------------+------------+------------+ --方式三(基於“方式二”的結果進行更新):關聯更新,規則為增加過濾條件,只更新交集。 UPDATE acid_update_t SET (value1, value2) = (SELECT value1, value2 FROM acid_update_s WHERE acid_update_t.id = acid_update_s.id) WHERE acid_update_t.id IN (SELECT id FROM acid_update_s); --查詢方式三目標表結果資料。 SELECT * FROM acid_update_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 2 | 200 | 201 | | 3 | 300 | 301 | | 4 | NULL | NULL | +------------+------------+------------+ --方式四(基於“方式三”的結果進行更新):用匯總結果關聯更新。 UPDATE acid_update_t SET (id, value1, value2) = (SELECT id, MAX(value1),MAX(value2) FROM acid_update_s WHERE acid_update_t.id = acid_update_s.id GROUP BY acid_update_s.id) WHERE acid_update_t.id IN (SELECT id FROM acid_update_s); --查詢方式四目標表結果資料。 SELECT * FROM acid_update_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 2 | 200 | 201 | | 3 | 300 | 301 | | 4 | NULL | NULL | +------------+------------+------------+樣本4:涉及兩個表的簡單關聯查詢,樣本命令如下:
--建立更新目標表acid_update_t和關聯表acid_update_s CREATE TABLE IF NOT EXISTS acid_update_t(id BIGINT,value1 BIGINT,value2 BIGINT) tblproperties ("transactional"="true"); CREATE TABLE IF NOT EXISTS acid_update_s(id BIGINT,value1 BIGINT,value2 BIGINT); --插入資料 INSERT OVERWRITE TABLE acid_update_t VALUES(2,20,21),(3,30,31),(4,40,41); INSERT OVERWRITE TABLE acid_update_s VALUES(1,100,101),(2,200,201),(3,300,301); --查詢acid_update_t表資料 SELECT * FROM acid_update_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 2 | 20 | 21 | | 3 | 30 | 31 | | 4 | 40 | 41 | +------------+------------+------------+ --查詢acid_update_s表資料 SELECT * FROM acid_update_s; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 1 | 100 | 101 | | 2 | 200 | 201 | | 3 | 300 | 301 | +------------+------------+------------+ --關聯更新,目標表增加過濾條件,只取交集 UPDATE acid_update_t SET value1 = b.value1, value2 = b.value2 FROM acid_update_s b WHERE acid_update_t.id = b.id; --查看更新結果,20被更新為200,21被更新為201,30被更新為300,31被更新為301 SELECT * FROM acid_update_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 4 | 40 | 41 | | 2 | 200 | 201 | | 3 | 300 | 301 | +------------+------------+------------+樣本5:涉及多個表的複雜關聯查詢,樣本命令如下:
--建立更新目標表acid_update_t和關聯表acid_update_s CREATE TABLE IF NOT EXISTS acid_update_t(id BIGINT,value1 BIGINT,value2 BIGINT) tblproperties ("transactional"="true"); CREATE TABLE IF NOT EXISTS acid_update_s(id BIGINT,value1 BIGINT,value2 BIGINT); CREATE TABLE IF NOT EXISTS acid_update_m(id BIGINT,value1 BIGINT,value2 BIGINT); --插入資料 INSERT OVERWRITE TABLE acid_update_t VALUES(2,20,21),(3,30,31),(4,40,41),(5,50,51); INSERT OVERWRITE TABLE acid_update_s VALUES (1,100,101),(2,200,201),(3,300,301),(4,400,401),(5,500,501); INSERT OVERWRITE TABLE acid_update_m VALUES(3,30,101),(4,400,201),(5,300,301); --查詢acid_update_t表資料 SELECT * FROM acid_update_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 2 | 20 | 21 | | 3 | 30 | 31 | | 4 | 40 | 41 | | 5 | 50 | 51 | +------------+------------+------------+ --查詢acid_update_s表資料 SELECT * FROM acid_update_s; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 1 | 100 | 101 | | 2 | 200 | 201 | | 3 | 300 | 301 | | 4 | 400 | 401 | | 5 | 500 | 501 | +------------+------------+------------+ --查詢acid_update_m表資料 SELECT * FROM acid_update_m; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 3 | 30 | 101 | | 4 | 400 | 201 | | 5 | 300 | 301 | +------------+------------+------------+ --關聯更新,並且在where中同時對原表和目標表進行過濾 UPDATE acid_update_t SET value1 = acid_update_s.value1, value2 = acid_update_s.value2 FROM acid_update_s WHERE acid_update_t.id = acid_update_s.id AND acid_update_s.id > 2 AND acid_update_t.value1 NOT IN (SELECT value1 FROM acid_update_m WHERE id = acid_update_t.id) AND acid_update_s.value1 NOT IN (SELECT value1 FROM acid_update_m WHERE id = acid_update_s.id); --查看更新結果,acid_update_t表只有id為5的資料符合條件,對應value1被更新為500,valu2被更新為501 SELECT * FROM acid_update_t; --返回結果 +------------+------------+------------+ | id | value1 | value2 | +------------+------------+------------+ | 5 | 500 | 501 | | 2 | 20 | 21 | | 3 | 30 | 31 | | 4 | 40 | 41 | +------------+------------+------------+樣本6:建立Delta Table表mf_dt,並匯入資料,執行
UPDATE操作刪除滿足指定條件的行。命令樣本如下:--建立目標Delta Table表mf_dt。 CREATE TABLE IF NOT EXISTS mf_dt (pk BIGINT NOT NULL PRIMARY KEY, val BIGINT NOT NULL) PARTITIONED BY(dd STRING, hh STRING) tblproperties ("transactional"="true"); --插入資料 INSERT OVERWRITE TABLE mf_dt PARTITION (dd='01', hh='02') VALUES (1, 1), (2, 2), (3, 3); --查看插入結果 SELECT * FROM mf_dt WHERE dd='01' AND hh='02'; --返回結果 +------------+------------+----+----+ | pk | val | dd | hh | +------------+------------+----+----+ | 1 | 1 | 01 | 02 | | 3 | 3 | 01 | 02 | | 2 | 2 | 01 | 02 | +------------+------------+----+----+ --更新指定行的一列資料,將分區為01和02的所有pk=3的行,val值更新為30。 --方法一 UPDATE mf_dt SET val = 30 WHERE pk = 3 AND dd='01' AND hh='02'; --方法二 UPDATE mf_dt SET val = delta.val FROM (SELECT pk, val FROM VALUES (3, 30) t (pk, val)) delta WHERE delta.pk = mf_dt.pk AND mf_dt.dd='01' AND mf_dt.hh='02'; --查看更新結果。 SELECT * FROM mf_dt WHERE dd='01' AND hh='02'; --返回結果,pk=3的行val值被更新為30。 +------------+------------+----+----+ | pk | val | dd | hh | +------------+------------+----+----+ | 1 | 1 | 01 | 02 | | 3 | 30 | 01 | 02 | | 2 | 2 | 01 | 02 | +------------+------------+----+----+
合并Transactional表檔案
Transactional表底層實體儲存體為不支援直接讀取的Base檔案和Delta檔案。對Transactional表執行UPDATE或DELETE操作,不會修改Base檔案,只會追加Delta檔案,所以會出現更新或刪除次數越多,表實際佔用儲存越大的情況,多次累積的Delta檔案會產生較高的儲存和後續查詢費用。
對同一表或分區,執行多次UPDATE或DELETE操作,會產生較多Delta檔案。系統讀資料時,需要載入這些Delta檔案來確定哪些行被更新或刪除,較多的Delta檔案會影響資料讀取效率。此時您可以將Base檔案和Delta合并,減少儲存以便提升資料讀取效率。
命令格式
ALTER TABLE <table_name> [PARTITION (<partition_key> = '<partition_value>' [, ...])] compact {minor|major};參數說明
參數名
是否必填
描述
table_name
是
待合并檔案的Transactional表名稱。
partition_key
否
當Transactional表為分區表時,指定分區列名。
partition_value
否
當Transactional表為分區表時,指定分區列名對應的列值。
major|minor
是
至少選擇其中一個。二者的區別是:
minor:只將Base檔案及其下所有的Delta檔案合并,消除Delta檔案。major:不僅將Base檔案及其下所有的Delta檔案合并,消除Delta檔案,還會把表對應的Base檔案中的小檔案進行合并。當Base檔案較小(小於32 MB)或有Delta檔案的情況下,等價於重新對錶執行INSERT OVERWRITE操作,但當Base檔案足夠大(大於等於32 MB ),且不存在Delta檔案的情況下,不會重寫。注意事項
通過Compact操作合并的小檔案將在1天后被刪除。如果使用備份與恢複功能恢複記錄,並且該記錄依賴於這些小檔案,將會因為小檔案的缺失,導致恢複失敗。
使用樣本
樣本1:基於Transactional表acid_delete,合并表檔案。命令樣本如下:
ALTER TABLE acid_delete compact minor;返回結果如下:
Summary: Nothing found to merge, set odps.merge.cross.paths=true if cross path merge is permitted. OK樣本2:基於Transactional表acid_update_pt,合并表檔案。命令樣本如下:
ALTER TABLE acid_update_pt PARTITION (ds = '2019') compact major;返回結果如下:
Summary: table name: acid_update_pt /ds=2019 instance count: 2 run time: 6 before merge, file count: 8 file size: 2613 file physical size: 7839 after merge, file count: 2 file size: 679 file physical size: 2037 OK
常見問題
問題一:
問題現象:執行
UPDATE操作時,報錯ODPS-0010000:System internal error - fuxi job failed, caused by: Data Set should contain exactly one row。問題原因:待更新的行資料與子查詢結果中的資料無法一一對應,系統無法判斷對哪一行資料進行更新。命令樣本如下:
UPDATE store SET (s_county, s_manager) = (SELECT d_country, d_manager FROM store_delta sd WHERE sd.s_store_sk = store.s_store_sk) WHERE s_store_sk IN (SELECT s_store_sk FROM store_delta);通過子查詢
SELECT d_country, d_manager FROM store_delta sd WHERE sd.s_store_sk = store.s_store_sk與store_delta關聯,並用store_delta的資料更新store。假設store的s_store_sk中有[1, 2, 3]三行資料,如果store_delta的s_store_sk有[1, 1]兩行資料,資料無法一一對應,執行報錯。解決措施:確保待更新的行資料與子查詢結果中的資料一一對應。
問題二:
問題現象:在DataWorks DataStudio中使用
compact命令時,報錯ODPS-0130161:[1,39] Parse exception - invalid token 'minor', expect one of 'StringLiteral','DoubleQuoteStringLiteral'。問題原因:DataWorks獨享資源群組中的MaxCompute用戶端版本不支援
compact命令。解決措施:請通過DataWorks交流群聯絡支援人員團隊升級獨享資源群組中的MaxCompute用戶端版本。