向量檢索服務DashVector在設計上支援Schema Free,在插入Doc、更新Doc、插入或更新Doc時,可設定任意KeyValue結構的欄位(Field),如下所示:
collection.insert(
Doc(
id='1',
vector=np.random.rand(4),
fields={
'name': 'zhangsan',
'weight':70.0,
'age':30,
'anykey1': 'anyvalue',
'anykey2': 1,
'anykey3': True,
'anykey4': 3.1415926
... ...
}
)
)更多的Fields將消耗更多的資源(如記憶體、磁碟)
Field支援的資料類型
當前DashVector支援Python的基礎資料類型如下:
str
float
int
bool
long
list[int]
list[float]
list[str]
list[long]
Python的int類型可表達無限大小的整數,當前DashVector int僅支援32位整數,範圍為-2,147,483,648~2,147,483,647,需要使用者自行保證資料未溢出,long支援64位整數,範圍-9,223,372,036,854,775,808~9,223,372,036,854,775,807(即-2^63到2^63-1)。
list[int]、list[float]、list[str]、list[long] 不支援Schema Free,如需使用,請在建立Collection時預定義Field。
Java SDK 和 HTTP API 中支援的資料類型為:str、float、int、long、ARRAY_STRING 、ARRAY_INT 、ARRAY_FLOAT、ARRAY_LONG。
檢索時通過Field進行條件過濾
插入Doc、更新Doc、插入或更新Doc時所設定的任意KeyValue結構的欄位(Field),可在檢索Doc進行條件過濾,如下所示:
ret = collection.query(
vector=[0.1, 0.2, 0.3, 0.4],
filter='(age > 18 and anykey2 = 1) or (name like "zhang%" and anykey3 = false)'
)更多的Fields在檢索時將消耗更多的資源(如CPU),同時複雜的filter運算式也將消耗更多的時間開銷才能擷取到結果
提前定義Field Schema的優勢
在建立Collection的時候,可以預先定義Field Schema,如下所示:
ret = client.create(
name='complex',
dimension=4,
fields_schema={'name': str, 'weight': float, 'age': int, 'total': dashvector.long}
)這樣做的主要收益有如下3點:
通常而言,對於確定性、大多數Doc都具有的Field,建議在建立Collection的時候預先進行定義;對於無法提前預知、僅少量Doc專屬的Field,可以在插入Doc時設定。