DocArray 是一个用于处理、传输和存储多模态数据的 Python 工具包。DocArray 提供便捷的多模态数据处理功能,具备基于 Protobuf 提供高性能的网络传输性能,同时也为多种向量存储方案提供统一的 API 接口。
GitHub:github.com/docarray/docarray
文档:docarray.jina.ai
DocArray 基于 Apache 2.0 License 协议,于 2022 年 1 月正式发布,目前是 LF AI & Data 基金会的沙盒项目。同时,DocArray 也是 Jina 生态使用的通用数据结构。
本次发布新增了对 Milvus 向量数据库的支持,现在可以将 Milvus 作为 DocArray 后端存储;新增了支持在嵌套级别检索 Root document;DocArray 现已支持不同格式的 3D 模型表示,此版本新增了 RGB-D 格式表示的支持;同时新增了对 Qdrant 基于关键字的文本过滤的支持,以及支持加载多页 tiff 图像到chunk等等。
重要新功能
1. 新增 Milvus 后端存储支持
DocArray 现在支持 Milvus 向量数据库作为后端存储。Milvus 提供了高性能的向量搜索和分析功能,并支持大规模地添加、删除、更新和近乎实时的搜索向量。有了 Milvus,DocArray 可以提供更快、更准确的搜索结果。
DocArray 和 Milvus 的集成使得用户可以通过统一熟悉的 DocArray API 就能享受 Milvus 所有的优势。与其他后端存储一样,配置起来非常简单:
da = DocumentArray(storage='milvus', config={'n_dim': 3))
2. 通过 root_id 更好地支持嵌套搜索
在处理嵌套数据时,我们通常在给定的嵌套级别上比较数据,例如视频中的帧,但我们实际需要的返回结果是整个视频。
也就是说,在使用向量数据库时,即使在嵌套级别(例如在 chunk 级别)使用 sub-indices(子索引)进行搜索时,也可以检索 root-document(根文档)。在存储配置中设置root_id=True,就可以启用此功能。
top_level_matches = da.find(query=np.random.rand(512), on='@.[image]', return_root=True)3. 新增 RGB-D 格式的 3D 模型表示
3. 新增 RGB-D 格式的 3D 模型表示
DocArray 已经支持不同格式的 3D 模型表示,这个版本增加了对 RGB-D 格式表示的支持。
doc.load_uris_to_rgbd_tensor()
其它新增功能
将多页 tiff 文件加载到 Chunk 中
现在通过load_uri_to_image_tensor()可以加载多页 tiff 图像。
d = Document(uri="foo.tiff")
d.load_uri_to_image_tensor()
print(d)
└─ chunks
├─
├─
└─
基于 Qdrant 的文本关键字过滤
filter = {
'must': [
{"key": "info", "match": {"text": "shoes"}}
]
}
results = da.find(np.random.rand(n_dim), filter=filter)
上面的代码将在所有包含 "shoes" 关键字的 Document 中进行搜索,并返回相应的结果。
从 uri 加载视频向量时存储关键帧索引
当从 uri 加载视频向量时,会在 Document 的 tags 中存储 key_frame_indices。这样,就可以提取视频中关键帧之间的部分。
d = Document(uri="video.mp4").load_uri_to_video_tensor()
print(d.tags['keyframe_indices'])
[0, 25, 196, ...]
更好地绘制嵌套和复杂数据的 embedding 图
您现在可以选择在调用 DocumentArray 的方法 plot_embedding()排除哪些元字段,这使得绘制复杂和嵌套数据的 embedding 图变得更加容易。
docs.plot_embeddings(exclude_fields_metas=['chunks'])
更好地支持信息检索评估
此版本向评估函数增加了 max_rel_per_label 参数,它提供了每个标签的相关文档数,即集合中具有该标签的文档数。
metrics = da.evaluate(['recall_at_k'], max_rel_per_label={i: 1 for i in range(3)})
bug 修复
支持独立于类列表行为的长度计算
本次发布中,我们修复了在 DocArray 0.19 版本里引入的 Redis 后端存储的长度计算,使其独立于类列表行为。
删除有错误赋值的余弦相似度字段
在 Weaviate 的后端存储中,余弦距离不会g再被错误地分配给 cosine_similarity 字段。
清除存储后重建索引
当调用 _clear_storage 时,就可以重建 Redis 和 Elasticsearch 文档存储的索引。
更多详细信息请点击 https://jina.ai/news/docarray-0-20-update/
文档更新
这一部分主要涉及文档的改进,包括更正文档中的错误描述、修复文档中的链接、修改逻辑顺序以符合博客文章,以及将云支持移动到整合部分。这些更新旨在让文档更加清晰易读,帮助用户更好地了解 DocArray。更多详细信息请访问文档 docarray.jina.ai
贡献者
在此感谢本次发布的所有贡献者:
Delgermurun
杨小燕
Anna-charlotte
Johannes Messner
Alex Cureton-Griffiths
AlaeddineAbdessalem
相栋
coolmian
Joan Fontanals
王楠
Sami Jaghouar
Michael Günther