AI Infra简单记录

向量数据库的作用

1. 在AI大模型训练过程中，向量数据库可以有效提升数据检索、特征提取等任务的效率。

2、在AI大模型推理过程中，向量数据库为大模型提供外挂知识库，提升模型时效性与准确性，提供缓存能力，减少调用开销，提升响应速度等。