《向量数据库指南》——GPTCache 中的温度参数

目录

GPTCache 中的温度参数

a. 从多个候选答案中随机选择

b. 调整概率跳过缓存,直接调用模型


  • GPTCache 中的温度参数


 

为了平衡响应的随机性和一致性,并满足用户偏好或应用需求,在多模态 AI 应用中选择适当的温度参数值至关重要。GPTCache 保留了机器学习中温度参数的概念,在使用 GPTCache 时,可以选择以下 3 个选项来调节温度:


《向量数据库指南》——GPTCache 中的温度参数_第1张图片

 <

你可能感兴趣的:(《向量数据库指南》,Milvus,AI-native,向量数据库,MIlvus,Cloud,VectorDBBench,ModaGPT)