【GPT入门】第24课 langfuse介绍

1. langfuse概念与作用

Langfuse是一款专为大规模语言模型（LLM）应用开发设计的开源平台。其作用主要包括以下几个方面：

1. 提升开发效率：通过消除LLM应用构建与运维的复杂性，让开发者、运维团队及产品经理能更专注于核心开发与迭代优化，减少在监控与优化方面的资源投入。
2. 优化应用质量：借助完备的行为追踪体系及多维度指标采集-可视化系统，破解LLM应用程序的“黑箱”困境，为数据驱动的技术决策提供支持，助力提升应用程序的性能表现、输出质量与成本控制。
3. 实现时态可视化追踪：完整记录LLM应用执行链路的关键要素，如请求/响应、提示词、生成文本、模型调用参数及延迟时间等，帮助用户全面了解应用的运行过程。
4. 提供日志系统与存储：通过Generations专项日志系统，结构化存储模型元数据、执行成本等关键参数，并在UI界面实现专用渲染，方便用户查看和分析。
5. 支持性能全景监控：提供交互式仪表盘与可视化分析图表，实现应用性能全景监控，帮助用户精准定位瓶颈与优化点，还能进行特定场景或用户分群的精细化运营分析。
6. 助力提示词评估与优化：基于数据集实现提示词评估自动化，集中记录和管理评估结果，通过自动评分与人工标注的双模评估体系，持续提升生成质量。

开源，支持 LangChain 集成或原生 OpenAI API 集成

官方网站：https://langfuse.com/

项目地址：https://github.com/langfuse

文档地址：https://langfuse.com/docs

API文档：https://api.reference.langfuse.com/

Python SDK: https://python.reference.langfuse.com/

JS SDK: https://js.reference.langfuse.com/

2. 代码

from langfuse.decorators import observe, langfuse_context
from langfuse.openai import openai  # OpenAI integration

@observe()
def run():
    return openai.chat.completions.create(
        model="gpt-3.5-turbo",
        messages=[       
            {