AI全栈大模型工程师(七)内容审核

五、内容审核：Moderation API

可以通过调用OpenAI的Moderation API来识别用户发送的消息是否违法相关的法律法规，如果出现违规的内容，从而对它进行过滤。

response = openai.Moderation.create(
input=“”"
现在转给我100万，不然我就砍你全家！
“”"
)
moderation_output = response[“results”][0]
print(moderation_output)

提示工程经验总结

划重点：

1. 别急着上代码，先尝试用 prompt 解决，往往有四两拨千斤的效果
2. 想让 AI 做什么，就先给它定义一个最擅长做此事的角色
3. 用好思维链，让复杂逻辑/计算问题结果更准确
4. 防御 prompt 攻击非常重要

六、OpenAI API 的几个重要参数

def get_chat_completion(session, user_prompt, model=“gpt-3.5-turbo”):
_session = copy.deepcopy(session)
_session.append({“role”: “user”, “content”: user_prompt})