【AIGC】prompt工程从入门到精通--用于破解LLM的prompt方法(大语言模型的黑客技术与防御)
破解提示(PromptHacking)是指通过操纵LLM的输入来利用LLM的漏洞的攻击类型。与通常利用软件漏洞的传统黑客攻击不同,破解提示依赖于精心设计的Prompt来欺骗法学硕士执行意想不到的操作。目前主要有三种(后续看到更多的再增加):提示注入(promptinjection):指将恶意或非预期内容添加到prompt中以诱导LLM的输出。即时泄露和越狱实际上是提示注入的特殊情况。即时泄露(pr