【网安AIGC专题10.11】①代码大模型的应用:检测、修复②其安全性研究:模型窃取攻击(API和网页接口) 数据窃取攻击 对抗攻击(用途:漏洞隐藏) 后门攻击(加触发器+标签翻转)
代码大模型的应用及其安全性研究写在最前面一些想法大型模型输出格式不受控制的解决方法大模型介绍(很有意思)GPT模型家族的发展Chatgpt优点缺点GPT4其他模型补充:self-instruct合成数据CodeLlama代码大模型的应用(第一次理解清楚hh,这图好清晰,学长的讲解也好好)“预训练-微调”范式和“预训练-prompt”范式课堂讨论:预训练一般是无监督的,一般为下一个token预测提示