第10期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练 Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。在这里，您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令（Prompts）。现为了更好的知悉近一周的贡献内容，现总结如下。、

Security Papers

DiverseVul: A New Vulnerable Source Code Dataset for Deep Learning Based Vulnerability Detection

https://arxiv.org/pdf/2304.00409.pdf

FLAG: Finding Line Anomalies (in code) with Generative AI

https://arxiv.org/pdf/2306.12643.pdf

In ChatGPT We Trust? Measuring and Characterizing the Reliability of ChatGPT

https://arxiv.org/pdf/2304.08979.pdf

Explore, Establish, Exploit: Red Teaming Language Models from Scratch

https://arxiv.org/pdf/2306.09442.pdf

Tenable的报告展示了生成式人工智能正在如何改变安全研究   

https://venturebeat.com/security/tenable-report-shows-how-generative-ai-is-changing-security-research/

挖掘AIGC军火产业链，颠覆巨头的机会和风险    

https://mp.weixin.qq.com/s/bVQYT0QqueGyLwPAppDRtg

增强ChatGPT等安全性，大语言模型界的“安全管家开源了！ 

https://mp.weixin.qq.com/s/PeuNht95WVJbJ8hiOOrSoA

Security Tools

 gpt3-and-cybersecurity

简介：Sophos使用GPT-3进行命令分析和垃圾文本监测。

链接：https://github.com/sophos/gpt3-and-cybersecurity  

CalypsoAI Moderator

简介：CalypsoAI Moderator针对数据丢失、恶意代码、越狱和幻觉等安全风险进行防护。

链接：https://calypsoai.com/