第10期 | GPTSecurity周报
GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练 Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。在这里，您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令（Prompts）。现为了更好的知悉近一周的贡献内容，现总结如下。、
Security Papers
🔹DiverseVul: A New Vulnerable Source Code Dataset for Deep Learning Based Vulnerability Detection
https://arxiv.org/pdf/2304.00409.pdf
🔹FLAG: Finding Line Anomalies (in code) with Generative AI
https://arxiv.org/pdf/2306.12643.pdf
🔹In ChatGPT We Trust? Measuring and Characterizing the Reliability of ChatGPT
https://arxiv.org/pdf/2304.08979.pdf
🔹Explore, Establish, Exploit: Red Teaming Language Models from Scratch
https://arxiv.org/pdf/2306.09442.pdf
🔹Tenable的报告展示了生成式人工智能正在如何改变安全研究
https://venturebeat.com/security/tenable-report-shows-how-generative-ai-is-changing-security-research/
🔹挖掘AIGC军火产业链，颠覆巨头的机会和风险
https://mp.weixin.qq.com/s/bVQYT0QqueGyLwPAppDRtg
🔹增强ChatGPT等安全性，大语言模型界的“安全管家开源了！
https://mp.weixin.qq.com/s/PeuNht95WVJbJ8hiOOrSoA
Security Tools
🔹gpt3-and-cybersecurity
简介：Sophos使用GPT-3进行命令分析和垃圾文本监测。
链接：https://github.com/sophos/gpt3-and-cybersecurity
🔹CalypsoAI Moderator
简介：CalypsoAI Moderator针对数据丢失、恶意代码、越狱和幻觉等安全风险进行防护。
链接：https://calypsoai.com/