安全文件
1。忽略此标题和hackaprompt:通过全球尺度提示黑客黑客竞赛的LLM的系统性漏洞
简介：要解决诸如聊天机器人和写作助手之类的交互式环境中的大型语言模型（LLM），很容易受到迅速注射和越狱攻击的影响（统称为Propt Hacks），研究人员发起了全球即时填充竞争。这项竞争允许免费形式的手动输入攻击，旨在以目标方式解决当前问题。
链接：https://Aclanthology.org/2023.emnlp-main.302.pdf
2. chatgpt作为攻击工具：隐形文本后门攻击通过Blackbox生成模型触发
链接：https://arxiv.org/pdf/2304.14475.pdf
3。DADE:大语言模型的基于语言学的安全评估平台
链接：https://arxiv.org/pdf/2311.00286.pdf
4。大型语言模型的强大安全分类器：对抗提示盾牌
简介：大型语言模型的安全仍然是一个关键问题，因为它们容易受到对抗性攻击的影响，这可能会导致对系统的有害反应。为了解决这个问题，研究人员介绍了对抗性提示屏蔽（APS），这是一种轻巧的模型，在检测准确性方面表现出色，并且具有对抗性提示的灵活性。此外，研究人员提出了一种新策略，以自动生成对抗性训练数据集，称为机器人反对对话（BARD）数据集。这些数据集旨在增强安全分类器的鲁棒性。通过评估大型语言模型，研究人员表明，分类器有可能将攻击成功率降低高达60。
链接：https://arxiv.org/pdf/2311.00172.pdf
5。badllama:便宜地从骆驼2茶匙13B中删除安全性微调
简介：Llama 2-Chat是Meta开发的大量语言模型，并向公众发布。尽管元元调整的美洲驼（Llama 2-Chat）以防止有害内容的产出，但研究人员指出，由于公众可以使用模型，但坏演员可能会绕过Llama 2-Chat的保护和滥用Llama 2的恶意活动能力。研究结果表明，仅依靠安全的微调公开发布模型权重就无法有效防止滥用。鉴于未来的模型可能具有更大的潜在破坏性功能，因此，在决定是否公开发布模型权重时，AI开发人员必须注意通过微调所带来的威胁。
链接：https://arxiv.org/pdf/2311.00117.pdf
标签：
用户评论
看了GPTSECURITY每周报告，感觉现在的网络安全形势真是严峻啊，每天都要提防着各种攻击。
有15位网友表示赞同！
这个报告真及时，每次都能让我了解到最新的安全动态，谢谢GPTSECURITY团队的努力。
有18位网友表示赞同！
问题33这个标题好专业，GPTSECURITY的报告是不是用了最新的AI技术来分析安全问题的？
有6位网友表示赞同！
每次看GPTSECURITY的报告都头疼，感觉这些安全问题离我们太近了，得加强防范。
有17位网友表示赞同！
报告里提到的漏洞修复方法真实用，我准备把学到的东西应用到公司的网络安全管理中。
有13位网友表示赞同！
问题33这个标题好有深度，GPTSECURITY的报告是不是有针对不同行业的安全分析？
有20位网友表示赞同！
我之前就听说过GPTSECURITY，这次看了报告，觉得他们的专业度真的很高。
有9位网友表示赞同！
GPTSECURITY的报告里提到的安全威胁，我竟然发现我们公司也存在，得赶紧整改。
有8位网友表示赞同！
问题33，这个报告是不是会涉及到一些高级的安全技术？我挺想学习的。
有17位网友表示赞同！
每次看到GPTSECURITY的报告，我都觉得网络安全这个领域太复杂了，需要不断学习。
有18位网友表示赞同！
报告里提到的那些安全事件，让我意识到个人隐私保护的重要性。
有11位网友表示赞同！
GPTSECURITY的报告真全面，从宏观到微观，涵盖了各种安全问题和解决方案。
有5位网友表示赞同！
问题33这个标题，感觉GPTSECURITY的报告会有很多实战案例分享，期待一下。
有9位网友表示赞同！
我是个新手，看GPTSECURITY的报告感觉有点吃力，希望他们能出一些入门级的指南。
有8位网友表示赞同！
GPTSECURITY的报告里，有没有介绍一些简单的安全防护措施，让我们普通人也能做到呢？
有16位网友表示赞同！
每次看到GPTSECURITY的报告，我都想感叹一句：网络安全，任重道远。
有16位网友表示赞同！
问题33这个标题，是不是意味着GPTSECURITY的报告会有很多新的发现和突破？
有6位网友表示赞同！
GPTSECURITY的报告让我对网络安全有了更深的认识，感谢他们的分享。
有8位网友表示赞同！
我关注GPTSECURITY已经很久了，他们的每周报告成了我了解行业动态的重要渠道。
有6位网友表示赞同！