Seebug Paper

作者：Mikiyas Alemayehu, Mohamed Chahine Ghanem, Hamza Kheddar, Aohan Li, and J. J. Garcia-Luna-Aceves 原文链接：https://arxiv.org/html/2608.16769v1 摘要 运营技术（OT）环境、可编程逻辑控制器（PLC）、工业控制系统（ICS）以及监控与数据采集（SCADA）系统正日...

作者：Ruoqi Guo, Yi Liu, Gelei Deng, Yiheng Xiong, Yuekang Li, Ying Zhang, Leo Yu Zhang, Lida Zhao, Ji Jie, Yuxiao Lu 原文链接：http://arxiv.org/html/2605.28116v1 摘要 由视觉-语言模型（VLM）驱动的移动图形用户界面（GUI）智能体将屏幕视为渲染后的像...

作者：Zidong Zhang，Zhentao Xie，Wenrui Diao，Jianliang Wu 原文链接：https://arxiv.org/pdf/2607.00333v2 摘要 由视觉语言模型（VLM）驱动的第三方移动智能体已成为自动化智能手机交互的一种前景广阔的新范式。这些智能体充当高权限决策者，通过截图感知设备状态，并借助VLM推理执行操作，从而改变了智能体应用与环境（即其他应用...

作者： Michele Guida, Ruslan Shikhhamzayev, Sindhuja Penchala, Stefano Iannucci, Jiacheng Li, Shahram Rahimi, Noorbakhsh Amiri Golilarz 原文链接：https://arxiv.org/pdf/2607.01277v1 摘要—大型语言模型（LLM）可能通过多轮策略被诱导生成...

作者：Junlong Liu, Haobo Wang, Weiqi Luo, Xiaojun Jia 原文链接：https://arxiv.org/pdf/2607.00481v1 摘要 越狱攻击仍然是对大型语言模型（LLM）安全部署的关键威胁。虽然先前的工作主要研究提示词层面的攻击和防御，但我们表明，这种以提示词为中心的范式忽视了有状态、函数调用环境中的结构性漏洞。在此类应用中，开发者定义的架构...

作者：William Hackett, Peter Garraghan 原文链接：https://arxiv.org/pdf/2607.02121v1 摘要 随着大型语言模型（LLM）和智能体系统融入实际应用，确保其安全性和保障性变得至关重要。用于检测并拦截发送至LLM及从LLM发出的恶意指令的护栏系统，是AI安全的关键组成部分。然而，针对生产级AI系统进行黑盒对抗模拟的研究人员，常常难以判断是护...

作者：Jiaqi Li, Yang Zhao, Wen Lu, Lvyang Zhang, and Lidong Zhai 原文链接：https://arxiv.org/pdf/2606.29981v1 摘要 网络攻击正在以机器速度推进；但网络安全研究本身却并非如此。现有的AI科学家系统使得端到端的研究自动化越来越可行，但它们针对的是相对稳定的科学领域。我们认为，AI原生的网络安全是一种不同类型的...

作者：Shanghao Shi, Chaoyu Zhang, Heng Jin, Yang Xiao, Yevgeniy Vorobeychik, William Yeoh, Ning Zhang, Y. Thomas Hou, Wenjing Lou 原文链接：https://arxiv.org/pdf/2606.20553 摘要 联邦学习（FL）使多方能够在不共享原始数据的情况下，协作微调面向...

作者：Hanwool Lee, Dasol Choi, Bokyeong Kim等 原文链接：https://arxiv.org/pdf/2606.20408 摘要 大型语言模型（LLM）智能体越来越多地被提议作为安全关键系统的监督组件，但它们在持续、自适应对抗压力下的鲁棒性仍然缺乏充分表征。本文提出NRT-Bench，一个用于对担任安全关键系统操作员的LLM智能体进行多轮红队测试的基准，具体实例...

作者：Qi Wang, Chengcheng Wan等 原文链接：https://arxiv.org/pdf/2606.16751 摘要 大型语言模型（LLM）在广泛的任务中展现出了卓越的能力。然而，由于其易受对抗性提示攻击的影响，其安全性仍然是一个关键问题。在本文中，我们提出了UniAttack，这是一个从防御视角设计的对抗性测试框架，用于系统性地构建有效的黑盒攻击提示。与以往依赖静态模板或迭代...

作者：Anlan Zheng, Tiantian Zhu 原文链接：https://arxiv.org/html/2606.05567v1 摘要 LLM驱动的自动化渗透测试智能体通常是在既不会检测也不会响应攻击的静态目标上进行评估的，因此它们在智能防御下的行为仍然未经测试。多步攻击链的因果一致性同样依赖于不稳定的LLM推理，而智能体的决策对人类分析人员来说仍然是不透明的。这三个缺陷——真实性、一致...

作者：Zhenfeng Cao 原文链接：https://arxiv.org/pdf/2606.05608 摘要 半个多世纪以来，软件工程一直建立在一个基本前提之上：人类工程师负责拆解问题，将决策逻辑编码为静态代码，并在需求演变时手动调整代码。本文认为，AI智能体（AI agents）的出现——即以大型语言模型作为主要推理引擎，将代码动态生成与丢弃作为工具性资源的系统——并非渐进式的改进，而是对软...

作者：Jack Sanderson, Yihan Wang等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2606.04929v1 摘要 大语言模型后训练包含多个阶段，例如监督微调（SFT）以及随后的人类反馈强化学习（RLHF）或直接偏好优化（DPO），每个阶段的数据来自不同的、可能不可信的来源。现有文献假设数据投毒攻击可能发生在每个训练阶段，但忽略了...

作者：Jing Fang, Saihao Yan等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2501.01593v2 摘要 现有研究表明，协作多智能体深度强化学习（c-MADRL）极易遭受后门攻击威胁。一旦观测到后门触发器，系统将执行恶意行为，引发任务失败或达成攻击者恶意目的。然而现有后门攻击存在诸多缺陷：瞬时触发模式隐蔽性差、需借助额外网络完成后...

作者：Prashant Kulkarni 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2604.28129v1 摘要 多轮提示注入遵循建立信任—话题转向—恶意升级的固定攻击路径，但文本层防御手段无法识别单轮对话看似无害的隐蔽攻击。本文发现，该攻击路径会在模型残差流中留下可识别的激活层特征：攻击每个阶段的切换都会引发激活向量偏移，最终累积路径长度远超正常...

作者：Urchade Zaratiana, Mary Newhauser, George Hurn-Maloney, Ash Lewis 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2605.07982v1 摘要 保障大语言模型（LLM）输出安全合规、符合政策要求，需要能跨多安全维度实时扩展的内容审核机制。然而，当前最优的安全护栏模型均基于70亿–27...

作者：Kexin Chu 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/pdf/2604.23338v2 摘要 智能体AI系统可跨多会话规划、保留记忆、调用外部工具并与对等智能体协同，无状态大语言模型则不具备这些能力。现有安全分类体系按攻击类型（如提示注入、越狱）划分威胁，却未说明脆弱的架构组件或威胁显现的时间尺度。本文直接解决这些结构性问题，提出分层攻击面模型（...

作者：Yaofei Wang, Rui Wang, Weilong Pang等 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/html/2604.25486v1 摘要 生成式语言隐写（GLS）通过将秘密信息嵌入自然语言生成过程实现隐蔽通信。然而在实际部署中，GLS易受分词歧义影响：相同的表层文本在接收端可能被重新分词为不同的token序列，破坏通信双方共享的解码状...

作者：Ray Iskander，Khaled Kirah 译者：知道创宇404实验室翻译组 原文链接：https://arxiv.org/abs/2604.25878v1 摘要 本文是后量子密码掩码数论变换（NTT）硬件形式化验证分析系列论文的第六篇。第一篇论文[1]建立了 QANARY 平台的结构依赖分析，第二篇论文[2]量化了部分 NTT 掩码下的安全裕度。布尔掩码的合成理论通过无干扰（NI）...

作者：Matija Franklin, Nenad Tomašev等 译者：知道创宇404实验室翻译组 原文链接：https://blog.qiaomu.ai/api/images/document/2026/04/603f0cae8cd8ab94-ai-agent-trap.pdf 摘要 自主AI智能体日益在网络中自主行动，它们面临一种全新挑战：信息环境本身。由此产生了一个关键安全漏洞，我们称之...