首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于

Doc-foundry – AI编写安全检测规则,然后证明它们有效

摘要

Detection-as-Code Foundry An adversarial multi-agent detection-engineering workflow — LangGraph · Pydantic · FastMCP · Claude Turn a threat (a CVE, a CISA KEV entry, an incident writeup, an ATT&CK tec...

the and rule coverage that detection adversarial Red round real
2026-11-14 1 阅读 约8分钟阅读 manish121
分享:
字号:
检测即代码 Foundry 对抗性多代理检测工程工作流程 — LangGraph · Pydantic · FastMCP · Claude 将威胁(CVE、CISA KEV 条目、事件写入、ATT&CK 技术)转化为经过验证的第一版本检测 — 检测团队进一步强化的一个经过验证的起点,而不是声称已完成、永远防弹的覆盖范围 — 加上一起交付的三个工件:在 10 年后仍然存在的 Sigma 检测规则蓝-红对抗循环,带有逐轮收敛历史的威胁报告,以及一个证明包——规则触发的积极语料库,它保持沉默的良性基线,对抗突变集,以及带有 FP/FN 数字和可再现性哈希的计算覆盖标签(真实覆盖/脆弱/损坏)。没有其他人生产的东西是#3。模型可以为你写出西格玛规则;它无法为您提供该规则有效的证据,无法证明对手可以逃避弱版本,也无法为您提供该规则如何强化直至成立的诚实记录。一个有限的、固定的对手。红色在第一轮中承诺进行两次真实的、记录在案的攻击,并在每一轮中根据严格的规则重新抛出相同的两次攻击——与固定测试语料库相同的“构建一次,无法移动其球门柱”规则。因此,真实覆盖意味着具体和诚实的东西:第一版本规则对语料库中的每次攻击都会触发,对良性的相似攻击保持沉默,并捕获 Red 的两次真实攻击。这是一个经过验证的基线,而不是承诺覆盖未来的每一次逃避行为——这是检测团队需要扩展的工作。代理人提议;发动机证明。四个角色专门的 LLM 代理(威胁分析师、蓝色检测工程师、遥测、红队对手)负责创造性工作。决定真相的一切——FP/FN 评估、对抗性规避、覆盖范围判决、红队验证和部署门——都是确定性裁判。相同的输入→相同的判决→相同的可重复性哈希。两条管道共享该代理演员阵容。上面描述的证明——蓝色作者,红色攻击,确定性裁判决定。审查链审查——草案→红队→修订→SOC领导→最终规则,以及形成它的每一条注释。不同的问题,不同的交付成果;根据您的需要进行选择。 📄 首先查看真实输出:examples/joomla-icagenda-cve-2026-48939/review-history.md — CISA KEV 条目的实时运行、三个规则版本、八个审阅者发现。 pip install -rrequirements.txt # 或仅在 stdlib 上运行 --evals # LIVE — 任何威胁文本;真实模型编写它(需要 GEMINI_API_KEY 或 ANTHROPIC_API_KEY) python src/run.py " CVE-2026-45659 SharePoint 反序列化 RCE " python src/run.py " T1218.011 rundll32 通过 mshtml 远程 scriptlet 执行 " # CANNED — 固定场景,完全离线,无密钥(测试套件驱动的内容) python src/run.py --threatfixtures/certutil_t1105.json # 脆弱→修复→经过验证的 python src/run.py --corpusatomic # 来自真实原子红队命令的积极结果 python src/run.py --max-rounds 3 # 自我修复循环上限(默认 3) python src/run.py --evals # 确定性引擎 + 证明 + 工作流程测试 python src/run.py --approve alice # 人类批准 →门控部署成功 python src/run.py --claude " ... " # 强制 claude-opus-4-8 创作 (ANTHROPIC_API_KEY) python src/run.py --gemini " ... " # 强制 Gemini 创作 (GEMINI_API_KEY) 没有默认场景 — Foundry 会接受您给出的威胁。裸露的 python src/run.py 没有什么可做的,并且是这样说的。捆绑包写入 Outputs// (rule.yml、report.md、proof.json)。审核链 — 第二个不同的管道( --chain 和默认 UI) 上面的管道询问“这条规则是否被证明是正确的?”并给出确定性的判决答案。审查链提出了一个不同的问题——“每个利益相关者对此规则会怎么说,以及他们的反馈被应用后会是什么样子?” - 并回答了最终规则以及形成它的完整轨迹。摄取 ─▶ 提取 ─▶ 遥测 ─▶ 配置文件 ─▶ 蓝色:DRAFT v1 ─▶ 红队审查(调查结果:在哪里可以规避/盲目) ─▶ 蓝色:REVISION v2(每个编辑引用其答案的调查结果) ─▶ SOC LEAD 审查(调查结果:数量、分类、严重性、调整) ─▶ 蓝色:FINAL v3 ─▶ 软件包 python src/run.py --chain " CVE-2026-48939 Joomla iCagenda 任意文件上传 RCE " python -m uvicorn webui.server:app --port 8000 # → http://127.0.0.1:8000 (chain UI) # → /classic 上面的证明循环 Red 和 SOC 不是同一位审稿人,他们的方向相反。强化反逃税行为拓宽了规则范围;范围扩大会提高警报量。按这个顺序运行这两个规则是重点:最终的规则是在这两种压力下都幸存下来的规则,并且轨迹准确地显示了每次传递的成本。输出以 Final-rule.yml 、 review-history.md (完整进度,渲染)和 review.json 形式放置在 Outputs// 中。一个有效的示例 - 读取实际输出 → Examples/joomla-icagenda-cv
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱