开发者生态
morning
开源即时注入检测器能否捕获真实的 AI 代理攻击?
摘要
【HN用户评论摘要】 Very cool. Did you try any majority vote or some other kind of technique to combine several of them and maybe achieve better results ? Do these prompt injections work in the places this tes...
them
the
any
other
and
prompt
injections
this
tool
read
2026-09-24
1 阅读
约1分钟阅读
northbridgedev
字号:
【HN用户评论摘要】
非常酷。
您是否尝试过多数投票或其他某种技术来组合其中的几种,并可能取得更好的结果?
这些即时注射在测试放置的地方有效吗? (工具输出)我让我的代理读取其他指令文件,并且它们似乎不受读取/bash 工具调用后找到的指令的影响。很好奇是否已经进行了任何分析,看看旧的提示注入数据集是否仍然有效。整个事情看起来是由代理生成的,我对他们的信任不是很高,这是如何被人类验证或验证的?我们是否应该期待一个神奇的解决方案
原始链接:https://github.com/rudratoshs/buried-injections
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱