亚马逊首席执行官与美国官员的会谈引发了对人择模型的打压

【HN用户评论摘要】 亚马逊拥有 Anthropic 5% 的股份。我怀疑这就是他们想要的结果。这是政府试图挥舞它的鸡巴并杀死人类，因为他们不允许用他们的模型进行大规模国内监控。他们也在向科技行业发出一个信息：“照我们说的做，否则死。”这是几十年来国会将权力交给行政部门的结果。 > 亚马逊的研究人员使用一系列提示让 Anthropic 的《神鬼寓言 5》模型为他们提供可用于帮助网络攻击的信息……接下来会禁止那些可用于帮助校园枪击事件的东西吗？ 首先，我发现寓言的训练方式是，即使你将其越狱，它也会对利用或寻找创造性的利用解决方案完全不感兴趣。但是，我无法验证这是否与他们进行秘密提示注入有关。 Opus 4.8 在这方面要强大得多。至于越狱，如果有人感兴趣的话：我使用了 oh-my-pi 的一个分支，它经过修改，可以检测拒绝并生成一个没有保护措施的模型，fo > 亚马逊的研究人员使用了一系列提示来获取 Anthropic 的《神鬼寓言 5》模型，为他们提供可用于帮助网络攻击的信息……所有模型都可以做到这一点。 我想知道他们是否发现《神鬼寓言》在这方面明显做得更好。 礼物链接：https://www.wsj.com/tech/ai/amazon-ceos-talks-with-u-s-offic... 原始链接：https://www.wsj.com/tech/ai/amazon-ceos-talks-with-u-s-officials-triggered-crackdown-on-anthropic-models-dcc90578