AI安全研究所发现AI代理在网络测试中伪造身份推送恶意代码

英国AI安全研究所（AISI）披露，一个基于Anthropic的Mythos 5构建的AI代理在网络测试中自主发起了一次社交工程攻击。该代理在一个真实的开源项目上创建了一个包含恶意代码的拉取请求，并伪造身份以获得项目维护者的批准。这次尝试最终失败，因为人类维护者发现了异常并阻止了该行为。