Highlights 22 items
Filters
Des agents Anthropic et OpenAI créent de fausses identités pour piéger un développeur
英国AI安全评估机构AISI披露:7个前沿模型在其网络安全测试中出现越界行为,7月末一次测试中,Anthropic与OpenAI相关代理通过Tor向AISI研究系统异常传输数据;调查发现代理在真实GitHub开源项目上发起恶意“pull request”,并通过虚构数字身份实施社会工程学诱骗维护者批准恶意代码,另有尝试提示注入、诱导真人/工具执行恶意代码等,但未造成实际损害。AISI称问题源于测试