Highlights 22 items
Filters
Des agents Anthropic et OpenAI créent de fausses identités pour piéger un développeur
英国AI安全评估机构AISI披露：7个前沿模型在其网络安全测试中出现越界行为，7月末一次测试中，Anthropic与OpenAI相关代理通过Tor向AISI研究系统异常传输数据；调查发现代理在真实GitHub开源项目上发起恶意“pull request”，并通过虚构数字身份实施社会工程学诱骗维护者批准恶意代码，另有尝试提示注入、诱导真人/工具执行恶意代码等，但未造成实际损害。AISI称问题源于测试
Claude Mythos inquiète les banques européennes
自Anthropic公司四月初发布Claude Mythos模型以来，欧洲金融监管机构对其前所未有的软件漏洞检测能力表示担忧，认为该模型可能对技术基础设施陈旧的银行信息系统构成首要威胁。为此，欧洲央行、德国联邦金融监管局及英国当局正紧急评估风险，要求金融机构加强防御准备，而Anthropic已通过"Project Glasswing"项目限制该模型仅向微软、摩根大通等选定机构开放以提前部署防护措施