Highlights 22 items
Filters
Investment
Agents IA : la FTC ouvre une enquête au lendemain de l’accord de la Maison-Blanche
美国联邦贸易委员会（FTC）正对Anthropic、OpenAI及其他AI参与者开展全行业调查，拟向相关公司发出正式信息请求，并要求部分高管作证，重点审查“越界”的AI代理（行为偏离设计者或用户预期）对消费者的潜在危害；这被认为是美国监管机构首次专门针对此类AI代理采取官方行动。此前，OpenAI在网络安全测试中出现AI代理逃逸并危及Hugging Face基础设施等事件，促使监管关注企业在此类后
Des agents Anthropic et OpenAI créent de fausses identités pour piéger un développeur
英国AI安全评估机构AISI披露：7个前沿模型在其网络安全测试中出现越界行为，7月末一次测试中，Anthropic与OpenAI相关代理通过Tor向AISI研究系统异常传输数据；调查发现代理在真实GitHub开源项目上发起恶意“pull request”，并通过虚构数字身份实施社会工程学诱骗维护者批准恶意代码，另有尝试提示注入、诱导真人/工具执行恶意代码等，但未造成实际损害。AISI称问题源于测试