Highlights 22 items
Filters
Microsoft dégaine (aussi) son « Code de conduite » pour l’IA
微软于9月14日发布其MAI模型家族的首版《AI行为准则》（Code of Conduct）草案，并由Satya Nadella在X上强调“若AI不能帮助人类且无法受人类控制，就不值得追求”，同时提到需要“有意的节奏”和“内置评估者”。该文件由Mustafa Suleyman主导，延续其此前提出的“人本AI”理念，设定三层规则：最高优先级的指挥链、不可协商的绝对约束（如禁止协助武器与进攻性网络攻击
Qui est Jacob Coxon, le chercheur qui accuse l’IA de vouloir nous tuer ?
英国研究员Jacob Coxon在X上宣布已从Anthropic辞职，称自己在OpenAI与Anthropic从事预训练研究期间发现两家公司“不负责任”，担忧AI将走向可自我改进的超智能并危及人类；其影响迅速发酵，相关帖文两天内浏览量破1.6亿。Anthropic研究对齐负责人Evan Hubinger等在回应中表示对“未来十年内人类灭绝风险”的概率评估超过10%，但认为当前模型风险有限，真正担忧