华尔街见闻·· 1 天前精选AI 评分56
前Anthropic研究员纽约市议会作证AI失控风险，纽约拟设紧急停止开关
“AI风险吹哨人”作证：AI巨头“极度无视风险”，AI接管人类文明的可能性约1/3
AI 导读
前Anthropic研究员Jacob Coxon在纽约市议会听证会作证称，按当前路径人类失去对AI控制的可能性超过五成，业界尚不知道如何控制AI系统，而明年模型能力将接近自我改进的临界点。
推荐理由
三位前AI研究员给出量化风险估计，同时披露纽约拟议监管条款与罚款额度，便于评估AI监管的落地节奏。
来源：华尔街见闻 · wallstreetcn.com