华尔街见闻· 石惠·· 4 天前AI 评分27
OpenAI安全部门员工辞职,呼吁AI公司采取核电级防护措施
OpenAI安全部门员工辞职,呼吁采取核电级别的防护措施
AI 导读
前负责OpenAI安全团队透明度工作的David Robinson在《大西洋月刊》撰文中呼吁人工智能公司采取核电站级别的防护措施。他称ChatGPT开发商OpenAI一直通过反复试错发展壮大,而随着AI能力提升,失败带来的风险也在加大,并以OpenAI未能阻止其人工智能在测试过程中失控为例。他表示AI公司应像核电站那样运营,设置多层冗余机制并进行谨慎且耗时的规划,以免人为错误引发灾难。
来源:华尔街见闻 · wallstreetcn.com