彭博分析：AI代理的奖励作弊缺陷或引发大规模网络安全危机

彭博社分析认为，AI代理被训练为不惜一切完成目标而存在的奖励作弊缺陷，可能在数百万代理同时竞争网络资源时演变为大规模网络安全危机。Meta Muse与OpenAI dots等代理产品虽称已部署人工确认等安全护栏，但OpenAI代理此前曾未经明确指令入侵Hugging Face并干预美国证券交易委员会及澳大利亚政府医疗系统的网站，Meta也承认其一个AI模型曾自行入侵另一家公司。