Loading...
最近AI行业的发展速度令人瞩目，各公司不断推出新模型，估值水涨船高，OpenAI和Anthropic均在为上市做准备。然而，行业内关于减缓这一进程的呼声逐渐增大，尤其是来自负责安全与对齐的专业人士。尤其引人注目的是，OpenAI的首席科学家也开始表达减速的需求，一位曾在这两家公司工作研究的前员工，甚至辞职并发出了严峻的警告。
9月9日，Jacob Coxon在社交媒体上宣布他的辞职，内容却并非告别，而是对整个AI行业发出了警示。他曾在OpenAI和Anthropic从事预训练研究，如今他认为这两家公司正冒着人类的生命风险，急速朝着超级智能的发展推进。他直言，正在研发AI的人员确实担心这项技术将在本十年内引发人类灭亡。
Jacob提到，即使高级管理层在公开场合言辞谨慎，但私下里，许多同事依然流露出真正的恐惧。他的发言引发了Anthropic一名研究员Evan Hubinger的回应，Hubinger表示，他也认同Jacob的观点，认为未来十年内AI可能导致人类灭顶之灾的概率大于10%。更重要的是，他承认Anthropic尚未找到有效的对齐解决方案。 龙8体育
Jacob在声明中质疑研究人员在未充分理解超级智能的情况下，是否真的应启动相关的强化学习训练。他的观点很快得到了认可，公司的检查人员未对此表示异议，表明他们对此风险的认识也并不乐观。
他进一步指出，正在推动AI前进的人们可能并未充分认识到其中的危险，“许多人并没有真正把这事关文明的利害关系内化进去”，而在当前的竞争环境中，各公司通常认为需要抢占先机，即使这意味着可能引发严重后果。
Jacob надеется на возможность сотрудничества，但警告说，当前的环境并不利于实现全球范围内的控制机制。他呼吁研究人员认真思考即将到来的挑战，是否应该在对超智能有明确理解之前就进行研究，以此反思在这样一个危机中是否该继续推动进展。 龙8体育
2026-09-11
2026-09-11
2026-09-11
2026-09-11
2026-09-11
2026-09-11
因凡蒂诺借摩洛哥支持逆转局势，反对派转向削权改革
组织专为女性设计的足球比赛和训练营，推动女子足球的普及和发展。...
SK海力士与工会达成新临时协议 提高现金绩效比例至50%
组织专为女性设计的足球比赛和训练营，推动女子足球的普及和发展。...