Anthropic研究员警告AI十年内或致人类灭绝

人工智能研究员雅各布·考克森周二从Anthropic辞职，并在X上指责Anthropic与OpenAI在“拿我们的生命赌博”。曾在两家公司任职的考克森说，开发AI的人真诚相信，AI可能在十年内杀死所有人类；他的帖子浏览量已超过7000万次。Anthropic对齐负责人埃文·胡宾格回应称，他个人估计未来十年发生这种结果的可能性超过10%，并承认公司尚未解决超级智能对齐问题。事件发生之际，两家公司正发布更先进模型，并朝可能具有历史意义的首次公开募股迈进。