短短22个字，这封公开信将ai风险与核武器并列！open ai也联署了！ -9479威尼斯

就在今天，一众全球范围内ai领域的重要人物，包括伊隆·马斯克（elon musk）和openai ceo萨姆·奥尔特曼（sam altman）等在内，共同联署了一封公开信，呼吁全球共同努力，降低人工智能导致的灭绝风险。

这封公开信由safe ai society发起，该组织是一个致力于推动ai安全研究和政策的非营利组织。这封公开信强调，ai的发展可能带来重大的风险，包括人类文明的存续风险。他们呼吁全球的研究者、政策制定者和公众共同努力，避免在ai发展中出现可能威胁安全的竞赛行为。

这次联署，与几个月前的一次呼吁有类似之处，但有本质不同。当时，马斯克等人呼吁，暂停训练大型ai模型六个月，主要是考虑到大型ai模型可能带来的风险和道德问题。那封公开信虽然也有上千人参与，但是这次联署中出现的很多人，并没有加入其中，比如“chatgpt之父”萨姆·奥尔特曼，以及国内的清华大学air院长张亚勤。

而这一次声明虽然很短，只有22个词，但透露的情绪明显更警惕——将ai风险与瘟疫大流行和核战争，相提并论。公开信如下：

部分签署声明的专家和公众人物名单：

1. geoffrey hinton - 多伦多大学计算机科学名誉教授
2. yoshua bengio - 蒙特利尔大学/米拉计算机科学教授
3. demis hassabis - google deepmind首席执行官
4. sam altman - openai首席执行官
5. dario amodei - anthropic首席执行官
6. dawn song - 加州大学伯克利分校计算机科学教授
7. ya-qin zhang - 清华大学air教授和院长
8. ilya sutskever - openai联合创始人和首席科学家
9. shane legg - google deepmind首席agi科学家和联合创始人
10. martin hellman - 斯坦福大学电气工程名誉教授
11. james manyika - google-alphabet研究、技术与社会高级副总裁
12. yi zeng - 中国科学院自动化研究所大脑启发式认知ai实验室教授和主任
13. xianyuan zhan - 清华大学助理教授
14. anca dragan - 加州大学伯克利分校计算机科学副教授
15. bill mckibben - 米德尔伯里学院舒曼杰出学者
16. alan robock - 罗格斯大学气候科学杰出教授
17. angela kane - 国际和平研究所副总裁，前联合国裁军事务高级代表
18. audrey tang - 数字事务部长，国家网络安全研究所主席
19. daniela amodei - anthropic总裁
20. david silver - google deepmind和ucl计算机科学教授
21. lila ibrahim - google deepmind首席运营官
22. stuart russell - 加州大学伯克利分校计算机科学教授
23. marian rogers croak - google负责人工智能和人类中心技术的副总裁
24. andrew barto - 马萨诸塞大学名誉教授
25. mira murati - openai首席技术官
26. jaime fernández fisac - 普林斯顿大学电气和计算机工程助理教授
27. diyi yang - 斯坦福大学助理教授
28. gillian hadfield - 多伦多大学教授，cifar ai主席，ai向量研究所
29. laurence tribe - 哈佛大学名誉大学教授
30. 30.30. pattie maes - 麻省理工学院 - 媒体实验室教授
31. kevin scott - 微软首席技术官 ?

加入公开信签名?：