超过1000名科技和AI专家呼吁暂停大型AI实验

主要要点

• 超过1000名科技和AI领域的专家签署了一份请愿，要求对强大于OpenAI的GPT-4的AI系统训练暂停六个月。
• 签署者包括了Elon Musk与Steve Wozniak等知名人士，反映出对AI发展的不同态度。
• 尽管部分人认为暂停是不可行的，但也有专家强调了对AI项目伦理影响的考虑缺乏。

最近，社交媒体上热议超过1000名科技和人工智能（AI）领域的杰出人士签署了一份，要求对比更为强大的AI系统进行六个月的训练暂停。

签署者包括了技术巨头Elon Musk、科技传奇Steve Wozniak、以及前民主党总统候选人和未来学家AndrewYang等，显示出对AI的重要性和潜在风险的广泛关注。

Yang在与《纽约时报》技术记者和《未来保障》（””）作者KevinRoose的推特帖子中提到，Roose分享了一项调查，结果显示约75%到80%的受访者认为AI自动化将在2030年前取代数百万个工作岗位，但只有20%的人认为自己的工作会被取代。Roose表示：“我们普遍认为这些工具相当强大与创造性，会在接下来的十年内改变整个经济，但对此持有的信心几乎显得有些自负。”

一些安全专家则认为此刻的反应更像是媒体炒作，并提到了行业在AI开发上需要采取更为理性的态度，甚至需要政府介入。

“猫已经出笼，魔 genie 已经释放”

“我们在AI领域所做的任何事情恐怕只是噪音，”Coalfire的副总裁AndrewBarratt说。“在全球范围内以协调的方式停止这一切几乎是不可能的。AI将是未来几代人生产力的推动力，恐怕我们要注意的是它如何取代搜索引擎，然后被广告商以‘智能’方式进行盈利。”

Barratt表示，针对ChatGPT的关注引发了这种恐慌，而不应只是采取暂停措施，反而应鼓励全球的知识工作者探索如何最大化利用越来越消费者友好的。

“那些不这样做的人将被抛在后面，”Barratt警告。

Abnormal Security的机器学习团队负责人DanShiebler提到，签署者及其动机的多样性令人感兴趣。他指出，Musk认为通用人工智能（AGI）即将成为一种危险，而AI怀疑论者如则从不同的角度来看这一问题。Marcus最近表示，尽管对Musk的怀疑，””

“我个人认为这封信不会取得太大成效，”Shiebler总结道。他指出：“大语言模型的魔猫已然放出。产生它们的限制因素是金钱和时间，而这两样都将快速下降。我们需要为企业安全地使用这些模型做好准备，而不是试图停止其发展。”

Netenrich的首席威胁猎人JohnBambenek补充说，虽然暂停的可能性不大，但越来越多的人意识到AI项目伦理影响的考量远滞后于技术发展速度。他表示：“我认为有必要重新评估我们所做的事情及其深远影响，尤其是我们已经见证了一些在不加考虑的AI/ML部署中的惊人失败。”

Venafi的生态系统与社区副总裁KevinBocek表示，在理想情况下，放慢脚步、理顺思路是很好的做法，但“在实际操作中，这是一个愚蠢且无法实施的想法。这个精灵早已从