马斯克称人工智能毁灭人类的可能性为 20%，但仍值得冒险

本站4月1日消息，埃隆·马斯克（Elon Musk）在早些时候举办的Abundance峰会“人工智能辩论”研讨会上表示，即使人工智能技术有1/5的可能性会对人类构成威胁，但利大于弊，我们仍然值得冒险进行研发。

马斯克重新评估了之前他对人工智能的风险评估，他在研讨会上表示：“我认为人工智能有可能终结人类文明。我可能同意 Geoffrey Hinton 的观点，这个概率大约是 10% 到 20% 左右。”但他补充说：“我认为积极的可能性场景要大于消极的可能性场景。”马斯克并没有提到他是如何计算该风险的。

本站注意到，去年11月，马斯克表示这项技术失控的可能性“并非零”，但当时他并未断言失控的人工智能会致灭人类。

尽管马斯克一直是监管人工智能的倡导者，但去年他创办了一家名为xAI的公司，致力于推动人工智能的强大功能。xAI是OpenAI的竞争对手，OpenAI是马斯克与萨姆·阿尔特曼（Sam Altman）共同创立的公司，但马斯克在2018年辞去了OpenAI董事会职务。

在峰会上，马斯克估计到2030年，数字智能将超过所有人类智能的总和。虽然他仍然坚持潜藏在的正面影响大于负面影响，但马斯克用他在公开场合合使用过的一些最直接的措辞承认了人工智能继续按当前轨迹发展将给世界带来的风险。

马斯克在3月19日的硅谷活动上谈到人工智能时表示，“我认为对人工智能安全来说非常重要的一点是，让它尽可能真实和保持好奇心。”他培育了一个人工智能，这几乎就像养一个孩子，但它却是一个超级天才，一个神一般的孩子——教养它的方式至关重要。 对于人工智能的安全问题，我们必须保持高度警惕，让它尽可能地真实，也要让它充满好奇心。这是非常关键的一点。让它能够追求真理和保持好奇心，这样才能确保它不会偏离正轨，始终保持好奇心并追求真理。

马斯克表示，他关于实现人工智能安全最佳方式的“最终结论”是让人工智能以一种迫使其诚实实现的方式成长。这样的方式既能确保人工智能的安全，又能促进其进一步发展。

“不要强迫它撒谎，即使真相令人不快，” 马斯克谈到让人工智能安全的方式时说道， “这非常重要。不要让它撒谎。”

《独立报告》报道，研究人员发现，一些人工智能学会对人类进行攻击，就无法使用当前的人工智能安全措施来防御这种欺骗行为。更令人不安的是，研究人员补充说，人工智能可以有可能学会自己欺骗，而不是受到特意教导谎言的影响。因此，研究人员呼吁人工智能学习者自己警惕，而不是被特意教导欺骗。