开放式AI对于实现超人类智能的重要性

开放式AI，一种持续进步的系统，现已触手可及。本文认为，此类系统对于实现超人类智能（ASI）至关重要。

作者通过新颖性和可学习性来定义开放性，提出AI应能产生新且相关的想法并适应环境。他们建议基于现有的、强大的基础模型构建这些系统，这些模型经过大量数据的训练。

目标是开发出不仅与人类智能相匹配，而且超越人类智能的AI，使其能够做出超越我们当前能力的新发现。然而，这也引发了重大的安全问题，因为普遍能力强大且自我改进的AI若管理不当，可能带来风险。

这项研究正成为AI发展中一个关键但潜在危险的领域。创新与安全之间的平衡将是关键。