Meta发布开源AI模型Llama 3.1，训练规模空前。

Meta发布了Llama 3.1，这是其迄今为止最大的开源AI模型。该模型拥有高达4050亿个参数，与GPT-4和Claude 3.5 Sonnet等顶级专有模型竞争。Meta使用超过1.6万个英伟达H100 GPU对Llama 3.1进行了训练，这是一项巨大的硬件投资。

该模型在推理、数学和多语言翻译等任务中表现出色。它支持128K的上下文窗口，相当于一本50页的书，并提供多语言功能。Llama 3.1可与搜索API集成，并能执行生成图表Python代码等任务。

Meta强调该模型的开源性质，预测这将推动更广泛的行业采用。他们已与主要科技公司合作，以促进部署，并更新了许可条款，允许第三方进行模型开发。

尽管具有这些能力，Llama 3.1仍面临挑战，包括高昂的运营成本和对训练数据来源的质疑。Meta在AI开发中的透明度和合作承诺可能会重塑行业格局。