元宇宙推出 Code Llama 70B：在 AI 编码领域挑战 OpenAI 的 GPT-4

Meta 近期发布了其最新的免费代码生成 AI 模型和编程工具 Code Llama 70B，将其定位为 AI 辅助编码领域中 OpenAI GPT-4 的挑战者。作为 Meta AI 编程工具包的最新成员，Code Llama 70B 基于 Llama 2 语言模型构建，拥有 700 亿参数，在规模和能力上均超越了其前代产品。

新版本在生成更长代码序列和增强调试能力方面带来了显著改进。它允许开发者通过在提示中处理更多上下文来执行更复杂的查询，从而提高代码生成的准确性。

Code Llama 70B 处理更多上下文的能力意味着开发者可以在编程期间在单个提示中提供更详细的指令或更大的代码片段，从而可能提高生成代码的准确性。

Code Llama 70B 表现出卓越的性能，在 HumanEval 基准测试中取得了 53% 的准确率。这一分数超过了 GPT-3.5 (48.1%)，并显著缩小了与 GPT-4 在同一基准测试中报告的 67% 准确率之间的差距。

HumanEval 基准测试是一个手工编写的数据集，包含 164 个编程问题。每个问题包括函数签名、文档字符串、主体和几个单元测试，平均每个问题 7.7 个测试。该基准测试旨在评估生成代码的功能正确性，重点是模型是否可以有效且准确地解决编程挑战，而不仅仅是文本相似性。这代表着在通过评估 AI 模型的问题解决能力来增强人类能力并创新高效地解决问题方面迈出了重要一步。HumanEval 基准测试已成为评估大型语言模型在代码生成任务中性能的宝贵工具。

根据统计数据和性能测试，与 Code Llama 模型相比，GPT-4 在编码任务中通常表现出更高的整体性能。GPT-4 也比 Llama 系列更通用，能够处理更广泛的任务，例如生成创意文本格式、翻译语言、回答问题，甚至处理图像输入（多模态），而 Code Llama 70B 并非为此而设计。

然而，Code Llama 模型在代码补全和生成等特定任务中表现出色，并且至关重要的是，Code Llama 70B 在 Meta 的许可条款下可免费用于研究和商业用途。这种开放性可以促进开发者更快的采用，并允许社区驱动的改进。

因此，尽管 GPT-4 可能在整体编码性能和通用性方面领先，但 Meta 的 Code Llama 70B 代表了 AI 编码竞赛中的一个重大进步，以具有竞争力和公开可访问的替代方案提供了先进的代码生成能力。

Code Llama 70B 和 GPT-4 之间的主要区别

• 1. 性能和通用性：
  • GPT-4 在编码基准测试中通常表现出更高的性能，并且更通用，能够处理更广泛的任务，包括创意文本生成、翻译、问题解答和图像输入处理。
  • Code Llama 70B 针对代码生成、补全和调试进行了高度专业化和优化，在这些特定领域取得了出色的性能。
• 2. 模型大小和参数：
  • Code Llama 70B 具有 700 亿个参数，比以前的 Code Llama 版本更大、功能更强。
  • GPT-4 是一个非常大的多模态模型，能够处理长文本输入（据报道超过 25,000 字）并接受图像作为输入。其确切的参数数量未公开，但据推测远大于 700 亿。
• 3. 成本和可访问性：
  • Code Llama 70B 在 Meta 提供的特定许可条款下可免费用于研究和商业用途。开源允许微调和潜在的更低运营成本。
  • GPT-4 是一个专有模型，主要通过付费 API（如 OpenAI 的 API 或 Microsoft Azure）访问，与潜在的自托管或使用 Code Llama 的优化版本相比，会产生更高的使用成本。