home neox

Github Twitter

View code on Github

#

GPT-neox

这是 Ele uther GPT-NEOX 的简单实现,用于推理和微调。

  • 型号定义
  • 分词器
  • 检查点下载和加载助手
  • 公共事业
  • llm.int8 () 量化

样品

  • 生成文本
  • 使用管道平行微调偏差
  • 使用 llm.int8 () 生成文本

评估

  • 在单个 GPU 上评估半精度模型
    • 正在评估 llm.int8 () 模型

    官方的 Eleuther GPT-NOEX 是源代码可在 eleutherai/gpt-neox 获得。

    labml.ai