home neox

Github Twitter

View code on Github

#

GPT ネオックス

これは、推論と微調整のためのEleuther GPT-Neoxの簡単な実装です。

  • モデル定義
  • トークナイザー
  • チェックポイントのダウンロードと読み込みヘルパー
  • ユーティリティ
  • llm.int8 () 量子化

[サンプル]

  • テキストの生成
  • パイプラインパラレルによるバイアスの微調整
  • LLM.int8 () を使用してテキストを生成する

評価

  • 単一の GPU での半精度モデルの評価
  • LLM.int8 () モデルの評価中

Eleuther GPT-noexの公式ソースコードはeleutherai/gpt-neoxで入手できます。

Trending Research Papers labml.ai