home sampling
View code on Github
ここでは、ロジットの分布から最も可能性の高いトークンをサンプリングします。
これは、これらのサンプリング手法を使用した実験です。
14import torch 15 16from labml_nn.sampling import Sampler
19class GreedySampler(Sampler):
ロジットの分布から最も可能性の高いトークンをサンプリングする
20 def __call__(self, logits: torch.Tensor):
24 return logits.argmax(dim=-1)