欲張りサンプリング

ここでは、ロジットの分布から最も可能性の高いトークンをサンプリングします。

これは、これらのサンプリング手法を使用した実験です

14import torch
15
16from labml_nn.sampling import Sampler
19class GreedySampler(Sampler):

ロジットの分布から最も可能性の高いトークンをサンプリングする

20    def __call__(self, logits: torch.Tensor):
24        return logits.argmax(dim=-1)