Top-P Sampling
Top-P / Nucleus Sampling
Auch bekannt als:
Nucleus Sampling
Top-P Sampling begrenzt die Auswahl auf die wahrscheinlichsten nächsten Tokens.
Funktionsweise
- Tokens nach Wahrscheinlichkeit sortieren
- Nur Tokens waehlen bis kumulative P% erreicht
- Top-P=0.9 bedeutet: 90% wahrscheinlichste Tokens