Vergewissern Sie sich, dass die Antwortlänge (Token) auf Maximum eingestellt ist. Dies wurde mit Pygmalion-7b-4bit-32g-GPTQ-Safetensors getestet und liefert die besten Ergebnisse mit diesem Modell, gpt sollte ebenfalls funktionieren.