Уверете се, че Дължината на отговора (токени) е зададена на максимална стойност Това беше тествано с Pygmalion-7b-4bit-32g-GPTQ-Safetensors и дава най-добри резултати с този модел, gpt също трябва да работи.