تأكد من ضبط طول الاستجابة (الرموز) على الحد الأقصى، وقد تم اختبار ذلك مع Pygmalion-7b-4bit-42-32g-GPTQ-Safetensors، وهو يعطي أفضل النتائج مع هذا النموذج، ويجب أن تعمل gpt أيضًا.