请确保将响应长度(令牌)设置为最大值,这是用 Pygmalion-7b-4bit-32g-GPTQ-Safetensors 测试过的,使用该模型可以获得最佳响应,gpt 也应该可以。
@Dittin AI
2/7/2024,
还没有评论。请留下您的第一条评论。