a5.gif

柳下瑜

GF  2024-03-30 09:28

是不是用中文的角色卡只能用克劳德?

是不是用中文的角色卡只能用克劳德?
我用DISCord群里的角色卡(都是中文信息)用本地部署的7g显存模型,13g内存模型跑,输出的都是角色信息。然后用国外老哥的英文角色卡,是可以瑟瑟的。

a5.gif

柳下瑜

B1F  2024-03-30 10:26

回 1楼(好大只怪兽) 的帖子

我8g显存跑7g模型,速度还行,32g内存可以跑13g的gguf文本质量要好一些,但是速度就上不去了