Responsive image

柳下瑜 - 2024-03-30 09:28 [GF]
是不是用中文的角色卡只能用克劳德?
我用DISCord群里的角色卡(都是中文信息)用本地部署的7g显存模型,13g内存模型跑,输出的都是角色信息。然后用国外老哥的英文角色卡,是可以瑟瑟的。


好大只怪兽 - 2024-03-30 09:30 [B1F]
现在本地大模型都是英文的,你想跑你就把卡翻译成英语就好了

顺便问一下内存跑7b快吗


柳下瑜 - 2024-03-30 10:26 [B2F]
我8g显存跑7g模型,速度还行,32g内存可以跑13g的gguf文本质量要好一些,但是速度就上不去了


海螺波 - 2024-03-31 03:41 [B3F]
有什么合适的本地模型么,至少能比得上GPT3.5的有没有。。。


告之水之 - 2024-04-02 22:10 [B4F]
谢谢分享






桌面版


Powered by SP Project v1.0 © 2010-2019
Time 0.001049 second(s),query:3 Gzip enabled


Top