本帖最后由 15267158147 于 2024-3-10 11:23 编辑 大是因为里面模型大,21G的大模型,14G的大模型,这模型你下了才知道有多折磨人,我帮你们下完了,就能直接用 |
本帖最后由 15267158147 于 2024-3-14 09:24 编辑 ; P' f# C- j$ q" r! s6 G(欢迎访问老王论坛:laowang.vip) 如果你的模型加载不出来,你可以看看左上角你的什么比较大,内存,显存还是gpu,然后你可以找到配置,找到模型参数的strategy选择不同的内存,显存还是gpu运行方式,然后点击转换,就可以转换成你可以用的模型,然后点击加载,等到加载完成,就可以对话,写小说了,如果以上方法都不能解决你的问题,那么可以去B站搜索akkv,有详细的教程 |
我看了一下,不能瑟瑟的原因可能是因为更新了版本,你们试试不要更新版本 |
15267158147 发表于 2024-3-10 17:55 这么强的攻击性啊?你那几个模型我都试了,都是16G吃满然后加载极其缓慢,我放在M2的固态都要加载十几分钟,加载完之后,聊天模型也有问题,回答速度也极其缓慢8 x( e$ M0 _5 s* o; V5 b(欢迎访问老王论坛:laowang.vip) |
15267158147 发表于 2024-3-10 18:25) C" v2 T' y# h6 G4 y7 U4 P# O(欢迎访问老王论坛:laowang.vip) 已经删了,解压完74G,太占地方了,5币就当支持你分享东西了 |
15267158147 发表于 2024-3-10 12:06$ K9 M1 N2 t6 u) [" @, o(欢迎访问老王论坛:laowang.vip) 能加载出来,就是慢点,Python窗口开始动了就好了,楼主我这步没问题吧?你下载好的我可以不读直接用吗?我在右上角模型栏不知道那个是14或者21的模型。 |
如果模型加载不出来,可以下载里面自带的小一点的模型 |
感谢分享,下着玩玩 |
咋破限啊,有点色色就被限制了 |
yeyumao01 发表于 2024-3-10 11:11- K2 V5 Y1 S: X; i4 @(欢迎访问老王论坛:laowang.vip) 等会儿,正在读模型,目前情况是,不吃gpu 不吃cpu 但是16g运存,两个ddr4的内存条直接拉爆,运存一直是拉满状态,这状态持续了10分钟左右了,如果是32或者64运存的可能会快点。目前是这样,还没读完, |
network error什么意思? |
qdss123 发表于 2024-6-5 00:09 一个启动器你要啥打开方式,双击算吗6 H8 L: I! K. L! d. z9 h1 i5 q(欢迎访问老王论坛:laowang.vip) |
打开方式是啥?我这一点打开全都是word,记事本啥的! |
罗天 发表于 2024-6-4 18:182 i& h' _+ E( ?(欢迎访问老王论坛:laowang.vip) 你不要更新,把不平等啥的那段话删掉,、重新生成几次就好了. r! v2 f( C l(欢迎访问老王论坛:laowang.vip) |
基本等于一秒一字,不过可以跑……谢谢大佬分享。但是一些拘束性的内容生成不了,说不平等…… |
568658203 发表于 2024-5-31 08:23" _% j. X0 y" `+ M: m% j0 |) J(欢迎访问老王论坛:laowang.vip) 我给你个夸克网盘链接,模型都在里面,你自己下一个https://pan.quark.cn/s/35e34bfa3be44 g; X: A7 n) e(欢迎访问老王论坛:laowang.vip) |
15267158147 发表于 2024-5-25 19:08 我这确实下不了,要不兄弟你帮我把所有要用到的组件全部下好,然后把完整的不用再安装东西可以直接用的直接度盘发给我,我可以开个500币的悬赏! t. j/ D) ?. G; e5 ?(欢迎访问老王论坛:laowang.vip) |
可以用,不过需要自己去下载懒人包,然后现在楼主链接里只有exe的运行端了,21G数据模型没了, |
568658203 发表于 2024-5-27 11:27 就是这样的,下的很慢,你过一会就要看一眼 |
15267158147 发表于 2024-5-27 10:03 我这不是慢,他是压根不开始下载 |
568658203 发表于 2024-5-27 09:37 那我没办法,慢点就慢点吧,本来我都下完的,可以直接用,有人说太大了,然后我内存也不够了,就给一个启动器了" P) M( e- v' _3 ~6 J9 a(欢迎访问老王论坛:laowang.vip) |
15267158147 发表于 2024-5-25 19:08 不行啊,开着VPN还是下不了,一直都是暂停的点开就自动关上了:dizzy: |
95933365 发表于 2024-4-14 21:445 y- j' @0 ~3 m& Z/ _6 {(欢迎访问老王论坛:laowang.vip) 同问。所有模型都下载就太大了0 T0 n# a5 |" x3 Q9 c' d9 T(欢迎访问老王论坛:laowang.vip) |
568658203 发表于 2024-5-25 13:00 可以下的,你要是有机场就比较快,因为这是国外的模型,会限流 |
可以用用,支持一下。 |
我这模型根本下不了啊? |
ccrpg 发表于 2024-5-23 23:34 你可以自己下 |
楼主怎么没有模型了呀,可以重新发一下吗 |
windman 发表于 2024-5-18 19:538 {6 _5 P0 A2 q5 O- U(欢迎访问老王论坛:laowang.vip) 可以的9 O+ s( h* C+ d6 N(欢迎访问老王论坛:laowang.vip) |
请问这个能离线运行吗? |
模型下载速度很慢是什么原因 千兆网1mb不到的速度。。 |