加载中...

地址发布 老王说明书 宣传中心

[转载搬运] 本地部署ai小说软件 [1+56][百度盘]

查看数: 39430 | 评论数: 131 | 收藏 1427
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2024-3-9 21:20

正文摘要:

本帖最后由 15267158147 于 2024-3-30 11:15 编辑 : M0 V- a0 m. f+ _3 U( M/ ^0 \! Y2 B+ S6 i2 c6 o; {* H(欢迎访问老王论坛:laowang.vip) 我内存不够了,我给你们一个启动器,你们下载之后它可以自己下载配 ...

回复

15267158147 发表于 2024-3-10 11:21:47

大模型运行

本帖最后由 15267158147 于 2024-3-10 11:23 编辑
4 B6 N  ^% O- ^' m/ Z; d4 p
% R9 M7 `  A6 P3 ^( q& E. e大是因为里面模型大,21G的大模型,14G的大模型,这模型你下了才知道有多折磨人,我帮你们下完了,就能直接用
15267158147 发表于 2024-3-10 12:11:46

解决不能使用的办法

本帖最后由 15267158147 于 2024-3-14 09:24 编辑 ; P' f# C- j$ q" r! s6 G(欢迎访问老王论坛:laowang.vip)

$ H  u# z/ h/ L* ?+ T4 `, O0 q2 S如果你的模型加载不出来,你可以看看左上角你的什么比较大,内存,显存还是gpu,然后你可以找到配置,找到模型参数的strategy选择不同的内存,显存还是gpu运行方式,然后点击转换,就可以转换成你可以用的模型,然后点击加载,等到加载完成,就可以对话,写小说了,如果以上方法都不能解决你的问题,那么可以去B站搜索akkv,有详细的教程
15267158147 发表于 2024-3-29 16:52:50
我看了一下,不能瑟瑟的原因可能是因为更新了版本,你们试试不要更新版本
qi79361439 发表于 2024-3-10 18:20:35
15267158147 发表于 2024-3-10 17:55
* v$ {( @6 i! Y1 E你不带脑子怪谁,我都教你怎么降低内存使用了,再说里面还有小模型,你不会看吗
2 `+ [" T& e9 p/ x( F' B) \- H ...
" @5 d4 u! B* u: V(欢迎访问老王论坛:laowang.vip)
这么强的攻击性啊?你那几个模型我都试了,都是16G吃满然后加载极其缓慢,我放在M2的固态都要加载十几分钟,加载完之后,聊天模型也有问题,回答速度也极其缓慢8 x( e$ M0 _5 s* o; V5 b(欢迎访问老王论坛:laowang.vip)
qi79361439 发表于 2024-3-10 18:40:46
15267158147 发表于 2024-3-10 18:25) C" v2 T' y# h6 G4 y7 U4 P# O(欢迎访问老王论坛:laowang.vip)
你不适合这个,别玩了

6 L2 O$ t  j$ l" {已经删了,解压完74G,太占地方了,5币就当支持你分享东西了
wewewer 发表于 2024-3-10 12:12:33
15267158147 发表于 2024-3-10 12:06$ K9 M1 N2 t6 u) [" @, o(欢迎访问老王论坛:laowang.vip)
如果模型加载不出来,可以下载里面自带的小一点的模型

7 Z+ S- s/ A9 W3 S7 U! D. H8 I能加载出来,就是慢点,Python窗口开始动了就好了,楼主我这步没问题吧?你下载好的我可以不读直接用吗?我在右上角模型栏不知道那个是14或者21的模型。
15267158147 发表于 2024-3-10 12:06:12
如果模型加载不出来,可以下载里面自带的小一点的模型
qi79361439 发表于 2024-3-10 11:22:32
感谢分享,下着玩玩
jieyaofeng 发表于 2024-3-15 00:30:01
咋破限啊,有点色色就被限制了
1710433739575.jpg
wewewer 发表于 2024-3-10 12:00:46
yeyumao01 发表于 2024-3-10 11:11- K2 V5 Y1 S: X; i4 @(欢迎访问老王论坛:laowang.vip)
老哥,怎么说?
+ i4 f! g) i9 {/ x(欢迎访问老王论坛:laowang.vip)
等会儿,正在读模型,目前情况是,不吃gpu 不吃cpu 但是16g运存,两个ddr4的内存条直接拉爆,运存一直是拉满状态,这状态持续了10分钟左右了,如果是32或者64运存的可能会快点。目前是这样,还没读完,
ssq841006 发表于 2024-4-13 17:46:31
network error什么意思?
15267158147 发表于 5 天前
qdss123 发表于 2024-6-5 00:09
4 J) F3 K+ `4 Y, J9 a- ^" K) `7 Z5 G打开方式是啥?我这一点打开全都是word,记事本啥的!

/ z6 ~5 z3 @6 _* {  h8 K$ U2 \一个启动器你要啥打开方式,双击算吗6 H8 L: I! K. L! d. z9 h1 i5 q(欢迎访问老王论坛:laowang.vip)
qdss123 发表于 5 天前
打开方式是啥?我这一点打开全都是word,记事本啥的!
* T  O4 J* H5 {4 g+ k4 m
15267158147 发表于 6 天前
罗天 发表于 2024-6-4 18:182 i& h' _+ E( ?(欢迎访问老王论坛:laowang.vip)
基本等于一秒一字,不过可以跑……谢谢大佬分享。但是一些拘束性的内容生成不了,说不平等…… ...
* Z2 L8 I' }7 T4 y( p3 k2 A$ F+ r(欢迎访问老王论坛:laowang.vip)
你不要更新,把不平等啥的那段话删掉,、重新生成几次就好了. r! v2 f( C  l(欢迎访问老王论坛:laowang.vip)
罗天 发表于 6 天前
基本等于一秒一字,不过可以跑……谢谢大佬分享。但是一些拘束性的内容生成不了,说不平等……
15267158147 发表于 2024-5-31 18:00:01
568658203 发表于 2024-5-31 08:23" _% j. X0 y" `+ M: m% j0 |) J(欢迎访问老王论坛:laowang.vip)
我这确实下不了,要不兄弟你帮我把所有要用到的组件全部下好,然后把完整的不用再安装东西可以直接用的直 ...

. n2 K. ^  r1 m( k( ^: w我给你个夸克网盘链接,模型都在里面,你自己下一个https://pan.quark.cn/s/35e34bfa3be44 g; X: A7 n) e(欢迎访问老王论坛:laowang.vip)
568658203 发表于 2024-5-31 08:23:35
15267158147 发表于 2024-5-25 19:08
- F( K* u- D( g可以下的,你要是有机场就比较快,因为这是国外的模型,会限流
$ t2 Z7 f3 W8 a; A7 }(欢迎访问老王论坛:laowang.vip)
我这确实下不了,要不兄弟你帮我把所有要用到的组件全部下好,然后把完整的不用再安装东西可以直接用的直接度盘发给我,我可以开个500币的悬赏! t. j/ D) ?. G; e5 ?(欢迎访问老王论坛:laowang.vip)
s20201313 发表于 2024-5-28 10:44:22
可以用,不过需要自己去下载懒人包,然后现在楼主链接里只有exe的运行端了,21G数据模型没了,
15267158147 发表于 2024-5-27 19:02:46
568658203 发表于 2024-5-27 11:27
. e7 J7 n' k7 i+ m1 `5 k我这不是慢,他是压根不开始下载
# n% t! o( ?7 b/ W8 t4 @, e5 n2 Y(欢迎访问老王论坛:laowang.vip)
就是这样的,下的很慢,你过一会就要看一眼
( z4 H0 {7 @) y9 z4 Q
568658203 发表于 2024-5-27 11:27:58
15267158147 发表于 2024-5-27 10:03
  F2 D( c5 H2 c' w- v那我没办法,慢点就慢点吧,本来我都下完的,可以直接用,有人说太大了,然后我内存也不够了,就给一个启 ...
/ u/ B" P& G9 k( \1 O7 S" Z' O(欢迎访问老王论坛:laowang.vip)
我这不是慢,他是压根不开始下载
15267158147 发表于 2024-5-27 10:03:41
568658203 发表于 2024-5-27 09:37
- l' ?- ]( {9 i# ^不行啊,开着VPN还是下不了,一直都是暂停的点开就自动关上了:dizzy:

; ^3 Z8 g/ y1 d* g. d8 {' l% X那我没办法,慢点就慢点吧,本来我都下完的,可以直接用,有人说太大了,然后我内存也不够了,就给一个启动器了" P) M( e- v' _3 ~6 J9 a(欢迎访问老王论坛:laowang.vip)
568658203 发表于 2024-5-27 09:37:35
15267158147 发表于 2024-5-25 19:08
6 X2 }3 F0 d: C9 w可以下的,你要是有机场就比较快,因为这是国外的模型,会限流
- V, d& h% P# o(欢迎访问老王论坛:laowang.vip)
不行啊,开着VPN还是下不了,一直都是暂停的点开就自动关上了:dizzy:
9 t9 a1 p8 d4 |7 H* i  d0 _+ o
s20201313 发表于 2024-5-26 09:50:28
95933365 发表于 2024-4-14 21:445 y- j' @0 ~3 m& Z/ _6 {(欢迎访问老王论坛:laowang.vip)
大佬,我想问下可以色色的对话是用的那个模型啊
( ~* a7 ]" X3 U(欢迎访问老王论坛:laowang.vip)
同问。所有模型都下载就太大了0 T0 n# a5 |" x3 Q9 c' d9 T(欢迎访问老王论坛:laowang.vip)
15267158147 发表于 2024-5-25 19:08:46
568658203 发表于 2024-5-25 13:00
' `* w6 L1 d4 e% y! T% z: v9 g' m- Q我这模型根本下不了啊?
: t) k+ ?# m2 V(欢迎访问老王论坛:laowang.vip)
可以下的,你要是有机场就比较快,因为这是国外的模型,会限流
  j: l5 C$ i' ]( g6 `. [5 v" e
xq88 发表于 2024-5-25 16:32:45
可以用用,支持一下。
568658203 发表于 2024-5-25 13:00:05
我这模型根本下不了啊?
1000381636.jpg
15267158147 发表于 2024-5-24 08:27:46
ccrpg 发表于 2024-5-23 23:34
( d/ O, C% T/ j/ i/ k! p楼主怎么没有模型了呀,可以重新发一下吗

7 H0 z. Z; W3 ~你可以自己下
% w  F' J: q5 U. j- n
ccrpg 发表于 2024-5-23 23:34:45
楼主怎么没有模型了呀,可以重新发一下吗
15267158147 发表于 2024-5-23 11:04:17
windman 发表于 2024-5-18 19:538 {6 _5 P0 A2 q5 O- U(欢迎访问老王论坛:laowang.vip)
请问这个能离线运行吗?
- {, U' r+ `1 o6 v(欢迎访问老王论坛:laowang.vip)
可以的9 O+ s( h* C+ d6 N(欢迎访问老王论坛:laowang.vip)
windman 发表于 2024-5-18 19:53:16
请问这个能离线运行吗?
zeroxc 发表于 2024-5-3 19:15:59
模型下载速度很慢是什么原因 千兆网1mb不到的速度。。

我们不生产资源,只做资源的搬运工。

tags标签-春满四合院-AvGood-Archiver-小黑屋- |网站地图