无图版
帮助
论坛首页
登录
注册
讨论区
搜索
社区服务
屏蔽配置
刷新黑名单
好奇模式
清空列表
管理列表
■
帖子 |
■
头像
社区论坛任务
用户名
UID
Email
认证码
点此显示验证码
热门版块:
茶馆
免空资源区
询问&求物
同人音声
网赚资源区
实用动画
Soulplus
Wind
用户中心首页
编辑个人资料
查看个人资料
好友列表
用户权限查看
积分管理
积分转换
特殊组购买
收藏夹
我的主题
基本统计信息
到访IP统计
管理团队
管理统计
在线统计
会员排行
版块排行
帖子排行
个人首页
我的收藏
好友近况
南+ South Plus
AI交流 (beta)
“一个很不错的大模型”在线体验版
漫区特设
Comic Market 103
Comic Market 102
サンクリ
Comic1☆
其他同人志
一般漫画
例大祭&紅楼夢
汉化本发布
旧物仓库
蜜柑计划
- 蜜柑计划 - Mikan Project
综合交流
ACG交流
轻小说
原创绘画
原创小说区
询问&求物
茶馆
AI交流 (beta)
免空资源区
网赚资源区
人民囧府
事务受理
上一主题
下一主题
新 帖
|
浏览器收藏
|
打印
2f8f17bd
作者资料
发送短消息
加为好友
UID:
839964
精华:
0
发帖:
269
HP:
0 点
SP币:
1968 G
昵称:
在线时间: 322(小时)
注册时间:
2017-08-15
最后登录:
2024-04-22
GF
2023-11-13 00:54
只看GF
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
“一个很不错的大模型”在线体验版
之前提到一个很不错的大模型 CausalLM,使用了Qwen的权重。
前情提要:
https://bbs.south-plus.net/read.php?tid-1991209.html
我是64G内存的笔记本,带一个核显,所以有32G的共享显存,慢点也能加载。
很多人运行不起来估计是台式机或者屏蔽了核显。
我粗略凑了两个在线的。
一个是API版,使用7B-GGUF模型,运行在Kaggle的CPU上,请自备一个支持OpenAI接口格式的客户端;
另一个是webui版,使用13B-GPTQ模型,运行在Colab上,开箱即用,但一次运行要7-8分钟。
具体说明我写在页面里了。
因为环境和依赖问题很麻烦,不保证所有人能跑起来,也不保证未来能正常
如果有问题的话……我估计也解决不了,单纯给各位参考下吧
脚本和 demo:
此帖售价 0 SP币,已有 504 人购买
若发现会员采用欺骗的方法获取财富,请立刻举报,我们会对会员处以2-N倍的罚金,严重者封掉ID!
顶端
回复
引用
分享
named
作者资料
发送短消息
加为好友
UID:
271418
精华:
0
发帖:
1336
HP:
0 点
SP币:
1486 G
昵称: named
在线时间: 583(小时)
注册时间:
2013-08-05
最后登录:
2024-05-02
B1F
2023-11-13 01:19
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
周末了试试看
顶端
回复
引用
分享
wuya!
作者资料
发送短消息
加为好友
UID:
102453
精华:
0
发帖:
1400
HP:
0 点
SP币:
3238 G
昵称: wuya!
在线时间: 3286(小时)
注册时间:
2012-05-09
最后登录:
2024-05-02
B2F
2023-11-13 01:22
|
▼展开
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
顶端
回复
引用
分享
momoz
作者资料
发送短消息
加为好友
UID:
39742
精华:
0
发帖:
2146
HP:
0 点
SP币:
540 G
昵称: momoz
在线时间: 3213(小时)
注册时间:
2011-08-10
最后登录:
2024-05-02
B3F
2023-11-13 01:26
|
▼展开
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
顶端
回复
引用
分享
23b5fdcd
作者资料
发送短消息
加为好友
UID:
827513
精华:
0
发帖:
327
HP:
0 点
SP币:
6888 G
昵称:
在线时间: 1823(小时)
注册时间:
2017-07-25
最后登录:
2024-05-02
B4F
2023-11-13 02:10
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
GGUF版本我在本地会报错,不知道为什么……GPTQ就不会。
但是我只有8G显存,GPTQ只能跑7B的版本跑不了14B的版本……就很纠结
顶端
回复
引用
分享
那女孩对我说
作者资料
发送短消息
加为好友
UID:
1011264
精华:
0
发帖:
231
HP:
0 点
SP币:
302 G
昵称: 那女孩对我说
在线时间: 201(小时)
注册时间:
2018-08-01
最后登录:
2024-04-28
B5F
2023-12-04 03:45
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
等用台式试试
顶端
回复
引用
分享
dianzi
作者资料
发送短消息
加为好友
UID:
891752
精华:
0
发帖:
19
HP:
0 点
SP币:
80 G
昵称: dianzi
在线时间: 179(小时)
注册时间:
2017-12-26
最后登录:
2024-05-02
B6F
2023-12-04 09:46
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
留名,试试看~
顶端
回复
引用
分享
a46aceeb
作者资料
发送短消息
加为好友
UID:
1392058
精华:
0
发帖:
26
HP:
0 点
SP币:
1 G
昵称:
在线时间: 28(小时)
注册时间:
2021-02-25
最后登录:
2024-04-29
B7F
2023-12-04 11:06
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
目前还没到玩模型的级别,留个爪印~~
顶端
回复
引用
分享
千影
作者资料
发送短消息
加为好友
UID:
180781
精华:
0
发帖:
474
HP:
0 点
SP币:
5480 G
昵称: 千影
在线时间: 418(小时)
注册时间:
2012-12-16
最后登录:
2024-05-01
B8F
2023-12-04 23:17
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
网站需要翻墙
顶端
回复
引用
分享
有机可塑性燃料167
作者资料
发送短消息
加为好友
UID:
1413649
精华:
0
发帖:
50
HP:
0 点
SP币:
161 G
昵称: 有机可塑性燃料167
在线时间: 188(小时)
注册时间:
2021-05-29
最后登录:
2024-04-14
B9F
2023-12-05 16:44
只看该作者
|
屏蔽
屏蔽此人
屏蔽头像
|
小
中
大
插眼 以后学习一下
顶端
回复
引用
分享
上一主题
下一主题
南+ South Plus
AI交流 (beta)
[-- 查看移动版 --]