打算免费体验一下现在这些ai应用,有办法么?
852 20
[1 楼] lhy02 [泡菜]
5-5 10:50
因为是体验,并无目的,并且可能今天想起来弄一下,明天就忘了。所以当然是免费,各种限制只要能满足体验,都不是事情。
虾我知道免费,所以想要的是背后的api免费。

另外除了虾和生成视频/ppt为代表的文档,还有什么比较通用的ai应用。
[21 楼] xmyyc [泡菜]
5-18 13:54
Trompette 发表于 2026-05-17 19:07
qwen3.6-35b-a3b IQ4 跑 200k 上下文,需要 24G 显存
如果想要还要并行,32G 5090 或 48G 4090 魔改都是很好的选择
64G + NPU 虽然内存够用,但算力又跟不上,勉强算学习机,干活差得远
多谢
[20 楼] xmyyc [泡菜]
5-18 13:53
色色熊 发表于 2026-05-17 17:35
我一向的观点是新电脑内存一定要大,当时的价格能抗得住就往大了配。我夫人用的电脑大约是九年或十年前买的,当时8GB内存主流,我直接给配到16GB,到现在用的好好的,丝毫不卡顿。
我的电脑是2024年10月买的,当时甚至现在32GB都是主流,我考虑修图要...

再谢
[19 楼] 闲聊状态 [泡菜]
5-18 13:25
色色熊 发表于 2026-05-17 17:35
我一向的观点是新电脑内存一定要大,当时的价格能抗得住就往大了配。我夫人用的电脑大约是九年或十年前买的,当时8GB内存主流,我直接给配到16GB,到现在用的好好的,丝毫不卡顿。
我的电脑是2024年10月买的,当时甚至现在32GB都是主流,我考虑修图要...

intel 可用llamacpp sync版本
32G内存 最大可跑20G左右的 moe 32B (780M是可以的,但是就别想运行啥别的软件了)

intel卡必须使用win24H2以后的版本才能稳定运行。。。。
闲聊状态 编辑于 2026-05-18 13:27
[18 楼] Trompette [泡菜]
5-17 19:07
xmyyc 发表于 2026-05-17 12:58
谢谢,我是在考虑买机器,看来64gb几乎是必须的

qwen3.6-35b-a3b IQ4 跑 200k 上下文,需要 24G 显存
如果想要还要并行,32G 5090 或 48G 4090 魔改都是很好的选择

64G + NPU 虽然内存够用,但算力又跟不上,勉强算学习机,干活差得远
[17 楼] 色色熊 [泡菜]
5-17 17:35
xmyyc 发表于 2026-05-17 12:58
谢谢,我是在考虑买机器,看来64gb几乎是必须的
我一向的观点是新电脑内存一定要大,当时的价格能抗得住就往大了配。我夫人用的电脑大约是九年或十年前买的,当时8GB内存主流,我直接给配到16GB,到现在用的好好的,丝毫不卡顿。
我的电脑是2024年10月买的,当时甚至现在32GB都是主流,我考虑修图要用PS,很吃内存,所以花了大钱配到64GB(超薄本不想自己开盖加内存,只能让商家宰了一笔),结果今年想玩儿模型了,发现很有优势。
当然现在内存太贵了,如果是台式机/迷你机这种自己开盖不难的,可以先缓缓,等降价再配上,但想要内存价格降下来估计要等两三年吧。

另外需要注意的是,intel核显,对于玩儿模型最常用的管理运行软件ollama来说,基本算不支持,ollama支持最好的是英伟达的N卡,CUDA体系。去年intel自己做了ollama的intel优化版,最新一版是去年※※月份的2.3.0版,我现在用的就是这个版本。由于这个优化版所基于的ollama原生版本太低,楼上建议的qwen3.6-35b-a3b是跑不了的,我跑的是qwen3-30b-a3b-q4量化版。
另外一个图形化的模型管理工具软件LM Studio可以支持qwen3.6-35b-a3b,我跑过一次发现不稳定,退到qwen3.5-35b-a3b。LM Studio虽然支持intel核显,但速度比较慢,我跑qwen3-30b-a3b-q4量化版大约在13token/s左右,比intel优化版ollama的18token/s慢了不少。

还有我认为,32GB内存的intel核显是跑不了qwen3.6-35b-a3b的,原因就是共享显存不够,我刚刚试了一下用LM Studio加载qwen3.5-35b-a3b-q4,共享显存占用23GB。
但我又听说,ultra系列CPU的2代(现在卖的基本都是,比如235H之类),共享显存可自己设定,但这只是听说,你需要向商家问问清楚。
[16 楼] xmyyc [泡菜]
5-17 12:59
liws 发表于 2026-05-17 08:58
试试这个
qwen3.6 35b a3b
满是慢点,能用

谢谢
[15 楼] xmyyc [泡菜]
5-17 12:58
色色熊 发表于 2026-05-16 22:26
32G内存,分出的共享显存大概只有16到18GB左右,装14B q4量化模型都装不下或勉强装进去一旦加载上下文就很容易爆,所以只能玩7到9b左右的q4量化模型。
硬要玩儿14b模型就只能部分装共享显存,部分放在内存,14b模型只有稠密模式,在核显下本...

谢谢,我是在考虑买机器,看来64gb几乎是必须的
[14 楼] liws [泡菜]
5-17 08:58
xmyyc 发表于 2026-05-16 17:49
intel 核显32G内存有什么好玩的模型吗?
试试这个
qwen3.6 35b a3b
满是慢点,能用
[13 楼] 色色熊 [泡菜]
5-16 22:26
xmyyc 发表于 2026-05-16 17:49
intel 核显32G内存有什么好玩的模型吗?
32G内存,分出的共享显存大概只有16到18GB左右,装14B q4量化模型都装不下或勉强装进去一旦加载上下文就很容易爆,所以只能玩7到9b左右的q4量化模型。
硬要玩儿14b模型就只能部分装共享显存,部分放在内存,14b模型只有稠密模式,在核显下本来就很慢,在我这儿最快也就6 token/s,再分层部署就更慢,另外kv缓存也只能放到内存里,不然妥妥的爆显存。
所以也就是7到9b的小模型感受一下吧,这么小权重的模型智商肯定不够(我对30B模型的智商都不满意),就是随便玩玩。

核显机器的内存大,共享显存就大,我的64GB内存intel核显驱动给划出了36GB共享显存,我就可以加载30B的moe稀疏模型,每次同时只跑三个专家(3B左右)会很快,速度可以到18token/s。
色色熊 编辑于 2026-05-16 22:26
[12 楼] xmyyc [泡菜]
5-16 17:49
色色熊 发表于 2026-05-12 22:32
如果你手头有一台带N卡(8GB显存就可以,显存越多当然越好)和不低于32GB内存的电脑,自己装一个本地开源模型(混合专家模式的),然后装只龙虾,就可以基于现有资源免费体验了,龙虾可以与本地模型接口。
玩龙虾最好在虚拟机里装,本地模型可以向虚拟机里的龙...

intel 核显32G内存有什么好玩的模型吗?
[11 楼] 色色熊 [泡菜]
5-12 22:32
如果你手头有一台带N卡(8GB显存就可以,显存越多当然越好)和不低于32GB内存的电脑,自己装一个本地开源模型(混合专家模式的),然后装只龙虾,就可以基于现有资源免费体验了,龙虾可以与本地模型接口。
玩龙虾最好在虚拟机里装,本地模型可以向虚拟机里的龙虾提供API服务。玩儿龙虾把自己电脑玩儿废了的也是有报道的,只是体验没必要把龙虾装在实体机上冒险。

没有N卡,有intel核显和64GB内存,也行,我就是这种资源在体验,当然我还没开始体验龙虾。
色色熊 编辑于 2026-05-12 22:37
[10 楼] lhy02 [泡菜]
5-8 10:17
另外ai视频有没有什么免费体验的?
现在见到的似乎都是归属于chat范围内的视频
[9 楼] lhy02 [泡菜]
5-8 10:16
闲聊状态 发表于 2026-05-07 08:22
api也免费?你要API啊
去硅基动力
有些8b 啥的模型是免费的,不过那些模型 你本地就是CPU 跑也不是很慢
像现在的glm   minimax啥的现在基本没免费的了,2个月前联通还是免费的,再有就是国家超算中心还有些免费体验的资源
不过Min...
就是见识一下虾的工作流程什么的,不是拿它做事。
[8 楼] 闲聊状态 [泡菜]
5-7 08:27
还有找一个有质谱code plan的朋友,问问他的好友邀请码还有没有,质谱的code plan都送一定量的7日Ai体验邀请码

而且我当年注册的时候 质谱也会送部分免费额度
闲聊状态 编辑于 2026-05-07 08:30
[7 楼] 闲聊状态 [泡菜]
5-7 08:22
lhy02 发表于 2026-05-06 12:30
你说的这两个除了聊天免费,其它也免费么,比如给虾提供api也免费么?

api也免费?你要API啊

去硅基动力
有些8b 啥的模型是免费的,不过那些模型 你本地就是CPU 跑也不是很慢

像现在的glm   minimax啥的现在基本没免费的了,2个月前联通还是免费的,再有就是国家超算中心还有些免费体验的资源

不过Minimax这种东西29 49的也不算贵了
[6 楼] 八大行星 [资深泡菜]
5-6 13:11
lhy02 发表于 2026-05-06 12:30
你说的这两个除了聊天免费,其它也免费么,比如给虾提供api也免费么?

所以你需要的是免费的AI API?
这个好像还真有。B站上去搜搜看看有没有人说这个。
[5 楼] lhy02 [泡菜]
5-6 12:30
八大行星 发表于 2026-05-06 12:17
你说的是什么AI应用?
国内不是都用豆包吗?
deepseek也行啊?
你说的这两个除了聊天免费,其它也免费么,比如给虾提供api也免费么?
[4 楼] 八大行星 [资深泡菜]
5-6 12:17
lhy02 发表于 2026-05-05 10:50
因为是体验,并无目的,并且可能今天想起来弄一下,明天就忘了。所以当然是免费,各种限制只要能满足体验,都不是事情。
虾我知道免费,所以想要的是背后的api免费。
另外除了虾和生成视频/ppt为代表的文档,还有什么比较通用的ai应用。

你说的是什么AI应用?

国内不是都用豆包吗?
deepseek也行啊?
[3 楼] lhy02 [泡菜]
5-5 18:49
huhuzz 发表于 2026-05-05 17:04
有一些限时免费的API吧,比如小米,但只能用它家的模型。
超算中心也有限时免费,只有国产模型,数量不多。
要想免费体验更多的模型,老黄家有,但是限速。
背后的模型是啥无所谓。
限速只要能体验就行
[2 楼] huhuzz [泡菜]
5-5 17:04
有一些限时免费的API吧,比如小米,但只能用它家的模型。
超算中心也有限时免费,只有国产模型,数量不多。
要想免费体验更多的模型,老黄家有,但是限速。
发布自 iOS客户端