2024年组一台256GB内存的电脑怎么充分利用?
5510 120
[62 楼] Trompette [泡菜]
24-4-13 19:45
alchen 发表于 2024-04-13 17:56
800买p40确实赚了,内存够大很多模型都可以来实践,自己训练慢了点也不是不能接受的。1080ti和p40最大问题fp16。单比fp32,p40肯定赚。
我有1块1080和两块p40,但依然对3090和4090流哈喇子。


FP32 (P40 和 2080Ti 性能差不多)主要用在照片处理和神经网络训练
FP16,INT8 (P40没有张量核,比2080Ti 差很多)多用在推理

集显搭配 P40 性价比确实无敌
[61 楼] alchen [老坛泡菜]
24-4-13 17:56
ChK 发表于 2024-04-13 16:26
特斯拉P40 24GB显存,相当于1080TI的算力,比1080TI还便宜,我买的时候才800多,买不了吃亏,买不了上当,我用来跑那些开源的大语言模型,作为学习是完全可用的,甚至做低端生产力工具也可以。没必要一开口就4090啊。
做各种YOLO UN...

800买p40确实赚了,内存够大很多模型都可以来实践,自己训练慢了点也不是不能接受的。1080ti和p40最大问题fp16。单比fp32,p40肯定赚。
我有1块1080和两块p40,但依然对3090和4090流哈喇子。
[60 楼] ChK [陈年泡菜]
24-4-13 16:26
alchen 发表于 2024-04-13 15:05
如果你想自己实践一些个AI方面的东西,3090或4090有必要,哪怕只是拿别人的模型来用。当然如果只是自己打游戏用不到这样的gpu,常规的图片处理甚至视频处理都不需要太好的gpu,office这些个应用软件更没有必要。
目前的问题是到底多大的模型会被...
特斯拉P40 24GB显存,相当于1080TI的算力,比1080TI还便宜,我买的时候才800多,买不了吃亏,买不了上当,我用来跑那些开源的大语言模型,作为学习是完全可用的,甚至做低端生产力工具也可以。没必要一开口就4090啊。
做各种YOLO UNET之类的训练也是可以的,关键是显存大,可以用大的batch size参数,比那些算力更高但只有一半显存的显卡好用多了。
至于超过24GB的显存,短期内也不是个人玩票的方向,真有需求那也会有资金支持了。
[59 楼] duoduobear [Canon论坛版主]
24-4-13 16:03
shpng 发表于 2024-04-13 15:28
老问题了
服务器线程多尔频率低,不适合桌面应用,功耗高
估计主频不到2.5Ghz
笔记本轻松到4以上吧

Xeon E5-1650 V4是一个单路老处理器,主频3.6Hz。140W
[58 楼] shpng [泡菜]
24-4-13 15:28
老问题了
服务器线程多尔频率低,不适合桌面应用,功耗高
估计主频不到2.5Ghz
笔记本轻松到4以上吧
[57 楼] alchen [老坛泡菜]
24-4-13 15:05
duoduobear 发表于 2024-04-13 00:49
实测发现我目前的确用不到大容量内存---------内存占用率通常只有百分之几。
使用内存虚拟磁盘对我做的任务性能也改善不多。可能是SSD已经足够快了。内存虚拟磁盘看不出明显性能优势。
在做一些CUDA运算时,目前瓶颈在GPU。
所以目前降级到24G...

如果你想自己实践一些个AI方面的东西,3090或4090有必要,哪怕只是拿别人的模型来用。当然如果只是自己打游戏用不到这样的gpu,常规的图片处理甚至视频处理都不需要太好的gpu,office这些个应用软件更没有必要。
目前的问题是到底多大的模型会被放到pc上来本地运行?这个问题决定了需要多大的内存,如果现在买24G内存的gpu(3090或者4090),将来的模型需要128G或256G那不就亏大了。

[56 楼] duoduobear [Canon论坛版主]
24-4-13 00:49
alchen 发表于 2024-04-08 08:39
列出你的常用软件,每个软件的运行有操作系统级cpu和内存的要求,按照软件希望的最高内存配置,再翻个倍应该是合适的。

实测发现我目前的确用不到大容量内存---------内存占用率通常只有百分之几。
使用内存虚拟磁盘对我做的任务性能也改善不多。可能是SSD已经足够快了。内存虚拟磁盘看不出明显性能优势。
在做一些CUDA运算时,目前瓶颈在GPU。
所以目前降级到24GB内存了。
[55 楼] duoduobear [Canon论坛版主]
24-4-12 13:40
unix 发表于 2024-04-08 09:24
装虚拟机用内存比较多,docker用的少。
经常用分配了8G内存的win10虚拟机,一般应用也没问题,比之前3G内存的32位win7虚拟机好用很多。

虚拟机我用得比较多。Docker还不熟悉。这两天又用上Conda了,发现Conda好像就能满足我目前的需求了。Conda和Docker是不是二选一就可以了?

Hyper-V虚拟机的一个好处就是可以虚机和实机切换,vhd虚拟硬盘可以在磁盘管理器里加载,然后把它里面的Windows加载到启动项目里。这样再开机就进入这个虚拟机转换出来的实体机了。而不需要用它的时候,它就是硬盘上一个vhd文件。
[54 楼] unix [老坛泡菜]
24-4-8 09:24
装虚拟机用内存比较多,docker用的少。
经常用分配了8G内存的win10虚拟机,一般应用也没问题,比之前3G内存的32位win7虚拟机好用很多。
[53 楼] chncwk [泡菜]
24-4-8 08:47
搞个128G做RAM虚拟盘,那不爽歪歪。
[52 楼] alchen [老坛泡菜]
24-4-8 08:39
duoduobear 发表于 2024-04-07 23:42
说32G-64G内存,这有啥依据吗?

列出你的常用软件,每个软件的运行有操作系统级cpu和内存的要求,按照软件希望的最高内存配置,再翻个倍应该是合适的。


alchen 编辑于 2024-04-08 08:43
[51 楼] duoduobear [Canon论坛版主]
24-4-7 23:42
alchen 发表于 2024-04-07 16:57
这个配置匹配32G-64G内存比较合适,多了无意义。

说32G-64G内存,这有啥依据吗?
[50 楼] alchen [老坛泡菜]
24-4-7 16:57
duoduobear 发表于 2024-03-26 22:54
我的配置低多了。CPU是2016年的。显卡现在用的是无风扇的。现在异构计算已经实用化了,需要配一个GPU性能更好的显卡。SSD目前是256GB PCIE的。以后也添置一些3.5,2.5寸磁盘。这台机器可以加三个3.5/2.5寸盘。主板上没有M.2 S...

这个配置匹配32G-64G内存比较合适,多了无意义。

[49 楼] 穿越周期的蜗牛 [泡菜]
24-4-6 21:58
人一定要控制欲望

我3G内存也用了这么多年
[48 楼] duoduobear [Canon论坛版主]
24-4-6 15:46
已经降级到192GB内存了。256GB内存真没啥用。希望能继续降级。
[47 楼] ss10 [老坛泡菜]
24-3-27 20:48
刚刚baidu的。看来前一篇错误。不是2级字库驻留硬盘。/2参数是一、二级字库加载到内存。
[46 楼] ss10 [老坛泡菜]
24-3-27 20:38
nikonbeta 发表于 2024-03-27 16:47
把字库加载到内存?也可以在内存中虚拟出C盘,2M的内存够大的了。
如果不加这个,翻页时是一行一行滚动的。
下图的文字不知道有没有错误。我当时理解,加上/2,是把一级字库的6000多字常驻内存。不知道理解的对不对。

ss10 编辑于 2024-03-27 20:40
[45 楼] Trompette [泡菜]
24-3-27 18:01
duoduobear 发表于 2024-03-26 22:54
我的配置低多了。CPU是2016年的。显卡现在用的是无风扇的。现在异构计算已经实用化了,需要配一个GPU性能更好的显卡。SSD目前是256GB PCIE的。以后也添置一些3.5,2.5寸磁盘。这台机器可以加三个3.5/2.5寸盘。主板上没有M.2 S...

E5-1650 v4 的绝对性能还不错,凑合用没问题。专门投资升 256G 感觉不值
[44 楼] 色色熊 [泡菜]
24-3-27 17:04
CPU会成木桶的短板,光加内存也没啥用。
我现在回帖正在用着一个2010年的笔记本,通过加SSD和进行磁盘缓存,基本上把IO的瓶颈解决了,但CPU是二代i5,这问题解决不了,稍微上点计算性的应用就显露出来了,比如尼康的捕影工匠。
楼主可以加一个好显卡,然后玩玩AI什么的,估计大内存就有用了。
[43 楼] nikonbeta [泡菜]
24-3-27 16:47
ss10 发表于 2024-03-26 11:45
DEVICE=C:\DOS\HIMEM.SYS
DEVICE=C:\DOS\EMM386.EXE RAM
百度后才想起来这两个文件。
早先,用金山wps(2.0?)很慢。把字库加载到内存,这时候编辑爽多了,但不能打印了。打印的时候要重启不加载。

把字库加载到内存?也可以在内存中虚拟出C盘,2M的内存够大的了。
[42 楼] pingxh [泡菜]
24-3-27 08:16
ss10 发表于 2024-03-26 11:45
DEVICE=C:\DOS\HIMEM.SYS
DEVICE=C:\DOS\EMM386.EXE RAM
百度后才想起来这两个文件。
早先,用金山wps(2.0?)很慢。把字库加载到内存,这时候编辑爽多了,但不能打印了。打印的时候要重启不加载。
最少还得加载一个鼠标驱动。
[41 楼] 无心语123 [资深泡菜]
24-3-27 00:19
自己都不知道这么大内存干什么。要我说,把128G内存换成人民币,一把火点了,拍张照片放到Wj论坛上,这才显得豪气
[40 楼] duoduobear [Canon论坛版主]
24-3-26 22:54
Trompette 发表于 2024-03-25 20:59
楼主说的电脑具体什么配置呢?
Thinkstation P620 准系统(含线撕 5945wx)
海力士 REG DDR4 3200 64G x4
魔改 2080Ti x3
------------------ 现在加一起只比一张 4090 稍贵一点


我的配置低多了。CPU是2016年的。显卡现在用的是无风扇的。现在异构计算已经实用化了,需要配一个GPU性能更好的显卡。SSD目前是256GB PCIE的。以后也添置一些3.5,2.5寸磁盘。这台机器可以加三个3.5/2.5寸盘。主板上没有M.2 SSD插槽。

[39 楼] ss10 [老坛泡菜]
24-3-26 11:45
DEVICE=C:\DOS\HIMEM.SYS
DEVICE=C:\DOS\EMM386.EXE RAM

百度后才想起来这两个文件。
早先,用金山wps(2.0?)很慢。把字库加载到内存,这时候编辑爽多了,但不能打印了。打印的时候要重启不加载。
[38 楼] Trompette [泡菜]
24-3-25 20:59
楼主说的电脑具体什么配置呢?

Thinkstation P620 准系统(含线撕 5945wx)
海力士 REG DDR4 3200 64G x4
魔改 2080Ti x3
------------------ 现在加一起只比一张 4090 稍贵一点
[37 楼] butterflyam [资深泡菜]
24-3-25 10:31
还在用8G内存
[36 楼] 日落东山 [泡菜]
24-3-24 23:57
allseasons 发表于 2024-03-21 18:44
这个是有可能的。
十年前联想出的小红帽键盘的驱动,当时是用的WIN7,从开机起,这个驱动就开始占用越来越多的内存,直到占完,机器几乎不能用。
然后我就去联想官网去查,发现在那之前几年就有人提出这个问题,却没有答复。
没有办法,就一直不装驱动。键盘和鼠...
128Gb不应该这样,把lightroom安装在系统盘之外的其它盘,在lightroom首选项设置中-性能-菜单的Camera Raw缓存设置暂存文件夹改在系统盘之外的其它盘建个文件夹(随便起个名字,默认安装是在系统C:\Users\Administrator\AppData\Local\Adobe\CameraRaw\Cache2),容量大小选择大一点。出现卡顿,不一定是内存,有可能C盘变红给灌满了,,,,
[35 楼] Trompette [泡菜]
24-3-23 12:51
pingxh 发表于 2024-03-23 11:15
我估摸着得专门为它写操作系统。

哎,这算我们瞧不起别人的自嗨文化嘛

Windows 7 专业版支持 192G,Windows 10 专业版 2T 起(微软:你们的 U呢?板呢?)
[34 楼] pingxh [泡菜]
24-3-23 11:15
walkman20 发表于 2024-03-21 13:46
也就服务器搞这么大硬盘,跑虚拟机。
我估摸着得专门为它写操作系统。
[33 楼] pingxh [泡菜]
24-3-23 11:14
Tery 发表于 2024-03-21 13:42
为了用而用没啥意思,先要有需求
Lightroom 64G内存已经跑得很欢了,家用足够

64G都奢侈了吧,32G足矣。