回应模式 - No.65564360


No.65564360 - 技术宅


无标题无名氏No.65564360 只看PO

2025-03-17(一)18:58:11 ID:De0sEHV 回应

手头翻出来几张telsa p40,能否组个经济实惠的多卡ai工作站,偏向娱乐折腾,跑跑大模型,搭个rag。不是很懂硬件,所以来请教一下。|-` )

无标题无名氏No.65564537

2025-03-17(一)19:11:28 ID: yeUJnot

https://zhuanlan.zhihu.com/p/654201447
我也不懂硬件,或许可以参考(`・ω・)

无标题无名氏No.65564717

2025-03-17(一)19:26:38 ID: De0sEHV (PO主)

>>No.65564537
感谢,但主要是想整个多卡,2卡或者4卡?我看还要整个nvlink?好复杂。

无标题无名氏No.65573084

2025-03-18(二)14:21:00 ID: Gs2SdhS

好像p40不支持nvlink。能组肯定能组,但可能只能有娱乐用途。另外只做rag不一定需要gpu,那个cpu可能都能算

无标题无名氏No.65573093

2025-03-18(二)14:21:56 ID: Gs2SdhS

reddit上有人两张p40跑70b模型差不多1.5t/s