引用:
|
作者CableK
地端ai是下一個熱點,畢竟正常的東西可以上雲,使用雲端算力.總是有些東西不方便不放心上去. 老美現在又來玩國家隊了. 之前被老美玩死的toshiba, zte, 還有台灣的via, htc
, 台gg跟發哥皮要繃緊一點啊,不能只指望台灣政府護盤
|
DGX Spark 發售兩天了
就目前網路上的評論(推特, reddit)來看
這東西不論推理還是訓練都很慢
DGX Spark 不適合推理
4000 美有更好的選擇
例如同價格的 m4 max
大部分時候推理性能都有四倍以上
DGX Spark 大部分時候只與 2000 美的 mac mini 差不多
q1~q8 性能都不敵 mac mini
只有 mxfp4 時可以稍微領先
跟 ai 395 128GB 相比
大部分時候性能差不多
最大福領先的測試項目只有 30%
然後 ai 395 128GB 只有 2000 美
目前網路上一堆無償得到 DGX Spark 的人都把它吹上天了
都說比 apple 的設備更好，但無例外都不敢跟同樣也是 4000 美的 m4 max 對比
有拿來跟 m4 max 對比的人全部都是自己花錢購買的人
還有人說 DGX Spark 重點不在推理，而是在訓練
卻不回應為什麼它會推理慢訓練快
但事實上 DGX Spark 的推理跟訓練都很慢
這個年代跟以前不一樣了
以前 adobe 全家桶跟其它影像處理軟體
你如果是靠這行吃飯，那 cuda 是必備
因為沒有 cuda 輕則速度極慢，重則不給跑
現在 AI 年代沒有這類問題
除了 cuda 之外的框架如 pytorch, tensorflow, mlx 等都很成熟
完全沒有以前 opencl 的那些問題
如果你可以在 DGX Spark 上訓練模型
完全可以在 ai395, m4 max 上訓練