作者野口隆史

其實這種性能測試是很奇怪的
就好像比載貨，你說法拉利速度比貨車快很多
請問你會改買法拉利來載貨嗎？

4090 強歸強，畢竟只有 24GB RAM
兩張也只有 48GB
根本連 LLAMA2 13B 最低硬體需求都無法滿足
APPLE M 系列反而從 M1 就能跑了

而且現在真的要用顯卡跑 AI
更多的是買兩張 3060 12GB x2
記憶體一樣也是 24GB
遠比單張 4090 要來的划算
速度也不會慢太多

而且真的要開發甚麼有能讓人驚豔的東西
更多都是租用 A100 以上等級的運算資源
都是放在遠端跑

除非你的東西有很高的安全性要求
不然真的要算 AI，靠 AI 吃飯的人
沒人在買 4090 算 AI