引用:
作者kzs
4系列開始就沒有SLI了,4070+3060怎疊加? A+N疊加?
這已突破我所知,能否說明下。
|
這不是 SLI 也跟 SLI 無關
現在比較流行的一個可以參考 pytorch
https://github.com/pytorch/pytorch
這就靠底層 library 實現的 CPU/GPU 協同加速
前面說的 Accelerate 就是 pytorch 的前端
簡化更多開發者需要在 pytorch 上的工作
而多 GPU 及記憶體疊加這功能大約 2021 的時候已經很多專案開始用了
沒這功能,很多 LLM 的訓練、量化、微調等工作
你只能買更多張 24GB 的顯卡或記租憶體更多的運算卡才能完成