PCDVD數位科技討論區 - 瀏覽單個文章 - 美國政府發表新出口管制措施　NVIDIA RTX 4090 顯示卡將不得輸入中國等地

引用:

作者野口隆史

如果你是要跑 LLM 的話不一定要換顯卡
用 CPU 跑也行
前幾天更新的 llamafile 增加了不少 CPU 推理性能
https://github.com/Mozilla-Ocho/llamafile

這次還支援 AVX512，讓 ZEN4 處理器性能提升了十倍

VRAM 本來就可以疊加
你甚至可以 AMD + NVIDIA 的顯卡疊加一起跑都沒問題

也有人因為要玩遊戲，它是 4070 + 3060 12G = 24GB
一樣也是 24GB

4系列開始就沒有SLI了，4070+3060怎疊加? A+N疊加?
這已突破我所知，能否說明下。