引用:
作者冰的啦魔王大人
你得先學會本地部屬, 跑過 70b 在說話吧? 他們是用本地部屬在測顯卡效能, 你是來插甚麼嘴呢? 用腦洞跑70b模型 ?
|
你跟我爭這些沒有意義,我只是要告訴你:
你說 雙4090 跑17 TOPS 根本就是不可能的,有基本概念的人就算眼瞎也不可能這麼寫。就像正常人不會說他家的狗有幾十噸重,太離譜了,別扯那些部署不部署的。轉移話題對我沒用,我確實不是AI相關的專家,但這不影響我看出你根本就亂打數據。
再來如果你是認真的,我可以借你機器給你跑,你上國網註冊個帳號,台灣衫2號有GPU的節點隨便一個都比你給的影片中的硬體配備還好,我上面買了幾十萬的SRU,他影片只用了幾個小時,我給你10倍的使用量沒問題。