瀏覽單個文章
healthfirst.
Golden Member
 
healthfirst.的大頭照
 

加入日期: Apr 2017
您的住址: 陣亡者的靈堂
文章: 3,180
引用:
https://www.ptt.cc/bbs/Gossiping/M....3035.A.319.html

要做自己的chatGPT我是不反對,但是這些官員真的知道openAI光是訓練一個原始的版本
花了1200萬美元,這邊還只是訓練,不包含數據集的收集與清理,訓練完成一個1750億參
數量才是門檻,之後需要雇用大量標註工人來幫GPT-3.5這個模型減毒來完成chatGPT的整
套流程。

有興趣可以看看Times的報導,OpenAI當前是透過外包肯亞可能超過50000每小時只領2美
元的工人來處理數據跟幫助AI減毒減少偏見,即使是透過其他方式不用強化學習可能還是
需要大量的人類來從事勞動獲得一個堪用的模型,更不用論每次450萬美元的運算花費了。

花了這麼多錢
眾人合計超過5萬小時的訓練
這麼快就被變壞孩子囉?
__________________
舊 2023-02-16, 02:41 PM #4
回應時引用此文章
healthfirst.離線中