Golden Member
|
引用:
https://www.ptt.cc/bbs/Gossiping/M....3035.A.319.html
要做自己的chatGPT我是不反對,但是這些官員真的知道openAI光是訓練一個原始的版本
花了1200萬美元,這邊還只是訓練,不包含數據集的收集與清理,訓練完成一個1750億參
數量才是門檻,之後需要雇用大量標註工人來幫GPT-3.5這個模型減毒來完成chatGPT的整
套流程。
有興趣可以看看Times的報導,OpenAI當前是透過外包肯亞可能超過50000每小時只領2美
元的工人來處理數據跟幫助AI減毒減少偏見,即使是透過其他方式不用強化學習可能還是
需要大量的人類來從事勞動獲得一個堪用的模型,更不用論每次450萬美元的運算花費了。
|
花了這麼多錢
眾人合計超過5萬小時的訓練
這麼快就被變壞孩子囉? 
__________________
|