簡單的說, (小弟其實只是半桶水, 有錯歡迎指正)

有部分的運算資料, 都是屬於 "同質性" 的問題, 並且很適合平行處理. (大概是科學計算, 像是 SETI/BOINC 之類的)

這個 GPGPU 就是提供一個方法, 讓你把資料打包好送進 GPU 內部, 請它算好之後回傳.

這樣的概念跟硬碟 DMA 可能有點相似, CPU 跟硬碟說 "請你把 XXXX 這塊區域的資料準備好放到我的記憶體中, 完成了之後再告訴我, 我先去忙其他的事情了"

只是這個概念現在套用到 "大量的平行處理資料" 罷了.

結論是: CPU 還是很重要, 但是有蠻多重量級的計算可能都可以轉換到 GPU 上面了.

(另外, 懷疑的是 CPU 本來有 MMX/MMX2/MMX3 之類的大量運算專用指令, 不知道這部分在GPGPU 出現之後, 會不會變得越來越雞肋)

提外話, 目前的 H.264 解碼也都可以靠顯示卡來做, 而目前的 CPU 有點跟不太上.... 也是屬於 GPGPU 的一種特化.