這問題我也遇過

我遇到的是畫面嚴重方塊 (約佔 75~90%)
後來仔細研究設定後發現
抓取時 CPU 佔用率平均在 95% 以上時
此問題最容易出現
而且一出現就是 mpeg 幾乎只有刪除這一條路

有三個部分影響這種情況
1) Video Bitrate, 關聯: 硬碟寫入 & CPU & DiskCache
2) 水平動態偵測
3) 垂直動態偵測

這三個數值要衝高
以我這台 Celeron 900 來說
不管 mpeg-1 or mpeg-2

video bitrate 設 5000K, H: 2, V: 2, 640x480 抓取已達極限速率
但 video bitrate 設 3000K, H: 4, V: 4, 640x480 也是達到極限速率
同理設 8000K, H:0, V: 0, 640x480 也是達到極限
超過這樣設定, 錄出來的檔案就一定有方塊 (多半是綠色的)

結論
凡是軟體壓 mpeg-1 or mpeg-2 者
CPU & 硬碟速率影響抓取能耐