雖然沒辦法完全回答你的問題...我還是把知道的寫一下好了.

Mux的話用Yamb這個mp4處理的軟體看看.
http://yamb.unite-video.com/

而要改善H.264的解碼速度的話.
你可以到Doom9找CoreAVC這個DSFilter.
儘管目前有些爭議存在....不過解碼時大約可以比FFDShow好約50%左右.
而且看Doom9的人似乎還會維護下去.