C'est très imprudent d'installer en bloc un pack de codec.
Ils comportent souvent des petits logiciels parasites ou traceurs,
et la gestion provoque des conflits de codec.
Il est préférable de les installer un à un selon vos besoins,
en notant bien ce que vous faite de manière à être réversible.
De plus, si vous ouvrez déjà des h264 par ailleurs, il faut être prudent avec un nouveau h264.
Concernant Virtuadub, la réponse est ici, mais cause différents problèmes :
http://videodac.forumgratuit.fr/t3-h264-flash-flv-et-virtualdub