Jefs, me da la sensación de que no me has entendido. Ni el VLC, ni el Guimagenio transcodifican, por lo que el resultado será siempre en h.264, por mucho que el archivo lleve la extensión mpg. Por marcar en el gui la opción "mpeg2ps23mb/min" lo único que cambia es la forma de juntar el vídeo con el audio, nada más; lo que va por dentro, que es lo que cuenta, sigue siendo h.264, por eso ni tu reproductor, ni el mío, (dicho sea de paso

), lo cogen.
Como el resultado ya ves que no se reproduce en ningún aparato de sobremesa, (miento: seguro que hay alguno en el mercado que sí lo haría

), lo que toca después de grabar es tratar el archivo. Y para ello es mejor partir de un archivo en TS que en PS.
Un Gui es un programa que hace de interfaz con otro. En el caso del Gvimagenio, hace que el VLC sea más amigable, sobre todo a la hora de cambiar de canal, y le añade alguna función, por ejemplo la programación de grabaciones. Pero como sólo es un interfaz, no puede cambiar la forma de trabajar del VLC, por eso si marcas "mpeg2ps" en el Gui, el VLC graba con multiplexación en PS, pero no cambia la codificación de vídeo a mpeg2, la deja como llegue (h.264). Eso es algo que el VLC no puede hacer y, por tanto, el Gui tampoco.
Lo que sí se podría hacer es decirle al VLC que transcodifique la salida en mpeg2, aunque considero que es preferible tratar el vídeo con otros programas, simplemente por cuestiones de calidad.
Saludos...