Легко: подключаешь TV-out твоей видеокарты к видеовходу ВМ,
подключаешь выход звуковой карты (лучше линейный) ко входу аудио ВМ. включаешь запись на ВМ и запускаешь на проигрывателе на компе, то что хочешь записать (только желательно проигрыватель настроить на воспроизведения оверлеем).
Примерно так, лишь с теми нюансами, какие разъемы на ТВ карте и ВМ.