Если в двух словах то Sony Vegas + Microsoft Windows Media Video 9 =
Я обычно выставляю настройки кодека так:
Video rendering quality - Good;
Audio: CBR, Windows media Audio 9.1, 128 kbps, 44 khz, 2 channel 24 bit;
Video: Quality VBR;
Format: Windows Media 9;
Image Size: Custom;
Width: 640, Height: 480 - (Такого разрешения как по мне достаточно для ролика. Больше разрешение - больше размер файла);
Frame rate 25.000 PAL - (Опять таки чем больше частота кадров - тем больше размер конечного файла. Обычно ставят другие значения чтобы небыло проблем при просмотре на теликах и т.д.);
Quality 61% - (aka битрейт)