Na wstępie zaznaczę, że nie używam ani IDM, ani AVS Video Editor, ani Movie Maker, więc będę strzelał trochę w ciemno, mając nadzieję, że ogarniasz chociaż trochę kodeki itp.
Najpierw sprawdź za pomocą MediaInfo pliki ściągnięte przed zmianą i zobacz jakie kodeki są w środku. Potem czy używasz najnowszej wersji IDM i czy w jego ustawieniach są zaznaczone wszystkie formaty (mp4, webm, flv, mkv, 3gp, ogv, mpg itd).
Twój problem może wynikać z powodu, że youtube przeszło na odtwarzacz html5 z flasha jako domyślny oraz że wprowadziło coś co się zwie DASH zwłaszcza dla wyższych jakości/rozdzielczości, czyli ogólnie streamuje wideo w kawałeczkach, co ułatwia automatyczne dostosowanie jakości/szybkości do Twojego łącza, ale utrudnia ściągnięcie filmu. Dlatego downloadery muszą, albo konwertować, albo scalać oddzielne strumienie audio i video. Co robi np. Twój IDM, ale dość dziwnie. Normalnie nie ma na youtube kontenera .mkv. Jest np. .mp4 z avc dla video i aac dla audio, czy webm z vp8/vp9 i vorbis. Zobacz, czy nie masz w nim opcji ściągania/konwersji do .mp4 i avc/h264 + aac (może też sprawdź, czy nie ma jakiej nowej wersji beta IDM-a, która topotrafi). Jest to chyba najlepsza opcja. Możliwe, że łączy on vp9 i aac ( a jest to dziwne połączenie), bo te streamy nie są pokawałkowane i pakuje je niby w .mkv, a tak naprawdę jest to .webm. Spróbuj ręcznie zmienić końcówkę z .mkv do .webm i zobaczyć, czy AVS Video Editor lub Movie Maker to rozpozna.
Jeśli AVS Video Editor, czy Movie Maker wykrywają kodeki/filtry directshow, to zobacz, co da zainstalowanie np. uniwersalnego, nieinwazyjnego LAV Filters. Najpierw sprawdź, czy nie masz już jakiegoś kodek packa (K-Lite itp). Chociaż jeśli już byś go miał, a one potrafiłyby go użyć, to rozpoznawałyby to video (dzięki np. splitterowi, który umożliwia zajrzenie do środka kontenera).
Co do html5 i vp8/vp9 (czyli googlowo/youtubowych kodeków), to wejdź tu: https://www.youtube.com/html5 . Spróbuj wyłączyć to z webm vp8 i webm vp9 (spytaj jak to zrobić wujka google zależnie od przeglądarki jakiej używasz). I zobacz jaki ma to wpływ na oglądanie youtube i jak się zachowa IDM - czy zacznie ściągać .mp4 lub konwertować do .mkv z avc/h264 i aac w środku. Chyba, że IDM ma wbudowaną jakąś swoją prostą przeglądarkę.
Albo najlepiej użyj dodatku do Firefoxa - Complete YouTube Saver: http://www.cys-audiovideodownloader.com/ .
Po instalacji poczytaj jeszcze to: http://www.cys-audiovideodownloader.com/Converter.html , potem dociągnij najnowszy ffmpeg stąd: http://ffmpeg.zeranoe.com/builds/ ,wypakuj na dysk do folderu np. ffmpeg pliki z katalogu bin, wejdź do menu dodatku, podłącz folder z ffmpeg, pozaznaczaj wszystkie potrzebne Ci formaty, kontenery, jakości/rozdzielczości i ściągaj .mp4, czy np. samo audio (np. mp3, czy aac), jeśli chcesz np. od razu muzykę.