Приликом оснивања новоформираног Историјског одељења 1. марта 1945. године није постојао никакав архивски материјал за устројавање архива. Тежиште рада је било на прикупљању архивске грађе и то прво јединица НОВ и ПОЈ, затим непријатељских формација 1941-1945. године, која је углавном, била заплењена и налазила се код војних јединица или других установа. а настојало се да се прикупи и војна архива која је настала до 1940. године.
Генералштаб ЈА наредио је 26.марта 1945. године свим штабовима, јединицама и позадинским војним властима да прикупе и пошању Историјском одељењу сву ратну архиву и сву документацију која би могла послужити за обраду ратне војне историје. Прикупљање архивске грађе непријатељских и квислиншких јединица у Другом светском рату вршено је паралелно са прикупљањем грађе из јединица НОВ и ПОЈ. Грађа непријатељских формација 1941-1945. године углавном је била заплењена и налазила се код војних јединица или других установа.
После Другог светског рата Војни архив је располагао с неколико вагона прикупљене архивске грађе и тежиште је стављено на сређивању исте. Није било довољно радне снаге и стручног кадра, па се учило кроз праксу и на искуствима других архивских установа у Београду. За рад на сређивању ангажован је велики број хонорарних службеника, углавном пензионисаних официра Војске Краљевине Југославије. У првој фази рада била је извршена систематизација и класификација целокупне архивске грађе. Архивска грађа подељена је на три групе: архиву војске Краљевине Србије и војске Краљевине Југославије, архиву Народноослободилачке војске и партизанских одреда и архиву окупаторских и квислиншких јединица из периода Другог светског рата.
Прво се сређивала архива Народноослободилачке војске, затим архива непријатељских и квислиншких јединица и најзад архива српске војске до 1920. године. Архива Војске Краљевине Југославије у то време није сређивана.