炮兵作戰的效率， 不僅取決於火炮的性能， 還取決於火炮是如何編組的。 戰爭經驗表明， 光有火炮的數量是遠遠不夠的， 炮手的訓練水準和指揮協同都將會對炮兵作戰產生深遠影響。 在1942年11月衛國戰爭爆發時， 蘇聯紅軍裝備了超過59000門的各型火炮， 數量不可謂不多， 但這些火炮大多數是平均分配到每個步兵軍的。 歸屬炮兵司令部直接管轄的預備炮兵（總部炮兵）的數量僅占我軍炮兵總量的16%， 這完全不能在戰場上形成集中炮兵火力的態勢。
1943年5月， 蘇聯紅軍為了籌備庫爾斯克戰役， 對軍隊編制進行了大規模部隊整改，
蘇軍紅軍首先組建了突破炮兵師， 擁有7個炮兵旅， 火炮和迫擊炮的數量從248門增加到了356門。 包括各種口徑的加農炮、榴彈炮、迫擊炮以及火箭炮， 後來在突破炮兵師基礎上組建了炮兵兵團， 每個炮兵兵團下屬2個突破炮兵師和1個火箭炮師， 加起來共裝備1000門各種火炮。
到了1945年衛國戰爭勝利前， 蘇軍炮兵司令部共擁有31個突破炮兵師， 1個重型突破炮兵師， 2個加農炮師， 7個火箭炮兵師。
蘇聯紅軍還組建了裝備重榴彈炮的"大威力炮兵"旅， 每個旅配備24門203毫米榴彈炮， 同時還組建了重型加農炮兵師， 裝備大口徑加農炮。 蘇軍最高統帥部炮兵司令部直屬的各獨立迫擊炮團， 也合編為迫擊炮旅。
蘇聯紅軍在1943年的突破炮兵師由7個炮兵旅組成， 是當時世界上編制最大的炮兵單位：1個76毫米野戰炮旅（3個團， 72門火炮）， 1個榴彈炮旅（3個團， 84門122毫米榴彈炮）， 1個152重炮旅（4個營， 32門152毫米加榴炮）， 1個152加農炮旅（2個團， 36門152毫米加農炮）， 1個203榴彈炮旅（4個營， 24門203毫米重榴彈炮）， 1個120迫擊炮旅（3個團， 108門120毫米迫擊炮）。 總計356門火炮迫擊炮，
蘇聯紅軍炮兵司令部的總部直屬炮兵， 在戰爭中發揮了重要作用。 蘇聯紅軍炮兵第一次大規模炮擊是在1942年11月的斯大林格勒保衛戰， 紅軍佈置了17000門各型火炮。 1943年7月的庫爾斯克會戰中， 有20000門火炮用於打擊侵略者。 1943年解放列寧格勒， 紅軍幾乎將所有的炮兵部隊都集結了起來， 組成了3個炮兵兵團， 部署了21600門大炮。
在1945年1月5日開始的維斯瓦河戰役中， 蘇聯紅軍集結了39000門大炮， 紅軍的火炮密集程度到了空前未有的程度， 僅白俄羅斯第1方面軍第8軍在33公里寬的陣地上， 火炮的數量就達到了7600門， 每公里230門。 首次火力突擊在25分鐘內朝德軍陣地傾瀉了31.5萬發炮彈， 炮彈總重超過5000噸。
蘇聯紅軍的“大炮兵主義”稱號， 來自1945年4月的奧得河戰役，