Ансамбль основан в 1928 году композитором, дирижером, хормейстером и автором музыки гимна СССР Александром Александровым. Первый концерт коллектива состоялся 12 октября 1928 года, а спустя несколько недель он был зачислен в штат Центрального дома Красной армии. Его первое название — Ансамбль красноармейской песни ЦДКА. В 1935 году коллектив переименовали в Краснознаменный ансамбль красноармейской песни и пляски. В 1949 году ему было присвоено имя основателя, а руководить хором стал сын Александра Александрова Борис Александров, занимавший этот пост до 1987 года. Сейчас дважды Краснознаменным академическим ансамблем песни и пляски Российской армии им. А. В. Александрова руководит заслуженный деятель искусств Российской Федерации полковник Леонид Малев.