18 сентября 1941 года приказом № 308 Народного комиссара обороны СССР Иосифа Сталина за мужество и героизм в боях под Ельней в гвардейские были преобразованы четыре стрелковые дивизии. Так было положено начало советской гвардии.

Первыми гвардейскими соединениями в Красной Армии стали четыре дивизии Западного фронта, участвовавшие в Ельнинской наступательной операции: 100-я, 127-я, 153-я и 161-я. Каждая из них успела к тому времени пройти немалый боевой путь, и каждая с боями потом дошла до Победы.

Чтобы подчеркнуть статус гвардейских дивизий, их награждали знаменем и знаками отличия. В апреле 1942 г. художник Дмитриев за шесть дней разработал несколько вариантов нагрудного знака. В мае 1942 года знак был официально учреждён Указом Президиума Верховного Совета СССР «О введении для военнослужащих гвардейских частей и соединений Красной Армии и Военно-Морского Флота гвардейских военных званий». С этого момента он помещался на знаменах гвардейских армий или корпусов.

К концу войны насчитывалось 124 только гвардейских стрелковых дивизий. Также, во всех видах и родах войск были еще 17 гвардейских армий, 83 гвардейских корпуса, 108 гвардейских дивизий и 1793 гвардейских полка, а также 34 корабля, заслуживших звание гвардейских.