В октябре 1941 года вторично призван в Красную Армию. На фронтах Великой Отечественной войны с августа 1942 года. Воевал на Сталинградском, Южном, 4-м Украинском и 3-м Белорусском фронтах. Участник Сталинградской битвы, освобождения Донбасса, прорыва "Миус-фронта", освобождения Крыма, Белорусской и Восточно-Прусской операций. Командовал орудием, несколько раз как один из лучших артиллеристов части командовал взводом и даже батареей. Командир орудия 550-го стрелкового полка 126-й стрелковой дивизии 43-й армии 3-го Белорусского фронта сержант Алексей Шубин совершил выдающийся подвиг во время штурма города-крепости Кёнигсберг (ныне Калининград) 6-9 апреля 1945 года. В ходе штурма города с северо-западного направления части 550-го полка прорвали внешний оборонительный обвод и вышли к форту №5. Исполняющий обязанности командира батареи Шубин вёл свои 45-мм орудия в боевых порядках пехоты.

Укрываясь за щитами орудий, артиллеристы вели огонь прямой наводкой по амбразурам форта и огневым точкам противника. Когда шквальным огнём противник отсек пехоту от артиллеристов, Шубин приказал вывести орудия на край окружающего форт рва и беглым огнём практически в упор со 100-150 метров подавить огонь противника. Заменил одного из убитых наводчиков и за несколько минут десятью выстрелами добился 4 прямых попаданий в амбразуры, уничтожив огневые точки. Своими действиями Шубин вызвал на себя огонь врага. Используя этот фактор, штурмовые группы сапёров полка сумели подобраться к стенам форта и подорвать их. Гарнизон форта капитулировал. К вечеру того же дня, в уличных боях в городе сержант Шубин лично уничтожил три бронетранспортёра врага.

Был ранен в бою. За мужество и героизм, проявленные на фронте борьбы с немецко-фашистскими захватчиками, Указом Президиума Верховного Совета СССР от 19 апреля 1945 года сержанту Шубину Алексею Петровичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 6263). Сбежав из госпиталя, Герой вернулся в свою часть и до Победы продолжал участвовать в боях с врагом на побережье Балтийского моря в Польше. В 1946 году старшина Шубин был демобилизован. Жил в городе Днепропетровск (Украина). Работал на железной дороге, затем слесарем на мясокомбинате.

Скончался 1 февраля 1986 года. Награждён орденами Ленина, Отечественной войны 1-й и 2-й степеней, Красной Звезды, медалями. В городе Барабинск Новосибирской области установлен бюст Героя, на здании локомотивного депо - мемориальная доска. В Калининграде на месте подвига Героя установлена памятная стела с его именем.