Первый деревянный Архангельский собор в Кремле возник на месте нынешнего, возможно, ещё во время княжения Михаила Хоробрита, брата Александра Невского, в 1247—1248 годах.
В 1333 году, за одно лето, Иван Калита построил новый каменный храм — по обету, в благодарность за избавление Руси от голода, вызванного пошедшей в рост и не давшей зёрен рожью. Новый Архангельский собор был освящён митрополитом Феогностом 20 сентября 1333 года.

Существующий собор был сооружён в 1505—1508 гг. под руководством итальянского зодчего Алевиза Нового на месте старого собора XIV века и освящен 8 ноября 1508 года митрополитом Симоном:10. С 1599 года по 1765 год при соборе состояли особые архиереи, обязанностью которых было совершать панихиды во дни поминовения князей и царей. С 1743 года по 1883 год был кафедральным храмом Московской епархии. С 1771 по 1801 год протоиереем собора был Пётр Алексеев, крупный лексикограф, автор «Церковного словаря».

Храм пятиглавый, шестистолпный, пятиапсидный, восьмипридельный с узким, отделённым от него стеной помещением в западной части (на втором ярусе — хоры, предназначавшиеся для женщин царской семьи). Выстроен из кирпича, декорирован белым камнем. В обработке стен широко использованы мотивы зодчества итальянского Возрождения (ордерные пилястры с растительными капителями, «раковины» в закомарах, многопрофильные карнизы). Первоначально главы храма были крыты чернолощёной черепицей, стены, вероятно, были окрашены красным, а детали — белым.