Древняя церковь святого Николая была построена не позже Х века неким Ольмой рядом со своим двором, над могилой князя Аскольда в урочище Венгерском, которое с ХVІІІ века зовется Аскольдовой могилой. Название церковь получила за имя, которое принял Аскольд при крещении в 867 году — Николай. Определенное время распространенной была мысль о том, что к построению церкви причастна княгиня Ольга, а, следовательно, церковь является самой давней на Руси. Возникла эта теория, скорее всего, из-за ошибки переписчика, который, в свое время, вместо «Олма» написал «Олга». Впрочем, некоторые исследователи и авторы придерживаются прямо противоположной версии. Самые смелые отстаивают фантастическое утверждение, что основатель православного храма Ольма — это язычник Олмош (Альмош), предводитель венгров, которые проходили мимо Киева в конце ІХ века.
В 971 году церковь Святого Николая была разрушена сыном Ольги — Святославом, правление которого связано с жестокой языческой реакцией, преследованием христиан и уничтожением церквей. Лишь в 990 году князь Владимир опять построил здесь деревяний храм. В 1036 году при церкви был основан женский монастырь, в котором доживал свои годы один из основателей Киево-Печерской обители преподобный Феодосий. Он содержался то ли на самой Аскольдовой могиле, то ли на возвышении над ней. Существует перевод, связанный с событием, которое произошло в 1113 года в жизни великого князя Киевского Мстислава Владимировича, сына Мономаха. Возвращаясь поздней порой с охоты, он забрел в дремучем лесу, который покрывал собой местность современного Печерска. Ища дорогу из него, князь неожиданно увидел яркий свет, что его излучал образ Cвятого Николая, который содержался на высоком пеньке, как раз возле той же дороги. В память о таком чудесном представлении он в 1115 году учредил при Николаевской церкви на Аскольдовой могиле (превратил ли из отмеченного выше женского) мужской монастырь (возобновил ли после разрушения его в 1096 году половцами). Через какое-то время на месте приключения, которое произошло с Мстиславом, появилась столбоподобная часовня (слуп) с образом Cвятого Николая, которая указывала направление движения к обители на Аскольдовой могиле.
В 1147 году князь Андрей Боголюбский приписал монастырь к Киево-печерской обители. Возобновленный после разрушения, причиненного в 1240 году татаро-монголами хана Батыя, монастырь в XV веке опять грабился татарами.
Самое давнее изображение церкви Святого Николая — деревянной, с тремя банями — было найдено на плане Кальнофойского. В конце XVI века обитель была определенное время униатской. При митрополите Киевском Петре Могиле она получила от украинских гетманов целый ряд универсалов и грамот на владение. Один из них, а именно Иван Мазепа на протяжении 1690—1696 годов собственными средствами построил на горе над Николаевской церковью по проекту архитектора Иосифа Старцева большой каменный 5-банный собор, который стал соборным храмом монастыря. В кельи вокруг него переселилась большая часть братии из территории на Аскольдовой могиле, а под горой осталось монастырское кладбище с деревянной Николаевской церковью, которая из главной превратилась в приписную кладбищенскую.
После установления советского режима церковь закрыли, но в 1921-34 годах она еще действовала, как парафиальная УАПЦ. В 1934 году церковь закрыта уже окончательно, а кладбище уничтожено с целью постройки развлекательного парка. В 1936 году церковь перестроили под ресторан, а в 1938 году архитектор Петр Юрченко достаточно остроумно переделал прежний храм в парковый павильон, надстроив вместо бани сквозную ионийскую колоннаду. Тогда же была снесена и колокольня начала ХХ ст., дом настоятеля и забор 60-х гг. ХІХ ст.
В таком виде церковь просуществовала до последней реставрации 1997 — 98 лет (архитектор Владимир Хромченков), когда был возобновлен изначальный вид сооружения. 26 апреля 1992 году храм передан религиозному обществу Украинской греко-католической церкви. В полуподвале в настоящее время также устроена церковь во имя Святого Сильвестра Папы Римского. Освящение возобновленной Николаевской церкви осуществил 22 мая 1998 года тогда еще Преосвященний Экзарх Киево-Вышгородский УГКЦ Любомир Гузар.
Церковь Святого Николая на Аскольдовой могиле прославилась также тем, что это был первый храм, который посетил Папа Римский Иван Павел ІІ во время своего апостольского визита на Украину летом в 2001 году.
