Николай Николаевич Рыбников родился 13 декабря 1930 года в Борисоглебске Воронежской области. Отец, Николай Николаевич Рыбников (1903-1944), до войны работал актёром в Борисоглебском драматическом театре. Мать, Клавдия Александровна была домохозяйкой. После ухода в 1942 году мужа добровольцем на фронт, мать, с двумя сыновьями — Николаем и Вячеславом,по окончании Николаем Рыбниковым восьмого класса — из Борисоглебска перебралась к своей сестре,проживавшей в Сталинграде, куда вскоре тоже пришла война, и откуда тоже пришлось бежать... Отец, пройдя почти трёхлетний путь по дорогам войны — погиб, следом за ним умерла и мама, ребята остались сиротами.
Актриса Инна Макарова рассказывала, что на съёмках фильма «Высота» Николай Рыбников поделился с ней своими воспоминаниями…
«Во время панического бегства гражданского населения из разбомблённого немцами Сталинграда все перебирались через реку на всём, на чём было возможно плыть. Весь город горел сплошной стеной. В городе заживо сгорели тысячи людей. И вся Волга горела, так как по реке текли ручьи горящей нефти. И Николай, в свои 11 лет, чудом перебрался на другой берег. Он не умел плавать и пришлось цепляться за плывущие на тот берег лодки, а люди в лодках били его по рукам, спасаясь сами. И вот всё пережитое им и все детские впечатления от кружащей вокруг смерти (немцы бомбили переправляющихся гражданских людей) и радость спасения вложили в него какой-то неведомой силы заряд духовного свойства, который никогда не перестаёт и только всегда его радует. И любовь к жизни всегда распирает его!.. Наверное, за это мы любим его песни, его фильмы. И наша радость поэтому тоже никогда не иссякнет».
После войны Николай возвратился в Сталинград, учился в школе № 5 (бывшей мужской гимназии), где на подмостках школьной сцены впервые проявил актёрские способности. В годы юности пробовал себя на поприще актёра во вспомогательном составе Сталинградского драматического театра. После школы поступил в Сталинградский медицинский институт, но 1948 году решил стать артистом — поехал в Москву, и поступил во ВГИК (мастерская С. А. Герасимова и Т. Ф. Макаровой), который окончил в 1953 году.
В воспоминаниях его педагога, Тамары Макаровой, Рыбников остался человеком большого темперамента, которому по плечу были и Шекспир, и Шиллер, а ему всё предлагали играть, как говорил в конце жизни сам актёр, бригадиров. Творческий диапазон его был необъятен. Как вспоминают сокурсники, ему удавались Жюльен Сорель и Хлестаков, Макар Нагульнов и пушкинский Дон Жуан, изъясняющийся только по-французски Бенкендорф.
Дебют в кино — крошечный эпизод на свадьбе в фильме «Сельский врач» (1951), далее — прошедший почти незамеченным фильм «Команда с нашей улицы» (1953), роль Дроздова. По-настоящему его актёрский талант раскрылся у режиссёров А. А. Алова и В. Н. Наумова в картине «Тревожная молодость» (1954): Рыбников в роли Котьки Григоренко был удивительно сдержан, немногословен, скуп на эмоции и его работу отметили критики. Слава пришла к артисту после фильма «Весна на Заречной улице» (1956), поставленного Ф. Е. Миронером и М. М. Хуциевым. Герой Рыбникова — Саша Савченко — обыкновенный парень, по профессии сталевар, по должности — бригадир, по социальной прописке — исконный житель рабочих окраин.
В фильме « фильма, когда Рыбников, как и положено по роли, лихо спускается на руках по железному тросу. В этот момент актриса слышит: «Второй дубль!» — и видит окровавленные ладони Рыбникова, который не успел на первый дубль надеть рукавицы.
В 1958 Николай Рыбников снялся в картине Э. А. Рязанова «Девушка без адреса», и хотя публика хорошо приняла фильм (он занял в прокате второе место), критика сочла его не слишком удачным. Тем не менее, в 1961 актёр согласился сниматься в комедии, когда режиссёр Ю. С. Чулюкин пригласил его на главную роль лесоруба Ильи Ковригина в фильме «Девчата». Эта картина имела огромный зрительский успех.
В дальнейшем Рыбникова много снимали, на его счету такие фильмы, как «Им покоряется небо», «Война и мир», где он исполнил роль Василия Денисова, «Освобождение», «Хоккеисты». Большой успех выпал на долю картины «Седьмое небо» (1972), в которой Николай Рыбников снялся со своей женой А. Д. Ларионовой.
