Родился 6 ноября 1913 г. в Санкт-Петербурге – в семье служащего. Родители, Илья Васильевич и Ксения Григорьевна, уроженцы Пронска. До четырехлетнего возраста Николай жил с родителями в Петрограде, с 1917 по 1928 г. – у бабушки по матери в с. Никольское под Пронском, где окончил 7 классов местной школы. Пятнадцатилетний Н. Рыбин вернулся к родителям и поступил в школу ФЗУ при фабрике «Скороход», на которой впоследствии работал инструктором.

В 1934 г. был направлен по комсомольской путевке на учебу в Тамбовское летное училище гражданского воздушного флота, по окончании которого в 1937 г. получил воинское звание мл. лейтенанта и начал работать пилотом Северного управления гражданского воздушного флота в Ленинграде.

За образцовое выполнение боевых заданий во время советско финляндской войны 1939-1940 гг. Рыбин был награжден медалью «За отвагу».

С первых дней Великой Отечественной войны Рыбин в рядах Красной Армии. Член ВКП(б) с 1944 г. Командир эскадрильи 32-го гв. бомбардировочного авиац. полка (1-я бомбардировочная авиац. дивизия, 3-й гв. бомбардировочный авиац. корпус, 18-я воздушная армия ) гв. майор Рыбин к февралю 1945 г. совершил 342 ночных боевых вылета в тыл врага на бомбардировку военных объектов, живой силы и техники врага в городах Бобруйск, Толочин, Полоцк, Дрисса, Лида (Беларусь).

Звание Героя Советского Союза присвоено 29 июня 1945 г.

После окончания войны Рыбин продолжал служить в ВВС, окончил в 1954 г. Высшие летно-тактические КУОС. Демобилизован в 1958 г. в звании подполковника.

Жил в г. Люберцы Московской обл., работал оператором в Подмосковном управлении магистральных газопроводов.

Награжден орденом Ленина, 2 орденами Красного Знамени, орденом Отечественной войны 1-й степ., 2 орденами Красной Звезды, медалями.