Родился 19 декабря 1922 г. в г. Иман (ныне – г. Дальнереченск Приморского края). Русский. В 1940 г. окончил 10 классов школы в г. Фрунзе (ныне – г. Бишкек, Киргизия). В Армии с августа 1940 г. В 1941 г. окончил Чкаловскую военную авиационную школу лётчиков (г. Оренбург). Прошёл переподготовку в 9-м запасном авиационном полку (г. Казань). Участник Великой Отечественной войны: с июня 1942 по март 1944 гг. – лётчик, старший лётчик и командир звена 57-го бомбардировочного авиационного полка, с марта 1944 по май 1945 гг. – лётчик и командир звена 745-го бомбардировочного авиационного полка. Воевал на Юго-Западном, Сталинградском, Центральном, Белорусском и 1-м Белорусском фронтах. Участвовал в Сталинградской и Курской битвах, освобождении Белоруссии и Польши, в Висло-Одерской операции. Совершил более 200 боевых вылетов на бомбардировщике «Бостон», был 4 раза сбит. За мужество и героизм, проявленные в боях, Указом Президиума Верховного Совета СССР от 26 октября 1944 г. лейтенанту Рудь Николаю Михайловичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№3107). Участник советско-японской войны 1945 г. в должности заместителя командира авиаэскадрильи 252-го отдельного авиационного полка связи (Забайкальский фронт). После войны продолжал службу в военно-транспортной авиации (в Монголии и на Дальнем Востоке). В 1949–1950 – командир звена Тамбовского аэроклуба ДОСААФ СССР. В 1950–1952 – начальник командно-диспетчерского пункта на военном аэродроме Высших авиационных курсов лётчиков ВВС в Тамбове. В 1952–1953 – командир звена в 771-м учебном авиационном полку 6-й военной авиационной школы первоначального обучения лётчиков (г. Каменка Пензенской обл.). С января 1953 г. капитан Н.М. Рудь – в запасе. В 1954 г. приехал на постоянное место жительства в город Москву. До 1967 г. работал механиком в Почтовом ящике № 1327 и НИИ «Теплоприбор». В 1967 г. ушёл на пенсию по состоянию здоровья, как инвалид Великой Отечественной войны II степени. 16 октября 1978 г. в возрасте 55 лет Герой Советского Союза Николай Михайлович Рудь скончался. Похоронен на Ваганьковском кладбище в Москве.

Награждён орденами Ленина (26.10.1944), Красного Знамени (1943), Отечественной войны II степени (10.02.1943), Красной Звезды (8.08.1942); медалями: «За Победу над Германией» (1945), «За оборону Сталинграда» (1942), «За освобождение Варшавы», «За Победу над Японией».