Николай Иванович Рыжков родился 28 сентября 1929 года в Донецкой области в семье потомственных шахтеров. Сын и внук представителей трудной и опасной шахтерской профессии, он с детства относился к ней с уважением, но собственный жизненный путь решил связать с машиностроением. После окончания Краматорского машиностроительного техникума молодой специалист по собственной просьбе распределяется на Уральский завод тяжелого машиностроения (УЗТМ). В течение четверти века (в период 1950–1975 годов) Н.И. Рыжков трудится на этом знаменитом советском машиностроительном гиганте, одновременно учится и оканчивает Уральский политехнический институт имени С.М. Кирова (1953–1959). За эти годы он прошел все ступени заводского профессионального и карьерного роста, начиная с мастера; в 1965–1970 годах он – главный инженер, в 1970–1971-ых – директор завода, а в 1971–1975 годах – генеральный директор производственного объединения «Уралмаш». На всех этих постах Николай Иванович проявил себя в первую очередь как грамотный, способный и инициативный инженер, талантливый организатор производства, ориентированный на освоение новейших достижений науки и техники. За личное участие в разработке и внедрении на УЗТМ новейших технологий он был дважды удостоен Государственной премии СССР. В 1969 году – за руководство созданием крупнейшего в Европе блока цехов сварочных машиностроительных конструкций (технологическая часть которого была разработана совместно с украинским институтом имени Е.О. Патона и являлась в то время передовой в мировой практике), а в 1979 году – за разработку и создание первых в СССР криволинейных установок непрерывной разливки стали в черной металлургии.

В период директорства Рыжкова предприятие превратилось в ведущее научно-производственное объединение страны, выпускавшее уникальную машиностроительную продукцию, хорошо известную и востребованную не только в СССР, но и далеко за его пределами. Под непосредственным руководством директора кардинально обновилось техническое и технологическое оснащение «Уралмаша» и начал эффективно функционировать Научно-исследовательский институт тяжелого машиностроения. Особое внимание уделялось развитию кадрового потенциала: высококвалифицированные кадры готовились в заводском профессионально-техническом училище (одном из лучших ПТУ в стране), в машиностроительном техникуме при заводе (и филиале Уральского политехнического института). Значительные ресурсы выделялись на решение социальных проблем работников и улучшение условий их труда и отдыха, энергично велось жилищное строительство.

В 1975 году Н.И. Рыжков был переведен в Москву – на должность первого заместителя министра тяжелого и транспортного машиностроения СССР; ему поручалось также руководить производством специальной техники, в том числе ракетно-космической, а также развитием конструкторского и технологического потенциалов отрасли. А в 1979 году последовало новое назначение – первым заместителем председателя Госплана СССР (в ранге министра СССР), причем, кроме решения текущих вопросов, Николай Иванович стал курировать разработку документов, касавшихся социально-экономического развития страны в долгосрочной перспективе, а также процессов внедрения новых экономических механизмов организации и управления народным хозяйством.

Энергичная деятельность Рыжкова в Минтяжмаше и Госплане СССР обратила на себя внимание нового (сменившего скончавшегося Л.И. Брежнева) генсека ЦК КПСС Ю.В. Андропова, по инициативе которого в ноябре 1982 года Николай Иванович был избран секретарем ЦК и назначен заведующим Экономическим отделом центрального партаппарата. На новом участке работы вместе с М.С. Горбачевым, В.И. Долгих и рядом других руководящих партработников он непосредственно участвовал в подготовке концепции реформирования советской экономики, перестройки системы отраслевого и территориального управления, совершенствования механизмов взаимодействия «центра» с союзными республиками, краями и областями. Заслуживает упоминания и тот факт, что по инициативе Экономического отдела ЦК КПСС были сняты многие ограничения, мешавшие развитию в стране коллективных садоводства и огородничества.