Учился на драматических курсах при Малом театре, затем в драматическом училище Московской филармонии. С 1923 года - актёр в труппе Малого театра. Всю свою долгую творческую жизнь исповедовал художественные принципы Малого театра: глубокий жизненный реализм и романтизм. Свои лучшие роли, по мнению критиков, Н.И. Рыжов сыграл в пьесах А.Н. Островского. Народный артист РСФСР (1949). Народный артист СССР (1971).