Учился в Харьковской школе живописи и рисования, затем в Москве у М.Ф. Ларионова. Член АХР и общества «Жар-цвет». Работал в Наркомпросе (1919−1920). Известен как крупный реставратор и энтузиаст музейного дела, в 1919 организовал и возглавил реставрационные мастерские в ГТГ, был их бессменным руководителем до 1949. Автор живописных и графических работ, занимался книжной графикой, иллюстрируя русскую литературу XIX века, работал в экслибрисе. Участник Ленской научной экспедиции (1933). Экспонент ряда международных выставок, в том числе «Искусство книги» (Лейпциг, 1927). В годы Второй мировой войны занимался подготовкой эвакуации музейных фондов ГТГ в Пермь и Новосибирск. Преподавал в МГХИ им. В.И. Сурикова; читал курс лекций по технике и технологии живописи в МГПИ им. В.И. Ленина. Автор книг «Фактура классической картины» (1927), «Техника масляной живописи» (1937), статьи «Основные положения диагноза заболевания картин» (1930-е, совместно с С.А. Тороповым). Брат – экономист А.А. Рыбников. Работы хранятся в ГТГ, РГАЛИ, ГМИ РК им. И.В. Савицкого в Нукусе и др.