Константин Рылов родился в 1984 году в Перми. В 2003-м окончил Хоровое училище им. М. И. Глинки, в 2008-м – Санкт-Петербургскую государственную консерваторию им. Н. А. Римского-Корсакова (класс Татьяны Хитровой).
Уже будучи студентом второго курса, в 2004 году, был принят в Хор Мариинского театра, где с 2010-го совмещает должности артиста и директора. С 2013 года – хормейстер, с 2021-го – главный хормейстер Мариинского театра.
Участвовал в создании спектаклей «Война и мир» (2014), «Евгений Онегин» (2014), «Золотой петушок» (2014), «Троянцы» (2014), «Пиковая дама» (2015), «Рождественская сказка» (2015), «Любовь к трем апельсинам» (2016, 2022), «Самсон и Далила» (2016), «Симон Бокканегра» (2016), «Сицилийская вечерня» (2017), «Тангейзер» (2019), «Пеллеас и Мелизанда» (2019), «Снегурочка» (2020), «Отелло» (2022), «Сказание о невидимом граде Китеже и деве Февронии» (2022), «Орлеанская дева» (2023), «Нюрнбергские мейстерзингеры» (2023), «Набукко» (2023), «Демон» (2023).
Под управлением Константина Рылова в Концертном зале Мариинского театра были исполнены Всенощное бдение Рахманинова, «Перезвоны» Гаврилина, хоровая опера Щедрина «Боярыня Морозова», Рождественская оратория (I–III и VI части) и Страсти по Матфею Баха, Stabat Mater Россини, сценическая кантата Орфа «Кармина Бурана», оратория Листа «Легенда о святой Елизавете».