Сергей является воспитанником московского «Спартака», после пяти лет игры в юношеских и молодёжных составах дебютировал в основе в поединке 15-го тура Премьер-Лиги 2007 года против «Зенита». Постепенно Паршивлюк выиграл конкуренцию за место на правом фланге обороны и стал основным защитником «красно-белых». За девять сезонов Сергей трижды становился серебряным призером чемпионата России и ещё два раза попадал в символический список 33 лучших игроков РФПЛ. 24 июня 2019 года перешел в московское «Динамо». Соглашение заключено на два года с возможностью продления ещё на один год. В прошедшем сезоне футболист защищал цвета «Ростова» , в составе которого провёл 24 матча и забил 1 гол.