Рюдигер попал в академию «Штутгарта» в 2011 году. В составе «Штутгарт II» он дебютировал 23 июля 2011 года, в матче розыгрыша Третьей Бундеслиги против «Арминии» из Билефельда. 29 января 2012 года Рюдигер дебютировал за основную команду «Штутгарта» в домашнем матче против мёнхенгладбахской «Боруссии». Свой первый матч за «швабов» в Лиге Европы он провёл 4 октября 2012 года против «Мольде». 19 апреля 2013 года Рюдигер продлил свой контракт со «Штутгартом» до июня 2017. 17 августа 2015 года перешёл в «Рому» на правах аренды. 9 июля 2017 года Рюдигер подписал пятилетний контракт с «Челси». Сумма трансфера составила 35 миллионов евро с учетом бонусов. В начале июня 2022 года немец перебрался в мадридский «Реал» на правах свободного агента, подписав трудовой договор рассчитанный на четыре года.