Воспитанник футбольной школы мюнхенской «Баварии», где его отец, Херман Хуммельс, являлся тренером. Начинал карьеру на позиции опорного полузащитника, но затем был переведён в центр обороны. С 2005 года выступал в региональной лиге за вторую команду «Баварии», где за два сезона отыграл 42 матча и забил 5 мячей. С сезона 2006/2007 начал тренироваться с основным составом «Баварии», а в 2007 году подписал контракт с клубом на 2 года. В Бундеслиге дебютировал 19 мая 2007 года в матче против «Майнца», завершившемся победой мюнхенцев со счётом 5:3. В 2008 году Хуммельс был отдан в аренду «Боруссии» из Дортмунда, так как молодому защитнику не находилось места в основном составе «Баварии». В «Боруссии» Матс быстро стал игроком основы, во многом благодаря главному тренеру Юргену Клоппу. В начале января 2009 года Хуммельс в одном из матчей чемпионата надорвал связки правой лодыжки и выбыл на шесть недель. Меньше чем через месяц стало ясно, что Матс намерен остаться в «Боруссии» и не возвращаться в «Баварию».