Марсель начал заниматься в своём родном городе, тренируясь сначала в «Фортуне», а затем — в «Магдебурге». В 17 лет Шмельцера заметили скауты дортмундской «Боруссии», после чего футболиста пригласили в молодёжную команду клуба. В 2008 году Марсель подписал с «Боруссией» профессиональный контракт. 16 августа он дебютировал в Бундеслиге, сыграв в выездном матче первого тура против леверкузенского «Байера», закончившемся победой дортмундцев со счётом 3:2. Шмельцер появился на поле на 78-й минуте, заменив Деде. В своём первом сезоне в «Боруссии» Марсель провёл всего 12 матчей, а во втором, уже будучи игроком основы, — 28. 24 октября 2012 года в третьем туре Лиги чемпионов Шмельцер забил победный гол в ворота мадридского «Реала» на 64-й минуте матча. Встреча завершилась победой «Боруссии» со счётом 2:1. 25 апреля 2016 года футболист подписал новый контракт с «Боруссией» до 2021 года.