Баба начинал карьеру в клубе «Дримс». В 2011 году он перешёл в клуб «Асанте Котоко», с которым в сезоне 2011/12 стал чемпионом Ганы. Летом 2012 года Баба подписал пятилетний контракт с немецким клубом «Гройтер Фюрт». 19 августа 2012 года он дебютировал за новый клуб в матче Кубка Германии против «Киккерса» из Оффенбаха (0:2), выйдя на замену на 58-й минуте и получив красную карточку. 25 сентября 2012 года Баба дебютировал в Бундеслиге в домашнем матче против дюссельдорфской «Фортуны» (0:2). 11 августа 2014 года, в матче против «Нюрнберга» (5:1), он забил первые два гола за «Гройтер Фюрт». 12 августа 2014 года Баба перешёл в «Аугсбург» за 2,5 млн евро.