Диаби — воспитанник клуба «Пари Сен-Жермен». С 2016 года он начал привлекаться к играм за дублирующий состав. В начале 2018 года для получения игровой практики Мусса на правах аренды перешёл в итальянский «Кротоне». 14 апреля в матче против «Дженоа» он дебютировал в итальянской Серии A, заменив во втором тайме Марселло Тротту. По окончании аренды Диаби вернулся в ПСЖ. 12 августа в матче против «Кана» он дебютировал в Лиге 1, заменив во втором тайме Лассана Диарра. В начале 2018 года Диаби для получения игровой практики был арендован итальянским «Кротоне». 14 апреля в матче против «Дженоа» он дебютировал в итальянской Серии A. По окончании аренды Диаби вернулся в ПСЖ. 14 сентября в поединке против «Сент-Этьена» Мусса забил свой первый гол за клуб. В 2019 году он помог клубу выиграть чемпионат. Летом 2019 года Диаби перешёл в немецкий «Байер 04», подписав с клубом пятилетний контракт. 24 августа в матче против дюссельдорфской «Фортуны» он дебютировал в Бундеслиге. 23 ноября в поединке против «Фрайбурга» Мусса забил свой первый гол за «Байер 04». В 2020 году в матчах Лиги Европы против «Ниццы», пражской «Славии» и швейцарского «Янг Бойз» он забил 4 гола.