Велтман начал футбольную карьеру в клубе «Эймёйден», в родном Велзене, а в 2001 году отправился в академию амстердамского «Аякса». В апреле 2011 года Джоэл, игравший на позиции защитника, подписал с «Аяксом» свой первый профессиональный контракт. Незадолго до этого, футболист получил тяжёлую травму — разрыв крестообразных связок колена. 12 декабря, оправившись от травмы, Джоэл впервые сыграл за молодёжный состав амстердамцев. Всего до конца сезона он принял участие ещё в 11 играх «Йонг Аякса». Велтман дебютировал на профессиональном уровне 19 августа 2012 года, выйдя на замену в матче чемпионата Нидерландов с НЕК. Майку с номером «33», в которой футболист дебютировал за «Аякс», он передал своей бывшей команде. В сезоне 2012/13, который стал для «красно-белых» чемпионским, Джоэл сыграл в семи играх чемпионата; в Кубке Нидерландов он трижды выходил на поле. В июне 2013 года Велтман продлил контракт с «Аяксом» до 2017 года. В июле 2020 года перешёл в английский «Брайтон энд Хоув Альбион», подписав с клубом трёхлетний контракт.