В 2002 году Фил Джонс стал игроком молодёжной команды «Блэкберн Роверс». В основной состав клуба он был впервые включён в сезоне 2009/10, подписав в сентябре 2009 года двухлетний профессиональный контракт с «Блэкберном». Он получил футболку с номером «28». Дебют Джонса за основной состав «Блэкберна» состоялся 22 сентября 2009 года в матче Кубка Футбольной лиги против «Ноттингем Форест», который завершился победой «Роверс» со счётом 1:0. Его дебют в Премьер-лиге состоялся 21 марта 2010 года в матче против «Челси» на «Ивуд Парк», который завершился вничью со счётом 1:1. 4 мая 2010 года Джонс подписал с «Блэкберном» новый пятилетний контракт. В сезоне 2010/11 Фил Джонс начал выступать на позиции опорного полузащитника, завоевав место в основе. В декабре 2010 года получил травму колена в матче против «Вест Хэма», из-за которой пропустил несколько месяцев. 13 июня 2011 года «Манчестер Юнайтед» объявил о подписании контракта с Джонсом. Футболист заключил с чемпионами Англии пятилетний контракт. 7 августа провёл свой первый официальный матч за «Юнайтед», выйдя на замену во втором тайме Суперкубка Англии против «Манчестер Сити».