Джонс – воспитанник академии "Блэкберна", из которого перешел в "МЮ" летом 2011 года за 19,3 миллиона евро. Тогда тренером "дьяволов" был еще Алекс Фергюсон.
В составе манчестерской команды Фил принял участие в 229 играх во всех турнирах, забил шесть мячей и отдал десять результативных передач. Также на счету защитника 27 матчей за сборную Англии.
Вместе с "МЮ" Джонс стал чемпионом Англии (2012\2013), выиграл Кубок (2016) и Суперкубок (2011, 2013) Англии, Кубок лиги (2017) и Лигу Европы (2016/2017).