Джон воспитанник футбольной академии клуба «Энвигадо». 9 октября 2010 года в матче против «Депортес Толима», он дебютировал в чемпионате Колумбии. В том году Кордоба сыграл всего один матч. В следующем году он постепенно стал футболистом основы, приняв участие в 28 встречах, начав 17 из них в стартовом составе. 29 сентября 2011 года в поединке против «Итагуи», Джон забил свой первый гол за клуб. 2 октября того же года в матче против «Онсе Кальдас», Кордоба сделал дубль. 8 июля 2012 года Кордоба подписывает контракт с мексиканским клубом «Хагуарес Чьяпас». «Ягуары» в лице Джона видели потенциальную замену, своему лучшему бомбардиру Джексону Мартинесу, ушедшему в «Порту». 21 июля в матче против «УАНЛ Тигрес», Кордоба дебютировал в Лиге MX. 8 октября в поединке против «Сан-Луиса», колумбийский нападающий забил свой первый гол за клуб. Летом 2013 года Джон на правах краткосрочной аренды выступал за клуб Лиги Ассенсо Дорадос. Он сыграл за новую команду всего один матч, после чего на правах годовой аренды отправился в испанский «Эспаньол». 26 октября в поединке против «Леванте» Кордоба дебютировал в Ла Лиге, заменив в начале второго тайма Симау Саброзу. 30 ноября в матче против «Реал Сосьедада» Джон забил свой первый гол за клуб из Барселоны. После окончания срока аренды Кордоба на правах свободного агента перешёл в «Гранаду», подписав контракт на пять лет. 14 сентября в матче против «Вильярреала» он дебютировал за новую команду. 20 сентября в поединке против «Атлетика» из Бильбао Джон забил свой первый гол за «Гранаду». Летом 2015 года Кордоба на правах аренды перешёл в немецкий «Майнц 05». 20 февраля 2016 году в матче против «Хоффенхайма» он забил свой первый гол за новый клуб в Бундеслиге. Летом 2017 года Кордоба перешёл в «Кёльн», подписав контракт на 4 года. Сумма трансфера составила 15 млн евро. 20 августа в матче против «Боруссии» из Менхенгладбаха он дебютировал за новую команду. По итогам сезона клуб вылетел во Вторую Бундеслигу, но Кордоба остался в команде. 16 сентября в поединке против «Падерборн 07» Джон забил свой первый гол за «Кёльн». 18 июля 2021 года российский клуб «Краснодар» сообщил о достижении предворительной договорённости с «Гертой» о переходе Кордобы, который должен будет подписать контракт в случае успешного прохождения медосмотра. 23 июля колумбиец стал игроком «Краснодара», подписав контракт на четыре года. 25 июля в гостевом матче против «Урала» он дебютировал в РПЛ. В этом же поединке Джон забил свой первый гол за «Краснодар»(0:3).