Родился в Бинжервиле, в декабре 2011 года, в возрасте 17 лет, Эрик Байи присоединился к молодёжной системе «Эспаньола». Он получил разрешение на работу только в октябре следующего года, а в сезоне 2013/2014 дебютировал на профессиональном уровне за «Эспаньол B» в Сегунде В. 5 октября 2014 года Байи дебютировал за основную команду в чемпионате Испании, выйдя на замену в конце матча против клуба «Реал Сосьедад» (2:0). После этого он окончательно перешёл в основную команду «Эспаньола». 29 января 2015 года Байи подписал контракт на пять с половиной лет с другой командой чемпионата Испании «Вильярреалом» за 5,7 млн евро. Эрик был приобретён, чтобы заменить ушедшего в «Арсенал» Габриэля Паулисту. Его дебют за новый клуб состоялся 22 февраля в матче против «Эйбара» (1:0). 19 марта Байи дебютировал в Лиге Европы УЕФА в матче против «Севильи». Со следующего сезона Байи являлся основным защитником команды и помог ей квалифицироваться в Лигу чемпионов на следующий сезон.