Беким Баляй начинал свою карьеру футболиста в албанской команде «Влазния». Уже в возрасте 17 лет Баляй дебютировал на высшем уровне, выйдя на замену в гостевом матче его команды против ФК «Беселидья» (Лежа) 17 мая 2008 года. В сезоне 2009/10 Баляй стал игроком основного состава «Влазнии». В апреле 2010 года, наряду с другим молодым албанским футболистом Одисе Роши, он был на просмотре во французском ПСЖ, закончившимся для обоих неудачно. 17 июня 2010 года Баляй подписал 4-летний контракт с турецким клубом «Генчлербирлиги». В турецкой Суперлиге он появился лишь в одном матче, выйдя на замену на 90-й минуте в гостевом победном поединке против «Галатасарая». В начале 2011 года Баляй получил два предложения контракта от албанских клубов «Влазния» и «Тирана». 20 января подписал двухлетнее соглашение с «Тираной», в соответствии с которым он получал 70 000 € за сезон, в отличие от предложенных «Влазнией» 50 000 €. 18 августа того же года Баляй забил единственный гол в Суперкубке Албании 2011. В 2016—2019 годах играл за «Ахмат». 21 июля 2021 года подписал контракт с «Нижним Новгородом», который впервые примет участие в РПЛ.