Кайнц — воспитанник клуба «Штурм» из своего родного города. 24 октября 2010 года в матче против «Ред Булла» он дебютировал в австрийской Бундеслиге. 23 апреля 2011 года в поединке против «Капфенберга» Флориан забил свой первый голы команду из Граца. В своём первом сезоне он помог «Штурму» выиграть чемпионат. Летом 2014 года Кайнц перешёл в венский «Рапид». 2 августа в матче против «Адмиры Ваккер» он дебютировал за новую команду. В этом же поединке Флориан забил свой первый гол за столичный клуб. 29 июля в матче квалификации Лиги чемпионов против амстердамского «Аякса» Канц забил гол. Летом 2016 года Флориан перешёл в немецкий «Вердер», подписав контракт на четыре года. Сумма трансфера составила 3,5 млн евро. 17 сентября в матче против мёнхенгладбахской «Боруссии» он дебютировал в Бундеслиге. 18 марта 2017 года в поединке против «РБ Лейпциг» Флориан забил свой первый гол за «Вердер».