Воспитанник ЦСКА. Первый тренер — Алексей Владимирович Говязин. Дебютировал за московский клуб 30 октября 2013 года в матче Кубка России против дзержинского «Химика». В чемпионате России дебютировал 2 декабря, когда заменил на 74-й минуте Кирилла Набабкина в матче против «Ростова». 26 июня 2014 года перешёл в пражскую «Дуклу» на правах аренды. 17 июня 2015 на правах аренды перешёл в чешский клуб «Яблонец» до 30 июня 2016 года. В 2016 году перешёл в пражскую «Спарту». По итогам сезона 2016/2017 был признан лучшим игроком сезона в «Спарте» и вошел в символическую сборную чемпионата. Однако на следующий сезон Караваев потерял место в стартовом составе команды. 31 января 2018 года перешел в нидерландский «Витесс» за 1,5 млн €. Контракт с клубом из Арнема рассчитан на три с половиной года. На протяжении одного сезона выступал за эту команду под руководством Леонида Слуцкого. 2 сентября 2019 года Караваев вернулся в Россию, подписав четырёхлетний контракт с «Зенитом». Дебютировал 13 сентября, выйдя на замену в концовке встречи в домашнем матче против тульского «Арсенала». 19 октября 2019 года в матче против «Ростова» забил свой первый гол за «Зенит». 13 марта 2021 года в матче с грозненским «Ахматом» поразил ворота Гиорги Шелия дальним ударом из-за пределов штрафной площади. В составе «Зенита» выиграл два чемпионства, кубок и суперкубок России.