Расмуссен — воспитанник клуба «Оденсе» из своего родного города. В 2014 году его заметили скауты немецкого «Шальке 04» и пригласили в команду. После двух сезонов в академии кобальтовых он был продан в «Санкт-Паули», но за основной состав Якоб не сыграл ни минуты, выступая за дублёров. В начале 2017 года Расмуссен перешёл в норвежский «Русенборг». 29 марта в финале Суперкубка Норвегии против «Бранна» Якоб дебютировал за основной состав. 5 апреля в матче против «Саннефьорда» он дебютировал в Типпелиге. В том же году Якоб стал чемпионом Норвегии. Летом 2018 года Расмуссен перешёл в итальянский «Эмполи». Сумма трансфера составила 1 млн. евро. В матче против «Кальяри» он дебютировал в итальянской Серии A. В начале 2019 года Якоб перешёл в «Фиорентину» за 6,5 млн. евро, но еще на полгода остался в «Эмполи» на правах аренды.