Марк начинал свою карьеру в клубе из Тамуэрта «Mile Oak Monarchs», прежде чем его пригласили на просмотр в молодёжную команду «Вест Бромвич Альбион». Однако «Вест Бромвичу» он не подошёл, но спустя некоторое время игрок пришёлся ко двору в молодёжной команде «Астон Виллы». После блестящей игры за молодёжку и резерв «Астон Виллы» игроку дали попробовать на вкус игру за основную команду львов. Это событие произошло 10 июля 2008 года в товарищеской встрече против швейцарского клуба «Виль», когда Олбрайтон вышел на замену за 17 минут до конца встречи. Официальный дебют за первую команду «Астон Виллы» состоялся 26 февраля 2009 года в матче Кубка УЕФА против московского ЦСКА на стадионе «Лужники». Перед началом сезона 2009/10 Марк был включён в заявку львов на предсезонный товарищеский турнир — Мировой кубок. По ходу турнира он сумел забить свой первый мяч за «Астон Виллу». Также он сыграл в финале Мирового кубка, в котором львы обыграли «Ювентус» в серии пенальти со счётом 4:3.