Гюдмюндссон — воспитанник «Рейкьявика» и нидерландских клубов «Херенвен» и ПСВ. В июле 2015 года подписал с ПСВ трёхлетний контракт. Для получения игровой практики Альберт начал выступать за дублирующий состав последнего. 25 сентября 2015 года в матче против «Эммена» Гюдмюндссон дебютировал в Эрстедивизи. 20 августа 2017 года в матче против НАК Бреда он дебютировал в Эредивизи, заменив во втором тайме Ирвинга Лосано. В своём дебютном сезоне он стал чемпионом Нидерландов