Клуб історично має тісні зв'язки з паперовою промисловістю у Валкеакоскі, і дотепер його спонсором є деревообробна компанія «UPM Kymmene». «Гака» заснована у 1934 році, у 1949 році пробилась до вищого дивізіону чемпіонату Фінляндії. У 1955 році завоювала свій перший титул — Кубок Фінляндії.
Найуспішніший період в історії клубу — 1960-ті роки, під час якого «Гака» здобула по три перемоги у лізі та кубку, в тому числі перший в історії фінського футболу дубль у 1960. У 1972 році «Гака» вибула у нижчу лігу, проте швидко повернулась і у 1977 році знову зробила дубль. Наступний титул чемпіона Фінляндії здобуто у 1995, а в наступному сезоні «Гака» залишає Вейккауслігу, проте знову швидко повертається і тричі поспіль виграє чемпіонат (1998—2000). За останнє десятиріччя клуб ще одного разу ставав чемпіоном (2004) та двічі вигравав кубок (2002 і 2005). Найуспішніший виступ у єврокубках — чвертьфінал Кубка кубків 1983—1984 років, у якому «Гака» поступилась майбутньому володареві Ювентусу.