Počiatky výstavby hradu sa viažu k vláde uhorského kráľa Ondreja II. do roku 1234. V prvej etape výstavby mal hrad jednoduchý oválny tvar. Poslúžil však svojmu účelu, pretože v čase tatárskych vpádov sa stal nedobytným. Počas nepokojov za vlády Ladislava IV. ho však v roku 1274 dobyli Rolandovi povstalci. Hrad držali až do roku 1285, kedy ich porazilo kráľovské vojsko. V roku 1343 hrad opäť dobyli Bebekovci z Krásnej Hôrky, ale aj tí nakoniec podľahli kráľovej armáde.
 

Počas vojen Jána Jiskru na území súčasného Slovenska sa Gelnica i s hradom dostala do jeho moci a ovládal ju v rokoch 1147 až 1462. Kráľ Matej Korvín potom v roku 1465 daroval mesto i hrad rodu Zápoľský. Počas vnútorných bojov Uhorska bol hrad zničený. Po porážke Jána Zápoľského (1531) daroval Ferdinand I. Gelnický hrad Alexovi Turzovi (Thurzo). Turzovci hrad rekonštruovali. V roku 1636 vymrel rod Turzovcov po meči, ale hrad ostal nepriamo v ich vlastníctve. Kráľ Ferdinand III. ho zveril grófovi Štefanovi Čákimu (Csáky) a jeho manželke Eve Forgáčovej (Forgách). Práve jej matkou bola Zuzana Turzová, dcéra Alexandra Turzu. Keďže v danom čase prebiehalo povstanie Juraja Rákociho (Rákoczi) proti Štefanovi Čákimu v boji o kniežací stolec, Čákiovcom sa podarilo obsadiť a obývať hrad až v roku 1652. Boje však neutíchali, Gelnica bola obsadená raz jedným, inokedy iným vojskom, až bol hrad úplne zničený.

Údaje o jeho praktickom zániku sa rozchádzajú. Niektoré zdroje udávajú rok 1685, iné zasa 1710. Isté však je, že podľa záznamu z roku 1765 už slúžil iba ako miesto výcviku gelnických husárov a hradné múry sa rozoberali na stavbu mestskej radnice. V roku 1839, keď sa hrad stal majetkom Gelnice, vedenie mesta prikázalo stojace časti múrov zbúrať, pretože neboli pevné a znamenali hrozbu. Stalo sa tak po smrti istého stolárskeho učňa Haasa, ktorého zasypali kamene, keď sa z hradby pokúšal vytiahnuť drevený trám. V danom čase tu ešte stáli štyri bašty.