Hoch über Sümeg erhebt sich die Burg auf einem steilen Kalksteinberg. Königin Bela IV. ließ sie nach dem Abzug der Mongolen (1240-41) bauen. Die Mongolen kamen nie wieder, aber als die türkische Bedrohung im 15. Jh. näher rückte, wurde sie zur größten Burg Transdanubiens erweitert. Als die Türken die Stadt Veszprém eroberten, diente sie den Bischöfen von Veszprém 200 Jahre lang als Residenz. Jene Zeit hat auch das Ortsbild geprägt, denn die Bischöfe ließen prächtige Gebäude errichten, z.B. das barocke Bischöfliche Stadtpalais.
Verrat soll im Spiel gewesen sein, als die Österreicher 1709 die Burg besetzen konnten. Damit die rebellischen Ungarn sie nicht nutzen konnten, wurde sie 1712 zur Ruine niedergebrannt. Dabei gingen die Besatzer wenig gründlich vor, denn von der Burg blieben erstaunliche Übereste erhalten. Daher kann man heute gut rekonstruieren, wie sie einst mit ihren Türmen, Zinnen, Ställen und Toren aussah.
Im Sommer finden hier Burgfestspiele statt. Am Fuß des Burgbergs gibt es eine Arena für historische Reiterspiele, eine nachgebaute Steinschleudermaschine und Kanonen. Eine zweite kleine Arena liegt nahe dem großen Restaurant der Anlage, auch hier führen als Ritter und Fußsoldaten verkleidete junge Männer atemberaubende Reiterspiele und Kämpfe vor. Die edlen Pferde stehen im Marstall der Anlage, in dem auch ein Pferdezuchtmuseum untergebracht ist.
Östlich vom großen Hof, wo die Reiterspiele stattfinden, dokumentiert ein Museum die Geschichte der Burgruine.