Les Géorgiens excellaient aussi dans l'art de construire châteaux et forteresses rendus nécessaires par l'état d'anarchie propre aux temps féodaux. Il existe plusieurs villes creusées à même le rocher, et Vardzia en est un bel exemple. C'est une ancienne cité troglodyte du sud du pays, creusée entre 1186 et 1189 dans la falaise par les premiers chrétiens. Cette cité est répartie sur sept niveaux sur plus de 100 m de hauteur et abrita jusqu'à 20 000 personnes. Construite à l'origine pour contrôler le passage des Turcs en Géorgie, cet ensemble est devenu, sous le règne de la reine Thamar, un complexe monastique qui ne comporte pas moins de 500 salles et logements, y compris des chapelles, des salles de banquet, des celliers, des étables, tous communiquant entre eux grâce à un labyrinthe d'escaliers et de couloirs.

Non loin de là, et à une dizaine de kilomètres de la frontière turque, la belle forteresse militaire de Khertvisi, construite au moyen âge (X-XI^ème) et située à un point stratégique : sur une haute colline rocheuse surplombant l'étroit canyon de la rivière Mtkvari. Comme la légende le raconte, elle aurait été détruite par Alexandre (dynastie Macédonienne) et depuis aurait besoin d'une bonne restauration !