Μόλις ένα χρόνο μετά τη στέψη της, η Tamar θέλησε να φτιάξει ένα μοναστήρι, σαν ένδειξη της χριστιανικής της πίστης. Υπήρχε ωστόσο ένα μεγάλο πρόβλημα για τη χώρα της. Οι Μογγόλοι, με βάση την Ασία, είχαν ξεκινήσει πολέμους με τους γειτονικούς λαούς επιδιώκοντας την επέκταση της αυτοκρατορίας τους. Έτσι αποτελούσαν διαρκή απειλή για τους Γεωργιανούς.
Για αυτό ακριβώς το λόγο, η βασίλισσα Tamar αποφάσισε να κατασκευάσει το μοναστήρι κάτω από τη γη, ώστε να μπορεί παράλληλα να προσφέρει καταφύγιο από τις επιδρομές στους κατοίκους των τριγύρω περιοχών.
Η κατασκευή του φιλόδοξου αυτού έργου ξεκίνησε άμεσα, κάτω από το βουνό Erusheli, το οποίο επιλέχθηκε για το σκληρό του πέτρωμα που θα μπορούσε να αντέξει τις εργασίες.
Κατασκευάστηκαν 13 επίπεδα, ενώ οι φυσικές σπηλιές που υπήρχαν στο εσωτερικό του βουνού επεκτάθηκαν και μετατράπηκαν σε περισσότερα από 6.000 δωμάτια τα οποία ήταν αρκετά για να φιλοξενήσουν τόσο τους μοναχούς του μοναστηριού όσο και τους κατοίκους που θα κρυβόταν εκεί για να ξεφύγουν από τους επιδρομείς.
Η γη γύρω από το μοναστήρι ήταν εξαιρετικά εύφορη και πρόσφερε τα απαραίτητα σε αυτούς που ζούσαν εκεί. Παράλληλα, οι μοναχοί κατασκεύασαν ένα σύνθετο δίκτυο υπόγειων μονοπατιών για τη μεταφορά τροφίμων και νερού στο εσωτερικό των σπηλιών.
Το υπόγειο μοναστήρι για περίπου 100 χρόνια πέτυχε το σκοπό για τον οποίο κατασκευάστηκε. Κράτησε τους κατοίκους της περιοχής ασφαλείς από τους Μογγόλους, αφού ο μοναδικός τρόπος να φτάσει κανείς εκεί ήταν ένας υπόγειο τούνελ που ξεκινούσε από ένα κοντινό ποταμό, το οποίο φυσικά οι επιδρομείς ποτέ δεν ανακάλυψαν.
Η μοίρα ωστόσο επιφύλασσε ένα άσχημο παιχνίδι για τη πόλη των σπηλαίων. Το 1283, σχεδόν έναν αιώνα μετά την κατασκευή της, ένας μεγάλος σεισμός έφερε την καταστροφή.
Η δύναμή του ήταν τέτοια που προκάλεσε κατολίσθηση στο βουνό Erusheli. Η μία του πλευρά κυριολεκτικά κατέρρευσε, παρασύροντας μαζί της και το μεγαλύτερο μέρος των σπηλιών και των μονοπατιών που βρισκόταν κάτω από αυτή. Τα δύο τρίτα της υπόγειας πόλης καταστράφηκαν ολοσχερώς και ότι απέμεινε από αυτή δε μπορούσε να χρησιμοποιηθεί σαν καταφύγιο αφού πλέον βρισκόταν σε κοινή θέα στην επιφάνεια του βουνού.
Εγκαταλείφτηκε μερικά χρόνια αργότερα και παρέμεινε έρημη μέχρι τον 20ό αιώνα, όταν κάποιοι μοναχοί την επισκέφτηκαν και αποφάσισαν να τη ξαναχρησιμοποιήσουν σαν μοναστήρι. Σήμερα λειτουργεί και σαν μουσείο, με τους λίγους μοναχούς που ζουν εκεί να ξεναγούν τους τουρίστες σε όσες από τις σπηλιές έχουν απομείνει.
