มีการตั้งถิ่นฐานในดินแดนแถบนี้มานานแล้วกว่า 3000 ปี เคยเป็นทางผ่านของเส้นทางการค้าสายไหมระหว่างเอเชียกับยุโรป รวมถึง ศูนย์กลางทางศาสนาและวัฒนธรรม เมื่อมองโกลเข้ามารุกรานในช่วงคริสต์ศตวรรษที่ 13 ทำให้นครถ้ำแห่งนี้กลายเมืองร้าง ต่อมากลายเป็นสถานที่ลี้ภัยสงครามจากผู้รุกรานชาติอื่นๆ
นครถ้ำแห่งนี้มีพื้นที่ 50 ไร่ โครงสร้างของสถาปัตยกรรมมีการผสมผสานระหว่างลัทธิเพเก้นและคริสต์ออร์โธดอกซ์ โดยมีห้องโถงขนาดใหญ่ที่ชาวเพเก้นประกอบพิธีกรรมบูชาไฟ และมีโบสถ์คริสต์เก่าแก่ที่สร้างขึ้นในช่วงคริสต์ศตวรรษที่ 9 หลังจากที่มีคริสต์ศาสนาได้เข้ามาเผยแผ่
