Gürün çok Eski zamanlardan beri meskun bir yer olduğu kaya oyuklarından anlaşılmaktadır.Anadolunun M.ö.2000 yıllarında kuvvetli devleti olan Hititler zamanında Melid(Malatya) ,Mazlaka (Kayseri), Sebastea (Sivas),Kokusun (Göksün) şehirleri arasında bulunan Tegerama(Gürün) oldukça mühim geçit ve yol kavşakları üzerinde bulunduğu bilinmektedir.Hititlerin Anadolu ile Mezapotomya arasındaki ticarette,işlek karayollarını kullandıklarını anlıyoruz.Bunlardan Keneş (Kültepe-Kayseri)başlayan yolunTegerama (Gürün),Darende,Malatya,Samsat üzeriden Urfaya vardığı ve burdan Halep Asur ve Babil'e gittiği anlaşılmaktadır.Tohma Vadisi Üzeride bulunan Gürün'ün tarin boyunca önemli ticaret yollarına sahip olmuştur.Halen Belediye binası karşısında kuzey yönündeki kale olarak adlandırılan eski kalıntılada mağralar mevcuttur.Burası Büyük hiti İmparatorluğu zamanında Kale olarak kullanılmıştır.Bu kalenin 3 km.güneybatısında bulunan Burçevi kalıntıları ve harap şatosu , ayrıca doğuda Çayboyu (Gübün) mahallesinin hemen kuzeyinde yine kaya oyukları bulunmaktadır.Gerek Gübün'deki gerekse Gürün'deki kale ile burç evi arasıdaki yeraltı dehlizleri bir birine bağlantılı ve insan eli ile yapıldığı tesbit edilmiştir.Şuğul vadisinde Hititler zamanından kalma kaya yazıtları bulunmaktadır.Gürün  KalesiM.Ö.700 yıllarıda Doğu Hitit İmparatorluğu küçük prensliklere bölünmüş ve Asurlular ile savaşlara başlamışlardır.Hititlerin iyice zayıflamasıdan sonra Tegerama (Gürün) Asurluların Hakimiyeti altına girmiştir. Asurluların yıkılmasından sonra Lidya devleti eğemenliğine girmiştir.M.Ö.334 'de ise Büyük İskenderin Anadoluyu istalası sonucu kurulan Kapadokya devleti eğemenliğine girmiştir.M.ö.63 yıllarıda Anadolu Roma hakimiyeti ve devamında Bizans hakimiyetinde İslamiyet Devrine kadar kalmıştır.Gübün KalesiGürün M.S.1000 yıllarında Abbasiler devrinde Malatya beyliğine bağlı bir kasaba olmuştur.26.Ağustos.1071 Malazgirt savaşı sonunda Alparslan'ın komutanlarıdan Emir Ahmet Danişment Gazi Sivas ve havalisini Selçuklu hakimiyeti altına alımış,Ahmet Danişment Gazinin oğlu Melik Gazi Gürün'ü Danişmentli beyliğine katmış,Danişmentli devri1072 yılından1174 yılına kadar devam etmiştir.1243 yılında Selçuklularlar Moğollar arasında yapılan Kösedağ savaşın kadar Gürün Selçuklu Kabası olarak kalmıştır. Kösedağ savaşında selçuklular yenilince Gürün bir süre Moğolların İlhanlılar kolu hakimiyeti altında kalmıştır.Hitit kaya yazıtlarıDaha sonra 1381-1398 yılları arasında Gürün Kadı Burhattin hakimiyetine girmiş 1398 yıldan sonrda Yıldırım Beyazıt zamanında Osmanlı İmparatorluğu hakimiyetine girmiş Ankara savaşından sonra(1402)bir süre Timur hakimiyetinde kalmışsada bu dönem kısa sürmüştür.1830 yılıda subaşılık olmuştur. Evliya Çelebi Seyahatnamesinde "Afşin'den kuzeye doğru giderek Gürün kasabasına geldik.Gürün Sivas Eyaletinde,Engel toprağında 150 akçelik nahiye kazasıdır.1000 haneli olup camii, mescidi,hanı,hamamı sultan çarşısı olan şirin bir kasabadır.Türkmenağası hükmündedir.Şehir içinde nehir akar denmektedir.