Yıldızeli tarihi;Sivas ve çevresi ile ilgili yazılan kitaplarda, hazırlanan yıllıklarda Yıldızeli tarihçesinin başlangıcı olarak l639 yılı alınsa da, ilçede tarih öncesinde M.Ö.4500'lerden itibaren yerleşimlerin olduğu, yapılacak yeni arkeolojik çalışmalarla bu tarihin çok daha öncelerine inebileceği anlaşılmıştır. İlçenin Kalkolitik Devir'den itibaren, Eski Tunç, Orta Tunç, Hitit, Frig, Med ve Pers dönemleri, Makedonya Krallığı ve Hellenistik dönem, Roma, Bizans, Selçuklu, Beylikler ve Osmanlı döneminden günümüze kadar uzanan bir tarih sürecinde Orta ve Doğu Anadolu'nun bir geçiş bölgesi olarak sürekli iskana tabi olduğu anlaşılmaktadır.

        Yeterli araştırma olmaması sebebiyle Yıldızeli civarında antik ismi bilinen yerleşim yoktur.

        Bugünkü ilçe merkezinin bilinen ilk adı “YENİHAN”dır. Bu isim yöreye l639 yılında ilçenin yerleşim yeri olarak kurulduğu sırada yaptırılan handan dolayı verilmiştir. Osmanlılar döneminde ve Cumhuriyetin ilk yıllarında da aynı şekilde kullanılmıştır.

        1936 yılında, ilçe sınırları içerisinde bulunan ve bölgenin en yüksek dağı olan Yıldız Dağı'ndan ( 2557) esinlenerek “Yenihan” adı “YILDIZELİ” olarak değiştirilmiştir.

IV. Murat Döneminde Yıldızeli'nin Kuruluşu ve Gelişimi
        1639 yılına kadar Yıldızeli ilçesinin bugünkü yerleşim alanının sazlık ve bataklık bir yer olduğu ve bölgede iki-üç evlik bir köyün varlığı hakkında çeşitli rivayetler bulunmaktadır. Evliya Çelebi'nin Seyahatname'sinde bu bölgenin buradan geçenler için korkulu bir dar geçit olduğu belirtilmektedir.

        1639 yılında Osmanlı Devleti'nin XVIII. Padişahı olan IV. Murat, Bağdat Seferi'ne çık­madan önce I. Veziri Kemankeş Kara Mustafa Paşa'ya sefere gidecek ordu için konak­lama merkezleri yapılması için emir vermiştir.

        Bunun üzerine Vezir Kemankeş Mustafa Paşa, ordu güzergahı üzerinde bulunan ve Tokat, Yozgat ve Sivas il yollarının kesiştiği yer olan bu­günkü Yıldızeli'nin bulunduğu yere gelerek, bataklık ve sazlık alanı kurutmuş; 1639-1640 yıllarında buraya büyük bir han, bir cami, iki mescit, bir hamam ve bir de sıbyan mektebi yap­tırarak burayı yerleşim alanı olarak kurdurmuştur.

        Yeni kurulan bu yerleşim alanına bölgeye yakın yerlerden halkın yerleşmesi sağlanmıştır. IV.Murat bu yeni yerleşimin bütün yetkisini Kemankeş Kara Mustafa Paşa'ya vermiştir. Kemankeş Kara Mustafa Paşa Yıldızeli'nde bir vakıf kurdurarak buraya yerleşenlerden vergi alınmamasını, askerlikten muaf tutulmasını ve güvenliklerinin sağlanmasını isteyerek, nüfusun artmasını gerçekleştirmiştir.