Erzincan'ın antik tarihine dair detaylar tam olarak bilinmese de, tarihçilere göre bu bölgede M.Ö. ikinci bin yılda Hurriler yaşamıştır. Aynı dönemin başlarında Hayaslılar ve Azziler de bu topraklarda hüküm sürmüşlerdir.
M.Ö. 1050-1180 yılları arasında, Anadolu'nun büyük bir kısmını yöneten Hititler, başkentleri Hattuşaş'tan yönettikleri geniş topraklarda Erzincan da dahil olmuştur. Anadolu'nun birçok yerinde Hititlere ait kalıntılara rastlanmıştır. Erzincan bölgesinde doğrudan Hitit yerleşimine dair belirgin bir kalıntı bulunmamış olsa da, bölgenin bu büyük medeniyetin kontrolü altında olduğu genel kabul görmektedir.
Urartular ise Doğu Anadolu'nun ilkçağda önemli devletlerinden biridir. M.Ö. 900 yıllarında kurulan bu krallık, başkentleri olan Van'ı (Tuspa) merkez yaparak geniş bir coğrafyaya yayılmışlardır. Bu devlet, Hazar Denizi'nden Malatya'ya, kuzeyde Erzurum-Erzincan hattından, güneyde ise Halep-Musul'a kadar geniş bir alanda hüküm sürmüştür.
Erzincan'ın Altıntepe bölgesinde Prof. Dr. Tahsin ÖZGÜÇ önderliğinde gerçekleştirilen arkeolojik kazılar (1953), bölgenin Urartular döneminde önemli bir yerleşim yeri olduğunu kanıtlamıştır.
Urartu şehirleri bir dizi saldırıya maruz kaldı ve M.Ö. 600 civarında Medler'in Anadolu invazyonu sırasında neredeyse tamamen yok oldu. Bu istilanın ardından Erzincan ve civar bölgeler, Medler'in hakimiyeti altına girdi. Medler'in Kyaksar dönemindeki Lidya savaşları, büyük olasılıkla Erzincan çevresinde gerçekleşti. M.Ö. 550'lerde bölge, Perslerin kontrolüne geçti.
Persler'in yükselmesi, özellikle Ciroz (550-530) ve Kampis (530-520) dönemlerinde belirginleşti. Bu dönemde, Erzincan dahil birçok alan Pers hakimiyetine girdi. Daha sonra Anadolu, Makedonya'nın eline geçti.
Roma İmparatorluğu M.Ö. 70'te Doğu Anadolu'yu fethetmeye başladı ve bu süreçte Elazığ yakınındaki Safen Krallığı'nı ortadan kaldırdı. Ertesi yıl, Pontus Krallığı da Roma'nın denetimine girdi. Erzincan, Bizans ve Pers arasında sürekli savaşlara tanıklık etti ve son olarak Bizans İmparatoru II. Herakleios'un 629'da Persleri yenmesiyle Bizans'ın denetimine girdi.
Halife Hz. Osman döneminde, 655 yılında, Habib bin Mesleme'nin liderliğindeki Müslüman ordusu Erzincan'ı fethetti. Ancak, Erzincan, Abbasiler döneminde birçok kez saldırıya uğradı. Halife Mütevekkil Alallah zamanında, Malatya Valisi Ömer bin Abdullah'ın liderliğindeki Müslüman ordusu, Arapgir, Eğin, Kemah, Erzincan ve Trabzon şehirlerini Bizanslılardan geri aldı (859) ve böylece Erzincan tekrar Müslümanların kontrolüne geçti.
Türklerin Anadolu'ya gelişleri, akınlar şeklinde başladıysa da, bu toprakları vatan olarak benimsemelerinin başlangıcı genellikle Malazgirt Zaferi (1071) ile ilişkilendirilir. Bu zaferin ardından Sultan Alparslan, Karasu ve Çatlı vadilerinin fethi için Mengücek Ahmet Gazi'yi atanmıştır.
Mengücek Ahmet Gazi, Alparslan'ın güvendiği komutanlardan biriydi ve Erzincan, Kemah, Divriği ve Şebinkarahisar bölgelerini Osmanlı egemenliği altına getirdi. Başkent olarak Kemah'ı seçti. Ahmet Gazi'nin vefatı (1114) sonrasında oğlu İshak Bey yönetimi devraldı. Ancak İshak Bey'in vefatından sonra (1124) tahta Melih Mahmut geçti. İshak Bey'in diğer oğulları Melih Mahmut'u tanımadı ve Mengücek devleti parçalandı. Kemah Melih Mahmut'un kontrolüne geçerken, Erzincan Davut Şah'ın ve Divriği Süleyman Şah'ın eline geçti. Ancak, Davut Şah'ın vefatının ardından (1151) Erzincan, 13 yıl boyunca Süleyman Şah'ın denetiminde kaldı. Ancak, Davut Şah'ın oğlu Fahrettin Behram Şah 1165'te tahta geçtiğinde, Mengücek Beyliği eski gücüne kavuştu. Fahrettin Behram Şah'ın, Kılıçarslan ile akrabalık ilişkisi kurmuş olması, Mengücek ve Selçuklu ilişkilerini daha da güçlendirdi.
Behram Şah döneminde Erzincan, ticaret ve sanayi alanında büyük bir gelişme gösterdi. Ancak, bölgedeki sıkça yaşanan depremler sebebiyle bu döneme ait pek çok tarihi eser günümüze ulaşamamıştır. 1225'te Erzincan'da vefat eden Behram Şah, Urla'nın yakınlarında bir köyde son yolculuğuna uğurlandı.
Anadolu'nun derin tarihine ev sahipliği yapan Erzincan, tarih boyunca birçok medeniyetin hüküm sürdüğü ve kültürel izler bıraktığı bir coğrafyada yer almaktadır.
Türklerin Anadolu'ya yerleşim süreci, Malazgirt Zaferi'yle derinleşmiş, Mengücek Ahmet Gazi bu sürecin en önemli mimarlarından biri olarak Erzincan ve çevresini fethetmiştir. Mengüceklerin etkinliği, Alaaddin Keykubat'ın Erzincan'ı ele geçirmesiyle son bulmuştur. Bu dönem, aynı zamanda Celalettin Harzem Şah'ın Alaattin Keykubat'a karşı yenilgiye uğradığı Yassı-Çemen savaşını da kapsamaktadır.
Timur-Taş’ın Mısır’a sığınmasının ardından, Erzincan'da politik ve askeri çekişmeler devam etti. Bu dönemde, bölgenin Akkoyunlular'ın etkisine girdiğini görmekteyiz. Ancak, Osmanlı İmparatorluğu'nun yükselmesiyle Erzincan, Osmanlı hakimiyetine girdi. Safevi hükümeti, Erzincan'ı kısa bir süreliğine ele geçirse de, Yavuz Sultan Selim'in zaferiyle şehir yeniden Osmanlı topraklarına dahil oldu.
Kentin zengin tarihini ve stratejik önemini, Kanuni Sultan Süleyman'ın iki farklı seferde Erzincan'a uğraması da teyit etmektedir. Ancak, Birinci Dünya Savaşı sırasında Erzincan, Rus işgaline ve Ermeni çetelerinin saldırılarına maruz kalmış, ardından Kazım Karabekir komutasındaki Türk kuvvetleri tarafından kurtarılmıştır.
Erzincan’ın eski adı
Erzincan'ın tarihi kökenleri, Asur kaynaklarında Zuhma (Suhmi- Suhma) adıyla başlar. Bu eski adın yanı sıra, Erzincan ismi, Aziris veya Eriza terimlerinden türemiştir. Selçuklular döneminde "Erzingan" olarak anılan şehir, zamanla günümüzdeki "Erzincan" ismine kavuşmuştur. Bölgenin tarihine dair araştırmalar, bu coğrafyanın Paleolitik Çağ'a kadar uzandığını göstermektedir.