Yörede bulunan bazı taş aletler, Yontma Taş Çağı'na kadar uzanan geçmişi göstermektedir. Karaz, Pulur, Güzelova ve Sos buluntuları; Erzurum'un İlk Tunç Çağı'nda geniş bir coğrafyaya yayılan Karaz Kültürü'nün merkezi olduğunu kanıtlamaktadır.
Erzurum: Tarih boyunca çeşitli medeniyetler
Hititler'in sınırlarında yer alan bölge, tarih boyunca pek çok savaşa ve istilaya maruz kalmıştır. MÖ 3000'den sonra Hurriler, Hayaşalar, Urartular, Asurlar, Kimmerler, İskitler, Medler ve Persler gibi çeşitli medeniyetlere ev sahipliği yapmıştır. Makedonya Kralı İskender'in MÖ 4. yüzyılda bölgeyi ele geçirmesiyle, Erzurum'un tarihi daha da karmaşık hale gelmiştir.
İskender'in ölümünün ardından Selökidler ve Roma İmparatorluğu'nun hakim olduğu bölgede, Romalılarla Partlar arasında çeşitli savaşlar yaşanmıştır. Roma'nın bölünmesiyle Bizans İmparatorluğu'nun payına düşen Erzurum, Bizanslılar ve Sasaniler arasında birkaç kez el değiştirmiştir.
395'te Bizans İmparatorluğu'nun bir parçası olan Erzurum, Bizanslılar ile Sasaniler arasında mücadele sahnesi olmuştur. Bu dönemde Hun Devleti'nin Karadeniz'in kuzeyindeki akınları, Erzurum havalisini etkilemiş ve bölgeye yerleşmiştir. Hunlar'ın istilası, MÖ 4. yüzyılda Anadolu'ya ilk Türk girişini temsil etmektedir.
Roma İmparatorluğu'nun 4. yüzyılda ikiye bölünmesiyle, Bizans İmparatoru II. Theodosius'un doğudaki generali Anatolius, 412-415 yılları arasında stratejik bir konumda bulunan Karin'e kale inşa ettirmiş ve şehrin adını "Theodosiopolis" olarak değiştirmiştir. Bu, günümüze kadar ulaşan Erzurum'un temellerini atmıştır.
Erzurum, tarihi boyunca Bizans İmparatorluğu ile Emevi ve Abbasiler arasında birçok kez el değiştirmiştir. 638'de İslam ordusu komutanı İyas oğlu Ganem tarafından ele geçirilmiş, ancak Arapların tam anlamıyla şehre yerleşmeleri mümkün olmamıştır. Erzurum, 949 yılına kadar Bizanslılar ve Müslüman Araplar arasında birçok kez el değiştirmiştir.
Müslüman Araplar 949 yılında Bizans İmparatorluğu ile yaptıkları savaşı kaybedince bölgedeki hakimiyetlerini tamamen yitirmişlerdir. Müslümanlar, Theodosiopolis'e "Halı Şehri" anlamına gelen "Kalikala" ismini vermişlerdir. 7. yüzyılda nüfusu 200 bine yükselen Erzurum, o dönemde dünyanın en büyük şehirlerinden birisi konumundaydı.
1048'de Doğu Anadolu bölgesini fethetmek üzere Bizans topraklarına giren Selçuklu Türkleri, Erzurum Ovası'nın batısındaki Erzen'i ele geçirdiler. Bu saldırılar sonucu harap olan Erzen'den kaçan halk, Kalikala'ya sığınarak buranın adını Erzen olarak değiştirmiş, harap olmuş asıl Erzen'e Türkler, Kara Erzen ve zamanla Karaz adını vermişlerdir. Yeni Erzen ise Erzen-i Rum ve Erzurum ismine dönüşmüştür.
Erzurum'da Türk hakimiyeti, 1071 Malazgirt Zaferi'nden sonra Selçuklu Sultanı Alparslan'ın komutanlarından Kasım'ın Bizanslıları yenerek Erzurum'u fethetmesiyle tekrar sağlanmıştır. Malazgirt Zaferi'nden sonra Sultan Alp Arslan, Erzurum'u ve çevresini Ebûl-Kâsım Saltuk'a ikta olarak vermiş, böylece Erzurum ve çevresinde kurulan Saltuklular, Anadolu'da kurulan ilk Türk beyliğini oluşturmuştur.
1242'de Moğollar'ın eline geçen bölge, 1335 yılına kadar İlhanlı egemenliği altında kalmıştır. İlhanlılar'ın dağılmasının ardından Erzurum ve çevresi Eretna Türk beyliğine geçmiştir. 14. yüzyıl sonlarında Karakoyunlular ve daha sonra Timur, Erzurum'u ele geçirmiştir. 15. yüzyıl ortalarında Akkoyunlular, 1502'de Safevi Hanedanlığının kurucusu Şah İsmail tarafından ele geçirilen şehri geri almıştır. Ancak 1514 yılında Yavuz Sultan Selim'in Erzurum'u fethetmesiyle şehir kesin olarak Osmanlı topraklarına katılmıştır.
Erzurum, I. Dünya Savaşı'nda işgal edilen Anadolu'nun kurtuluş mücadelesine kritik bir rol oynamıştır. 3 Temmuz 1919'da Mustafa Kemal Atatürk'ün liderliğinde Erzurum'a gelen delege, 23 Temmuz 1919'da Erzurum Kongresi'ni düzenleyerek Milli Mücadele'nin en önemli adımlarından birini atmıştır. Milli mücadele, milli birlik ve bağımsızlık hareketinin temelinin atıldığı bu kongre ile başlamıştır. Türkiye Cumhuriyeti'nin kuruluşu olan 29 Ekim 1923 tarihinde Erzurum, genç cumhuriyetin önemli şehirlerinden biri olarak yerini almıştır.