Halk arasında Taşhan olarak da bilinen Rüstem Paşa Kervansarayı, Kanuni Sultan Süleyman Dönemi’nin ünlü devlet liderlerinden olan Sadrazam Rüstem Paşa tarafından 1561 yılında inşa ettirilmiştir.

Fevziye Mahallesi’nde yer alan bu alışveriş noktası, geçmiş asırlarda kervanlara 7/24 hizmet veren bir merkezdir. Kervansaray içerisinde dinlenme yerleri, dükkanlar, mescit ve imarethane inşa edilmiş, ayrıca hayvanların da ihtiyaçlarının karşılanabileceği bir bölüm kurulmuştur.

Bu yapılardan büyük bölümü günümüze kadar ulaşmayı başaramamıştır. Erzurum’un bir sınır şehri olmasından dolayı, buranın aynı zamanda Rüstem Paşa tarafından bir karakol olarak inşa edildiği, çarşının kapısındaki kitabeden anlaşılmaktadır.

Burada Osmanlı Dönemi’nde sürekli olarak elit bir akıncı birliğinin de barındığı bilinmektedir. Osmanlı sınırlarının, Erzurum’un çok ötesine genişlemesi ile beraber, Rüstem Paşa Kervansarayı da bir karakol olmaktan çıkıp geniş bir alışveriş merkezi haline gelmiştir.