Eski bir tarihi olan ilçe, Urartu, Asurlular, Medler-Persler, Büyük iskender ve Romalıların egemenliğinde kalmıştır.
1473 yılındaki Otlukbeli savaşıyla Osmanlı’ya katılan bölge, 1512 yılında Safevilerin eline geçmiştir. İlçe, Kanuni Sultan Süleyman zamanında tümüyle Osmanlı hakimiyetine girer.
İlçede bulunan Tercan barajından, enerji üretimi ve arazi sulama yönünde faydalanılmaktadır. Tercan ilçemizde, Sümerbank ayakkabı fabrikası ve un fabrikası bulunmaktadır.

TARİHİ VE TURİSTİK YERLERİ
MAMAHATUN TÜRBESİ
Tercan ilçesinde bulunan ve. Saltuklu eğemenliği dönemine ait olan türbenin, 1192 yılında ölen Saltuklu Erzurum sahibesi Mamahatun için yaptırıldığı sanılmaktadır.
Planı ve mimari özelliği ile dikkati çeken yapının, kapısı üzerindeki kitabede, Ahlat’lı Ebu’l-Nema Bin Mutafattal'ın eseri olduğu yazılıdır. Anadolu mimarisi içinde tek örnek olan yapı, ortada ana kümbet ve çevresindeki dairesel duvarı ile iki bölümden oluşmaktadır.
Çevre duvarı onbir nişli olup, bu nişlere, Mamahatun'un yakınlarının sandukaları yerleştirilmiştir. İki katlı olan kümbet bölümü dıştan sekiz bükey dilimler ve köşelerinde ince sütunlarla son bulmaktadır. Kümbetin altında da çapraz tonozlu mezar odası vardır. Üst kattaki mescide 7 basamakla çıkılmaktadır. Taç kapı mukarnas dolgu, geometrik motifler, çok dilimli özetler ve dörtlü düğümlerle bezenmiştir. Bordürlü dikdörtgen niş içindeki mazgal pencereleri, üzüm salkımı, palmet, rumi süslemelidir.

MAMAHATUN KERVANSARAYI
Planı ve mimari özellikleriyle 12. yüzyılın sonunda yapıldığı Mamahatun Kervansarayı; Mamahatun Türbesinin 30 m. doğusundadır.
Sarımsı renkte, düzgün taş bloktan yapılan yapı, çevre duvarı konik kubbeli 16 silindirik yarım kule ile çevrelenmiştir. Sivri kemerli taç kapısı, girişin sağ ve solundaki dikdörtgen planlı ozlu odaları vardır. Ortada üstü açık avlu, kuzey ve güneyinde yük hayvanları için uzun odalarla bir dizi hücre bulunmaktadır.

PEKERİÇ KALESİ (ÇADlRKAYA)
İlçenin Çadırkaya beldesinde bulunmaktadır. Yaklaşık 100 metre yüksekliğinde doğal, kayadan oluşmaktadır. Kayaya oyulmuş odalar, merdivenler, sarnıçlar bulunmaktadır. Surlardan günümüze çok azı gelebilmiştir. Kalıntılar buranın çok eski bir yerleşim alanı olduğunu göstermektedir .

ABRENK (VANK) KİLİSESİ
Üçpınar Köyü yakınlarındaki Vank dağının güneydoğusunda, çukurca bir alan içerisindedir. Giriş kapısının üzerinde 1854 tarihi geçmektedir. Kilise ile birlikte bir şapel ve iki tane de dikili taş bulunmaktadır. Bu taşlar, mimarisi ve bezemesiyle dikkat çekip, XII. yy. dan sonra Selçuklu Prensi Nasurettin dönemiyle tarihlenen kitabeler taşırlar.

KEFRENCİ TAPINAĞI
İlçenin Oğulveren Köyündedir. Bezemeleri önem taşımaktadır. Yapı İran özelliğine sahiptir.

KÖTÜR KÖPRÜSÜ
Tuzla suyu ile Karasu'nun birleştiği yerdedir. Tümüyle yontma taştan olan yapının günümüzde sadece ayakları mevcuttur.

OKLU BABA
İlçeye 20 km. uzaklıkta, Çadırkaya Beldesinde bir tepe üzerinde taşlarla kaldırılmış bir mezardır. Savaşta ok ile şehit düşmüş ermiş bir zattır.

AĞ BABA
İlçeye l5 km. uzaklıkta Akyurt köyündedir. Ağaçlık ve sulu bir mesire yeridir. Kutsal sayılan bu yer halk tarafından ziyaret edilmekte ve kurban kesilmektedir.