Sebuah perkuliahan pasti mewajibkan pelajar di dalamnya dalam membaca buku rujukan kuliah, tidak terkecuali Ma’had Aly At-Tarmasi. Namun ketika berbicara tentang keilmuan Pesantren pasti akan merujuk pada buku berbahasa arab ( Kitab Kuning ) sebagai rujukkan utama, dan buku berbahasa Indonesia sebagai penambahan wawasan pelajar.
Memang benar bahwa rujukan utama keilmuan Islam adalah Al-Qur’an dan hadis. Namun teks-teks dalam Al-Qur’an dan hadis tidak mudah diinterpretasi layaknya karya tulis pada umumnya. Dibutuhkan perantara dalam memahami dua rujukan tersebut dan perantara tersebut tidak lain adalah syarah-syarah hasil olah pikir ulama-ulama Islam yang disebut kitab kuning
Ma’had Aly At-Tarmasi sebagai lembaga pendidikan yang bertujuan untuk mencetak kader Ulama’ terus melestarikan kitab kuning sebagai rujukan keilmuan pelajarnya. Melalui tes baca kitab, pelajar yang masuk diharuskan dapat membaca kitab kuning dan selanjutnya diajak untuk lebih mendalami kitab kuning terkusus badang bidang Fiqh dan Usul Fiqh demi tercapainya pemahaman keilmuan Islam yang mendalam.