Klenteng Sam Po Kong sebenarnya merupakan kompleks candi lima duduk bersama di kawasan seluas 3,2ha.
Candi, dibangun berdampingan satu sama lain, terlihat megah dengan warna cerah merah dan unik Cina-Jawa arsitektur. Kompleks candi ini dibangun untuk menghormati orang Cina-Muslim Laksamana Cheng Ho ("Cheng Ho" di Pin-Yin) yang mengunjungi Semarang selama salah satu perjalanan di abad ke-15 awal.
Cheng Ho telah dihormati untuk membawa Islam ke wilayah ini dan juga perdamaian dan harmoni kepada masyarakat Semarang, dan di sini di Semarang ada perayaan tahunan besar untuk memperingati.
Candi utama, Sam Po Kong Temple, adalah yang terbesar dengan banyak pilar merah tinggi dan pilar utama depan yang indah diukir dengan motif mistis. Candi ini memiliki tiga tingkat atap konsentris yang memiliki patung-patung hewan beberapa berbaris di sepanjang tepi ujung melengkung.
Melekat pada bagian belakang dari candi ini adalah candi gua yang merumahkan sebuah altar dan juga sebuah patung kecil Laksamana Cheng Ho. Panjang seluruh dinding luar di pintu masuk ke gua ini terbuat dari patung-patung batu yang indah yang menggambarkan cerita dahulu kala tentang kunjungan admiral ke Semarang sekitar 600 tahun yang lalu.
Dalam dasar candi juga patung berwarna-warni banyak dan patung dewa dan juga berbagai patung perunggu yang sangat besar dari admiral dekat pintu masuk.