Masjid ini terletak di km. 14.4 Tangga Batu Pekan, Tanjung Kling. Masjid asal telah dibina pada 1910 dengan bahan berasaskan kayu.

Pada 1925, masjid ini ini dibina semula pada lokasi yang berlainan iaitu lokasi 22meter dari lokasi asal. Pengasas kepada pembinaan masjid baru ini adalah Imam Ismail bin Salim. Beliau turut menyumbang sebahagian daripada kos pembinaan dan sebahagian lagi ditanggung melalui hasil derma penduduk kampung dan masyarakat setempat. Pembinaan masjid ini dilaksanakan oleh masyarakat kampung secara gotong-royong dengan bantuan tukang Cina. Tapak tanah masjid ini adalah mengikut geran Belanda yang diwakafkan.

Tiang seri masjid ini adalah menggunakan kayu berlian dan telah menjadi ciri utama yang diberi perhatian dalam pembinaan masjid ini . Pengubahsuaian masjid ini telah dilaksanakan pada tahun 1990 dan1995. Pengubahsuaian yang dilakukan pada 1995 adalah melibatkan pemasangan jubin di lantai masjid tersebut.