Masjid ini terletak di km 40,dalam mukim Sungai Baru Ilir.Ia dibina pada tahun 1928-1930 seperti tercatat di pintu gerbang masjid pada tahun 19630 (1315 H). Pembinaanya pernah dihentikan  kerana menghadapi kemelesetan ekonomi dan disambung semula pada tahun 1938.

Pembinaan masjid diteruskan semula oleh Sidang Letak bin Rauf bersama beberapa individu yang lain dengan mengutip derma dari masyarakat kampung. Jumlah kutipan dibuat berdasarkan kepada pasangan yang sudah berkahwin sebanyak dikenakan bayaran RM25.00 dan bagi individu yang masih bujang sebanyak RM15.00.

Tukang yang membina masjid adalah terdiri daripada tukang-tukang  Cina dan dibantu oleh orang-orang kampung. Walubagaimanapun, semua pihak yang terlibat dalam kerja-kerja pembinaan telah dibayar upah sebagai menghargai titik peluh mereka. Tanah tapak masjid ini diwakafkan oleh Naimah bte Amin.

Masjid ini pernah diubahsuai sebanyak 2 kali iaitu pada 1970 melalui pembiyaan kerajaan  negeri.  Kos pengubahsuaian kedua juga dibiayai oleh kerajaan negeri bagi penambahan ruang  di bahagian masjid. Pengubahsuaian ini berjalan lancar dan telah dirasmikan oleh YB. Jaafar bin Lajis sebagai wakil Ketua Menteri.