Masjid asal dibina pada tahun 1890 dan terletak kira-kira 30 meter dari kedudukan masjid yang wujud pada hari ini. Masjid asal ini diperbuat daripada kayu dengan keluasan 30 x 40 kaki persegi.Masjid ini telah diasaskan oleh Datuk Penghulu Daud dengan bantuan Che Mat Haji Kecut. Tapak tanah masjid ini telah diwakafkan oleh Tuan Haji Yahya bin Sipang dan Akib bin Taip.

Menurut sumber lisan, pengangkutan yang digunakan untuk menarik keluar kayu-kayu dari hutan menggunakan kerbau atau kereta lembu, batu-bata pula diambil dari Bukit Punggor manakala batu karang yang diukir untuk menghias kemuncak dan penjuru-panjuru atap masjid di bawa dari Pulau Besar. Tukang yang mengetuai kerja-kerja pembinaan ini adalah Tuan Haji Yaacob dan Haji Yahya.Menara masjid dibina pada tahun 1922,dengan ketinggian 72 kaki.Mimbar masjid telah dibuat pada tahun 1303H. Penambahan ruangan beribadah di masjid ini telah dilakukan pada tahun 1925 melalui hasil kutipan derma orang ramai dan masyarakat setempat. Pada tahun 1979 masjid ini sekali lagi diubahsuai melibatkan kerja-kerja membuat kolah dan menaik taraf masjid. Pada tahun 1986,masjid ini sekali lagi diubahsuai untuk kerja-kerja menambah dua buah tandas dan kolah untuk mengambil air sembahyang.