Masjid ini asalnya dibina berasaskan kayu dan bumbungnya daripada atap nipah. Kedudukan masjid ini asalnya terletak di lokasi yang lain iaitu di bahagian belakang masjid baru yang dibina pada tahun 1924.

Pengasas masjid adalah Tuan Haji Abdul Hamid Bin Khatib yang merupakan imam pertama masjid ini. Beliau meninggal dunia pada tahun 1970-an dan dikebumikan di kawasan perkuburan masjid tersebut. Individu lain yang turut terlibat menyumbang dari segi kewangan di dalam pembinaan ini adalah Che Mat Haji Kecut. Di dalam pembinaan masjid ini,tukang Cina digunakan untuk kerja-kerja membina benteng dan tembok asas masjid manakala orang melayu dilantik menjadi tukang kayu serta melakukan kerja-kerja mengangkut tanah dan pasir. Pada tahun 1962, 1970-an, 1980-an dan 1990-an beberapa pengubahsuaian telah dilakukan ke atas masjid ini melibatkan kerja-kerja penambahan ruang ibadat dan pembinaan tandas baru.