Lahir di Ghurfah dekat Hawi, Hadramaut pada tanggal 26 Sya’ban 1254 Hijriyah. Guru utama beliau adalah ayahnya sendiri, disamping itu beliau berguru kepada Habib Ali bin Husin Al-Haddad, Hadramaut. Sedangkan gurunya di Indonesia : Habib Abdurahman bin Abdullah Al-Habsyi dan Habib Abdullah bin Muchsin Al-Atthas.
Tidak diketahui tanggal yang pasti kedatangannya di Indonesia. Beliau mula-mula tiba di Timor, Kupang. Di sini ia tinggal sementara dan kawin dengan puteri di kota itu yang bernama Syarifah Raguan Al-Habsyi. Dari perkawinannya ia memperoleh anak yang bernama Muhammad. Setelah lebih kurang 6 tahun ia tinggal dikota itu lalu ia berangkat ke Jawa. Tiba di Jakarta dan menetap di Kali Bata kira-kira 10 tahun. Beliau terkenal dengan julukan “ Habib Kuncung “. Juga pernah tinggal di Bogor di rumah Habib Alwi bin Muhammad bin Thahir Al-Haddad. Habib Kuncung ini selama di Jakarta dan di Bogor tidak pernah kawin. Habib Kuncung wafat dan dimakamkan di Kali Bata pada umur 93 tahun yaitu pada tanggal 29 Sya’ban 1345 Hijriyah/1926 M. Muhammad, anaknya datang ke Jakarta dan kemudian tinggal dan kawin di Pengadegan, Jakarta Selatan. Walaupun demikian di tidak punya keturunan.
Habib Kuncung ini adalah ahli darkah, artinya saat-saat orang dalam kesulitan atau sangat memerlukan beliau muncul dengan tiba-tiba. Ia seorang wali yang mempunyai perilaku yang ganjil.
Sumber dari buku Menelusuri Silsilah Suci Bani Alawi – Idrus Alwi Almasyhur