Mas Mansur lahir pada hari Kamis Tanggal 25 Juni l896 di Surabaya. Ayahnya bernama K.H. Mas Ahmad Marzuqi, seorang pemikir Islam, ahli agama yang terkenal di Jawa Timur pada masanya. Ibunya bernama Raudhah dari keluarga Pesantren Wonokromo. Masa kecilnya dilalui dengan belajar agama pada ayahnya sendiri. Di samping itu, dia juga belajar di Pesantren Sidoresmo, lalu Pondok Pesantren Demangan, Bangkalan, Madura.

Belajar di Mekkah dan Mesir

Pada tahun 1908, beliau berangkat menunaikan ibadah haji dan belajar ke Mekkah. Setelah kurang lebih empat tahun belajar di sana, situasi politik di Saudi memaksanya pindah ke Mesir. Di Mesir, Mas Mansur belajar di Perguruan Tinggi Al-Azhar. Suasana Mesir pada saat itu sedang gencar-gencarnya membangun serta menumbuhkan semangat nasionalisme dan pembaharuan. Mas Mansur memanfaatkan kondisi ini dengan membaca tulisan-tulisan yang tersebar di media massa dan mendengarkan pidato politik. Sebelum pulang ke tanah air, terlebih dulu ia singgah kembali ke Mekah selama satu tahun dan pada tahun 1915 tiba di Indonesia.

Ia belajar di Al Azhar kurang lebih 3 tahun lamanya. Selama di Mesir berkesempatan mengunjungi beberapa negara Islam, antara lain meninjau pesantren Syanggit di Tripoli yang amat berkesan dihatinya. Berhubung dengan berkecamuknya perang dunia I, dipanggil pulang oleh ayahnya. Dalam perjalanan pulang bermukim lagi satu tahun di Mekah.

Sepulang dari belajar di Mesir dan Makkah, ia menikah dengan puteri Haji Arif yaitu Siti Zakiyah yang tinggalnya tidak jauh dari rumahnya. Dari hasil pernikahannya itu, mereka dikaruniai enam orang anak, yaitu Nafiah, Ainurrafiq, Aminah, Muhammad Nuh, Ibrahim dan Luk-luk. Disamping menikah dengan Siti Zakiyah, dia juga menikah dengan Halimah. Dia menjalani hidup dengan istri kedua ini tidak berlangsung lama, hanya dua tahun, karena pada tahun 1939 Halimah meninggal dunia.
Langkah awal Mas Mansur sepulang dari belajar di luar negeri ialah bergabung dalam Syarikat Islam. Peristiwa yang dia saksikan dan alami baik di Makkah, yaitu terjadinya pergolakan politik, mau­pun di Mesir, yaitu munculnya gerakan nasionalisme dan pembaharuan merupakan modal baginya untuk mengembangkan sayapnya dalam suatu organisasi. Pada saat itu, SI dipimpin oleh HOS. Cokroaminoto, dan terkenal sebagai organisasi yang radikal dan revolusioner. Ia dipercaya sebagai Penasehat Pengurus Besar SI.

Terbentuknya Taswir al-Afkar 

Selain itu, Mas Mansur juga membentuk majelis diskusi bersama Abdul Wahab Hasbullah yang diberi nama Taswir al-Afkar (Cakrawala Pemikiran). Terbentuknya majelis ini diilhami oleh keadaan masya­rakat Surabaya yang diselimuti kabut keko­lotan. Masyarakat sulit diajak maju, bahkan mereka sulit menerima pemikiran baru yang berbeda dengan tradisi yang mereka pegang. Taswir al-Afkar merupakan tempat berkumpulnya para ulama Surabaya yang sebelumnya mereka mengadakan kegiatan pengajian di rumah atau di surau masing-masing. Masalah-masalah yang dibahas berkaitan dengan masalah-masalah yang bersifat keagamaan murni sampai masalah politik perjuangan melawan penjajah.
Aktivitas Taswir al-Afkar itu mengilhami lahirnya berbagai aktivitas lain di berbagai kota, seperti Nahdhah al-Wathan (Kebangkitan Tanah Air) yang menitikberatkan pada pendidikan. Sebagai kelanjutan Nahdhah al-Wathan, Mas Mansur dan Abdul Wahab Hasbullah mendirikan madrasah yang bernama Khitab al-Wathan (Mimbar Tanah Air), kemudian madrasah Ahl al-Wathan (Keluarga Tanah Air) di Wonokromo, Far’u al-Wathan (Cabang Tanah Air) di Gresik dan Hidayah al-Wathan (Petunjuk Tanah Air) di Jombang. Kalau diamati, dari nama yang dimunculkan, yaitu wathan yang berarti tanah air, maka dapat diketahui bahwa kecintaan mereka terhadap tanah air sangat besar. Mereka berusaha mencerdaskan bangsa Indonesia dan berusaha mengajak mereka untuk membebaskan tanah air dari belenggu penjajah. Pemerintahan sendiri tanpa campur tangan bangsa lain, itulah yang mereka harapkan.

Taswir al-Afkar merupakan wadah yang diskusinya, mau tidak mau permasalahan yang mereka diskusikan, merembet pada masalah khilafiyah, ijtihad dan madzhab. Terjadinya perbedaan pendapat antara Mas Mansur dengan Abdul Wahab Hasbullah mengenai masalah-masalah tersebut yang menyebabkan Mas Mansur keluar dari Taswir al-Afkar.

Mas Mansur dan Muhammadiyah

Setibanya kembali di tanah air, dari Jakarta K.H. Mansur tidak langsung pulang ke Surabaya, tetapi singgah di Yogyakarta pada K.H. Ahmad Dahlan, pendiri Muhammadiyah, untuk memperkenalkan diri dan bersilaturahmi. Rupanya sejak di negeri Saudi Arabia sudah tertarik oleh Muhammadiyah yang didirikan K.H. Ahmad Dahlan tiga tahun sebelum pulang. Sejak itu terjadilah hubungan erat antara K.H. Mas Mansur dengan K.H. Ahmad Dahlan dan pada tahun 1921 K.H. Mas Mansur pun masuk menjadi anggota Muhammadiyah.

Sebelum masuk Muhammadiyah lebih dahulu telah tertarik kepada politik dan menjadi anggota SI (Serikat Islam) sejak tahun 1915. Disamping itu aktif didalam lembaga pendidikan bersama-sama rekan-rekannya ulama mendirikan Madrasah Nadhatul Wathan. Taswirul Afkar dan mengajar dipesantren ayahnya Madrasah Mufidah. Di sini menerapkan sistim Mesir.

Menjadi Pemimpin Muhammadiyah

Di dalam Muhammadiyah kedudukan K.H. Mas Mansur terus meningkat. Masuk Muhammadiyah, kemudian mendirikan cabang Surabaya yang diketuainya, lalu diangkat menjadi konsul untuk Jawa Timur dan di dalam kongres Muhammadiyah ke-26 pada tahun 1937 dipilih menjadi Ketua Pimpinan Pusat. Di dalam kongres-kongres berikutnya dipilih kembali hingga memimpin Muhammadiyah selama 6 tahun penuh, dari tahun 1937 hingga 1943. Selama menjadi Ketua PP Muhammadiyah memberi pelajaran pada Madrasah Mu’alimin, yaitu sekolah calon guru Muhammadiyah sekaligus sebagai kader-kader yang disiapkan untuk menanam benih-benih Muhammadiyah ke seluruh Indonesia. Disana

K.H. Mas Mansur memberikan pelajaran ilmu tauhid dan terkenal sebagai ustadz yang pandai mengajar. Pelajarannya padat, tetapi populer, mudah diikuti. Oleh karenanya para siswanya hingga sekarang masih terkenang kepada almarhum gurunya yang mahir itu.

Sebagai seorang mubaligh K.H. Mas Mansur pandai berpidato. la terkenal dengan pidatonya yang singkat, padat, seringkali dibumbui dengan hal yang lucu-lucu. Menulis pun Mas Mansur mahir. Tulisan-tulisannya dimuat berbagai majalah. Tulisannya pun seperti pidatonya, yaitu singkat, padat, jelas dan enak dibaca. Pernah pula menerbitkan majalah tengah bulanan yang diberinya nama Le Djinem (baca: Jinem), Journal Ertude, Proprietair. Majalah yang nama-namanya mirip bahasa Perancis itu bukan berbahasa Perancis, tetapi berbahasa Jawa dengan huruf Arab. Majalah Djinem menyuarakan ”arinom” artinya adik muda atau angkatan muda. Majalah ini terbit tahun 1920.

Kecuali berpidato dan menulis pun suka berpolemik tentang sesuatu masalah. Ia selalu merasa perlu mendudukkan suatu persoalan sewajarnya hingga masyarakat umum memahami soal itu dengan benar-benar. Kalau masih juga lawan polemiknya belum mengerti. Mas Mansur tidak segan-segan mendatanginya tidak lain untuk menjelaskan persoalannya.

Dalam memimpin Muhammadiyah Mas Mansur menerapkan disiplin yang ketat. Menarik garis antara pribadi dan organisasi. Ia lebih suka orang-orang Muhammadiyah datang di kotanya tentang urusan organisasi dari pada datang di kediamannya dengan dalih bersilaturrahmi. Rapat PP Muhammadiyah pernah dibatalkan, karena pada waktu yang ditetapkan dalam undangan, para anggota belum mencukupi jumlah untuk dapat bersidang. Sejak itu PP Muhammadiyah menjauhi kebiasaan jam karet.

Pahlawan Nasional

K.H. Mas Mansur adalah seorang ulama yang besar, juga seorang pemimpin yang disegani. Bukan saja karena ilmunya yang luas dan dalam mengenai agama Islam, tetapi juga karena wataknya yang luhur dan berbudi. Pengaruhnya tidak terbatas dilingkungan umat Islam saja, tetapi juga meluas di segenap masyarakat bangsa, karena itu sudah sewajarnya, apabila pemerintah kolonial Hindia Belanda memperhatikan dan berusaha untuk mendekati K.H. Mas Mansur.

Dengan melalui Dr. Pijper pemerintah Hindia Belanda menawari K.H. Mas Mansur supaya suka menduduki jabatan sebagai Ketua Hod van Islamietische Zaken, yaitu suatu lembaga tinggi tentang urusan agama Islam, yang berkewajiban memberikan nasehat-nasehat keagamaan Islam kepada Pemerintah Hindia-Belanda. K.H. Mas Mansur akan memperoleh gaji sebesar f.1000,- (seribu gulden) setiap bulan, suatu jumlah yang sungguh besar, seperti gaji seorang bupati di zaman Hindia Belanda itu.

Tetapi diluar dugaan Pemerintah Hindia Belanda dan pihak-pihak yang tidak menyukai beliau, ternyata K.H. Mas Mansur menolak. la memilih kebebasan bergerak di dalam perserikatan Muhammadiyah, walaupun dengan keperluan hidup yang serba terbatas daripada menjadi ketua Hod van Islamitiesche Zaken dengan gaji besar dan kehidupan mewah, tetapi menjadi alat pemerintahan penjajahan. Karena penolakannya itu, nama Kyai Haji Mas Mansur makin harum, terutama dikalangan para pemimpin pergerakan nasional.

Berdirinya Majelis Islam ala Indonesia

Prakarsa K.H. Mas Mansur yang mendapat penghargaan dari para pemimpin Islam ialah berdirinya Majelis Islam Tertinggi yang berkembang menjadi MIAI (Majelis Islam Ala Indonesia) pada tahun 1937, menemui Kyai Haji Moh. Dahlan pemimpin Nadlatul Ulama (NU) di Surabaya dan mengusulkan pembentukannya Majelis Islam Tertinggi. Usul itu mendapat sambutan dan kemudian mereka mengadakan pertemuan dengan para ulama di Surabaya yang di hadiri oleh 70 orang ulama dari Jawa dan Madura. Pada pertemuan itulah dibentuk majelis tersebut dengan ketua K.H. Mas Mansur, wakilnya K.H Moh. Dahlan (Surabaya) dan K.H. Wahab Habullah dari NU duduk didalam pengurus pula.

Pada tanggal 26 Februari – 1 Maret 1938 MIAI mengadakan Kongres Al Islam ke I di Surabaya. Sebenarnya umat Islam Indonesia pernah melangsungkan kongres Al Islam sampai yang ke-9 sebelum ada MIAI, namun yang diusahakan MIAI itu disebut Kongres Al Islam ke-1. Hal ini tidak menjadi persoalan karena para ulama lebih mementingkan persatuan umat Islam yang waktu itu terasa goncang. Kegoncangan itu disebabkan karena adanya perbedaan pandangan antara PSII (Partai Sarekat Islam Indonesia) dengan kelompok-kelompok lainnya.

Berdirinya PARII dan Kegoncangan di Indonesia

Kegoncangan itu melahirkan PARII (Partai Islam Indonesia) yang didirikan pada tanggal 24 Desember 1938 dibawah pimpinan Wiwoho Purbohadijoyo dan dr. Sukirman Wiryosanjoyo. K.H. Mas Mansur duduk sebagai anggota Pengurus Besarnya.

Pada tahun 1939 berdirilah GAPI (Gabungan Partai-Partai Politik Indonesia) dengan tuntutannya ”Indonesia Berparlemen” dan programnya menyelenggarakan Kongres Rakyat Indonesia (KRI).

MIAI dengan wakil-wakilnya, Wahid Hasyim, Wondoamiseno, Sukiman dan K.H Mas Mansur ikut serta. Beberapa partai dan organisasi lain ikut pula. Dalam tahun 1941 KRI yang telah menjadi badan tetap mengganti nama dengan Majelis Rakyat Indonesia (MRI) K.H. Mas Mansur dipilih menjadi ketuanya. Hal itu membuktikan bahwa kepemimpinannya tidak hanya diakui oleh kelompok agama, tetapi juga oleh kaum pergerakan nasional.

Perlu diketahui pada zaman kolonial itu pemerintah Belanda memang membentuk Dewan Rakyat (Volksraad). Tetapi para pemimpin pergerakan nasional, terutama kaum nonkoperasi (tidak bekerjasama dengan pemerintah jajahan) tidak menaruh kepercayaan terhadap Volksraad yang dinamakannya Komidi omong. Volksraad itu memang alat Pemerintah Hindia Belanda.

Selama berjuang dan memimpin perjuangan umat Islam K.H. Mas Mansur banyak sekali menyumbang buah pikiran berupa pidato-pidato dan tulisan-tulisan diberbagai majalah dan surat kabar.

Pemerintah RI dengan SK Presiden RI No.162 Tahun 1946 tertanggal 26 Juni 1964 menganugerahi Kyai Haji Mas Mansur gelar Pahlawan Kemerdekaan Nasional.