Pesantren Sabilil Muttaqien (PSM) pada mulanya bernama “Pesantren Takeran“ adalah bentuk pesantren sentris, dengan sistem pengajarannya melalui pendekatan pondok murni. Pesantren Takeran didirikan oleh Kyai Hasan Ulama’ yang merupakan seorang ulama’ ahli hikmah sufiyah dengan dibantu oleh Kyai Moh. Ilyas pada tahun 1880 M / 1303H.
Kyai Hasan Ulama’ adalah putra Kyai Kholifah dan merupakan prajurit penasihat spiritual Pangeran Diponegoro yang mengungsi ke daerah timur (Desa Bogem, Sampung, Ponorogo tahun 1825 – 1830 M). Setelah Kyai Kholifah wafat, Kyai Hasan Ulama’ meninggalkan Bogem menuju Takeran yang sebelumnya menetap sementara di Desa Tegalrejo dalam upaya proses pendalaman ilmu agama yang dimiliki, dirasa cukup mendalami ilmunya Kyai Hasan Ulama’ berangkat ke Takeran dan merintis berdirinya pesantren dalam bentuk pondok tradisional dan mengubah lingkungan masyarakat yang sebelumnya kurang tersentuh nilai-nilai moral menjadi lingkungan yang sarat dengan norma-norma agamis. Hal itu dapat dilihat dari aspek budaya yang berkembang di tengah masyarakat, serta berdirinya tempat-tempat ibadah (Langgar/Surau) di beberapa tempat, yang pendirinya adalah santri-santri Kyai Hasan Ulama’.
Pengembangan Pesantren Takeran tetap berlangsung sampai akhirnya Kyai Hasan Ulama’ wafat pada tahun 1914 M / 1337 H. Kelangsungan Pesantren Takeran diteruskan oleh putra-putranya serta pengasuh yang telah dididik dibawah pimpinan KH. Imam Muttaqien putra sulung Kyai Hasan Ulama’. Pada masa kepemimpinan KH. Imam Muttaqien masih meneruskan pengajaran yang sama seperti KH. Hasan Ulama’. Setelah KH. Imam Muttaqien wafat pada tahun 1936M maka Kyai Imam Mursyid Muttaqien sebagai putra almarhum, memprakarsai adanya sistem pembaharuan dengan pola kepemimpinan Pesantren.
Setelah beberapa tahap pembicaraan yang mendalam dan mendasar, Kyai Imam Mursyid Muttaqien secara konsepsional membuat metode pengembangan Pesantren dengan suatu sistem kelembagaan yang terorgainisir dalam suatu mekanisme organisasi yang diberi nama “PESANTREN SABILIL MUTTAQIEN” dan dikukuhkan dalam rapat besar Pesantren di Masjid Jami’ Pesantren Takeran, tepatnya pada tanggal 16 September 1943 M/9 Syawal 1362 H.

Dalam rapat besar ini telah dicanangkan oleh Kyai Imam Mursyid Muttaqien adanya pengelolaan atau pengembangan Pesantren yang terpadu melalui sistem mekanisme organisasi dengan kelengkapan struktur dan fungsinya. Sistem ini sama sekali tidak mengubah dasar / jiwa pendiri Pesantren Kyai Hasan Ulama’, tetapi merupakan pengembangan sistem yang lebih komprehensif/akomodatif dalam menjangkau seluruh lapisan masyarakat sehingga tujuan pokok PSM dapat tercapai lebih sempurna yaitu :

“Memancarkan yang seluas-luasnya pendidikan tentang Islam, sehingga pesantren ini mampu menghasilkan orang yang cakap dan tinggi kefahamannya tentang Islam, rajin berbakti dan beramal kepada masyarakat, berdasarkan taqwa (tunduk kepada Allah) sehingga menjadi orang yang ber-Ilmu, ber-Amal, ber-Taqwa”.

Dalam rapat besar tersebut hadir beberapa tokoh organisasi kemasyarakatan/agama yang membantu kelancaran pengukuhan nama Pesantren Sabilil Muttaqien diantaranya tokoh pimpinan NU, PSSI, dll.

Metode/sistem pembaharuan dari Pondok Pesantren menjadi Organisasi Pesantren Sabilil Muttaqien (PSM) pada tanggal 16 September 1943 ini menjadi tonggak sejarah yang sangat penting karena pada tanggal tersebut dilaksanakan pembangunan gedung madrasah yang besar di pusat PSM, yang akan digunakan untuk segala macam kegiatan pengajaran mulai tingkat dasar sampai tingkat tinggi, dan sebagai langkah awal dididirikan sekolah guru (Madrasah Mu’alimin atau Kullyatul Mu’alimin) yang pada akhirnya menjadi SGMI (Sekolah Guru Menengah Islam).
Dengan perkembangan PSM yang semakin maju dari tahun ketahun, yang dilandasi penanaman idealisme oleh Kyai Imam Mursyid Muttaqien tentang “Ruhul Islam Wal Wathon” telah menunjukkan hasil yang sangat baik dan mendalam terhadap santri dan murid PSM. Namun dalam keadaan tersebut terjadi musibah Pemberontakan PKI (Madiun Affair tahun 1948) yang mengakibatkan sebanyak 14 orang tokoh PSM termasuk Kyai Imam Mursyid Muttaqien diculik dan dibunuh secara kejam dan biadab.
Oleh karena itu, jika sejarah mencatat bahwa PSM merupakan salah satu pesantren di negara kita yang paling merasakan akibat pemberontakan PKI tahun 1948 di Madiun. Di tengah suasana berkabung dan prihatin warga PSM masih harus diuji kesabarannya oleh Allah yaitu terjadinya serangan Belanda yang lebih dikenal dengan “Clash” tahun 1949. Dalam perang tersebut 4 putra terbaik/murid PSM banyak yang gugur menjadi pahlawan bangsa. Di samping itu gedung madrasah pusat yang baru dibangun sebanyak 6 lokal terpaksa dibumi hanguskan oleh pasukan kita sendiri supaya tidak ditempati oleh Belanda. Dua peristiwa penting tersebut menjadikan warga PSM dan para sesepuh / pengasuh mengalami krisis kepemimpinan, maka pada tahun 1949 diadakan musyawarah inti warga PSM di Takeran.

Dalam pertemuan tersebut diputuskan Pengurus Pusat darurat yang diketuai Kyai Imam Suradji bin Muhammad Syahid. Pengurus darurat ini menghasilkan terjadinya proses Ihtifal di Magetan.
Hasil Ihtifal I ini adalah mengadakan pembentukan organisasi disegala bidang dengan dipimpin / dipelopori oleh Siti Fauziah binti Kyai Haji Imam Muttaqien, adik Kyai Imam Mursyid Muttaqien yang kemudian menjadi istri Kyai Haji Mohammad Tarmoedji. Dibawah kepemimpinan Siti Fauziah ini didirikan pula Muslimat PSM.

Berkat keuletan dan kegigihan serta kesabaran para pengurus PSM yang masih ada maka pada tahun 1951 telah berhasil diresmikan pembangunan gedung madrasah tahap I, disusul pada tahun 1957 pembangunan madrasah tahap II. Kini perkembangan PSM yang pesat didukung dengan alumni yang berasal dari berbagai daerah mendirikan cabang-cabang PSM dengan pilar utama tetap berbasis pendidikan. Sehingga saat ini PSM telah memiliki 99 cabang dan mengelola 132 lembaga pendidikan mulai TA/TK hingga SLTA yang tersebar di seluruh Indonesia.