Berdirinya Pondok Pesantren Persis 69 tidak lepas dari perjuangan berdirinya jam”iyyah persatuan Islam; Semenjak aktifnya kembali Pimpinan Cabang Persatuan Islam Jatinegara (dahulu) pada masa Orde Baru  (sekarang menjadi Cabang Matraman), kala itu sedang semangatnya para anggota /Jamiyah Persatuan Islam Jakarta Timur mengadakan  pengajian di beberapa tempat diantaranya  di Kramat Asem Rt 0010 Rw 012 Kelurahan Utan Kayu (sekarang RT 007 RW 005 Kel. Utan Kayu Selatan), serta  di Masjid Al-Istiqomah jalan pasar Jatinegara merupakan cikal bakal perkembangan Jamiiyah Persatuan Islam Jakarta Timur hingga saat  ini,  dan  untuk keperluan syi’ar ajaran Islam di wilayah Matraman dan sekitarnya, maka sangat diperlukan  diselenggarakannya pendidikan Pondok Pesantren, agar masyarakat lebih mengenal tentang ajaran Islam yang berlandaskan Al-Quran dan As-Sunnah, dan semua  anggota serta simpatisan Persatuan Islam  Cabang Matraman saat itu sepakat untuk mendirikan Pesantren Persatuan Islam di wilayah kerjanya.  
Alhamdulillah untuk keperluan tempat pendidikan pondok Pesantren, keluarga Bapak Nana Jaya (Allahu yarham) meminjamkan sebuah bangunan yang berletak di Kramat Asem RT 007 RW 005 Kelurahan Utan Kayu Selatan, untuk dijadikan sebagai “Pondok Pesantren Persatuan Islam” Cabang Matraman. Akhirnya pada tanggal 15 Juni 1977, tanah dan bangunan seluas ± 366 M² oleh keluarga Nana Jaya diwaqafkan kepada PC. Persis Matraman. Untuk  keperluan  pengelolaan  Pesantren  tersebut,  maka  dibentuklah pengurus Pesantren yang kala itu dipimpin oleh Bapak Abdul Kholik (Ketua RW setempat) dan pada saat itu Pimpinan Cabang Persatuan Islam (Persis) Jatinegara Bpk. E.Bachrum (Allahuyarham) sebagai ketua.  
Pada   waktu didirikannya, yaitu tahun 1975, Pesantren Persatuan Islam 69 hanya  mempunyai beberapa santri, kemudian dari tahun ke tahun menunjukan peningkatan yang signifikan, yaitu   berjumlah  200 orang (Tingkat Diniyah Ula saja).  Mengingat  Pesantren tersebut telah memenuhi syarat yang ditetapkan dalam qaidah Pesantren Persatuan Islam Pimpinan Pusat Persis yang berkedudukan di Bandung, maka dikeluarkan Surat Keputusan tentang pendirian  Pesantren Persatuan Islam 69, dengan surat penetapannya bernomor : 1579/J.59/B.1/PP/75, tertanggal 26 April 1975 ditandatangani oleh KH.Eman Sar’an selaku Ketua II PP. Persis dan E.Nasrullah selaku sekretaris II PP. Persis. Alhamdulillah,sampai saat ini, jenjang pendidikan yang ada dari semenjak berdiri adalah Raudhatul Athfal (RA),Madrasah Diniyyah (MD),Madrasah Tsanawiyyah dan Madrah Aliyah/Mu’allimin.