Keberadaan Pendidikan Islam Arrahmaniyah berawal dari berdirinya Pondok pesantren puteri. Berdirinya Pondok Pesantren Arrahmaniyah ini tercetus dengan adanya latar belakang ingin memajukan pendidikan Islam sesudah Indonesia merdeka, yang pada masa penjajahan selalu ditekan dengan kehidupan serba sulit dan menderita, apalagi kehidupan agama yang cukup kritis. Berakar dari sinilah cita-cita perjuangan Arrahmaniyah mulai diwujudkan dengan semangat panji kebesaran Islam yang diniatkan sebagai rasa syukur atas nikmat yang diberikan-Nya. Maka tercetuslah Pendirian Pondok Pesantren Puteri pada tanggal 27 Rajab 1378 H, bertepatan dengan tanggal 23 Juli 1948 di Bojong Pondok Terong.
Setahun kemudian, berdirilah Madrasah Ibtidaiyah pada tanggal 14 Agustus 1949 dengan nama Perguruan Sirajul Athfal. Kemudian dari perkembangan pendirian madrasah ini, lahirlah unit baru yaitu PGA (Pendidikan Guru Agama) dengan nama Mualimin. Selanjutnya dari hasil pendirian lembaga pendidikan di atas, Arrahmaniyah mendirikan sebuah Yayasan Pendidikan pada tanggal 8 Desember 1981 dengan nama “Yayasan Pendidikan Islam Arrahmaniyah” melalui akta notaris A. Koesnoen No. 03, dan berkembang pesat hingga sekarang dengan mencakup beberapa unit pendidikan, di antaranya: TPA, TK, MI, MTs, MA, SLTP, SMU, SMK.
Dalam melaksanakan fungsi dan tujuan lembaga, Yayasan Pendidikan Islam Arrahmaniyah selalu melihat keinginan masyarakat Depok dan sekitarnya terhadap dunia pendidikan. Yayasan Pendidikan Islam Arrahmaniyah kemudian mendirikan unit pendidikan STKIP Arrahmaniyah yang didorong oleh faktor banyaknya guru Sekolah Dasar (SD) di daerah Depok dan sekitarnya yang ingin memperoleh wawasan dan ilmu pengetahuan lebih luas serta berstatus profesional.
Kebutuhan akan tenaga edukatif (guru) khususnya bagi SMP, SMU, SMK, MA, yang belum terpenuhi oleh lembaga-lembaga Pendidikan Tenaga Kependidikan yang telah ada. Waktu belajar tidak mengganggu pekerjaan atau tugas para guru atau pegawai lainnya yang ingin melanjutkan pendidikannya, sedangkan program studinya memungkinkan mereka untuk memperoleh gelar akademik. Masih banyak lulusan Sekolah Lanjutan Tingkat Atas yang ingin melanjutkan pendidikannya ke perguruan tinggi tetapi belum tertampung khususnya oleh perguruan tinggi yang sudah berjalan lebih awal. keinginan para guru untuk menyesuaikan diri dengan lapangan pekerjaannya.
Dari beberapa pertimbangan diatas, maka pengurus Yayasan Pendidikan Islam Arrahmaniyah mengimplementasikan untuk mendirikan STKIP Arrahmaniyah, yang selanjutnya diperoleh legalitas (resmi) dari Pemerintah melaluin Surat Keputusan Menteri Pendidikan dan Kebudayaan Republik Indonesia Nomor : 168/D/O/1998, Tanggal 20 November 1998 Untuk Jenjang Pendidikan Program S1 di Lingkungan Sekolah Tinggi Keguruan dan Ilmu Pendidikan Arrahmaniyah Di Depok. Adapun dua program studi yang dimaksud adalah Program Studi Pendidikan Pancasila dan Kewarganegaraan dan Program Studi Biologi.