Berdirinya Yayasan Hajjah Rachmah Nasution tidak terlepas dari rasa syukur keluarga besar H Abdul Manan Muis atas keberhasilan operasi  jantung Ibu Hajjah Rachmah Nasution.

Sebagai wujud dari rasa syukur itu, keluarga besar  mendirikan sebuah masjid yang diberi nama Masjid Ar-Rahman yang berlokasi di tanah keluarga di Jalan Pintu Air IV Kuala Bekala, Padang Bulan Medan.

Seiring dengan itu dibangun pula Madrasah Diniyah Awaliyah (MDA) sebagai tempat pembinaan keagamaan untuk anak-anak warga sekitar.

Pada tanggal 16 Juli 1984 diresmikan berdirinya Perguruan Al-Azhar Medan dengan membuka satuan pendidikan:

– Sekolah Dasar (SD)

– Sekolah Menengah Pertama (SMP)

– Sekolah Menengah Atas  (SMA)

– Sekolah Pertanian Pembangunan (SPP)

Pada tanggal 17 Juli 1985 Perguruan Al-Azhar membuka satuan Pendidikan Taman Kanak-Kanak (TK) dan Sekolah Menengah Ekonomi (SMEA).

Saat ini, SD - SMP Ar-Rahman membuka lowongan kerja di Percut Sei Tuan, Sumatera Utara dengan posisi berikut ini: