Masjid Agung Al-Azhar (MAA) didirikan oleh Yayasan Pesantren Islam ( YPI ) pada tanggal 19 Nopember 1953 di atas tanah milik Yayasan seluas 43.755 m2 dan selesai dibangun tahun 1958.
Pada tahun 1960 Prof. Dr. Mahmoud Syaltout (Rektor Universitas Al-Azhar Mesir) dalam kunjungannya ke Masjid Agung Kebayoran Baru Jakarta, memberikan kuliah umum kepada jamaah masjid, dan memberi nama ”Al-Azhar” kepada Masjid ini, yang sebelumnya lebih dikenal dengan nama ”Masjid Agung Kebayoran Baru”.
Pada tahun 1962 dalam kiprahnya membina pemuda dan pemudi Islam, MAA mengadakan kegiatan Pramuka Gugus Depan dan sore harinya Pendidikan Islam Al-Azhar (PIA). Setelah Orde Lama tumbang dan lahirlah Orde Baru membawa angin segar bagi dakwah Islam khususnya bagi umat Islam.
MAA mulai mendirikan lembaga pendidikan formal (th 1967), diawali dengan TK Islam Al-Azhar dan seterusnya susul menyusul mendirikan SDIA, SMPIA, SMAIA dan pada akhirnya mendirikan Universitas Al-Azhar Indonesia.
Seiring dengan perkembangan zaman dan kebutuhan umat, aktifitas di Masjid Agung Al-Azhar terus tumbuh dan berkembang. Awalnya kegiatan ibadah dan dakwah hanya diikuti oleh masyarakat sekitar, termasuk para pengayuh beca dan kuli bangunan. Kini jamaah Masjid Agung Al-Azhar datang dari berbagai lapisan umat, tidak saja mereka yang bermukim di kawasan elite Kebayoran Baru, Jakarta Selatan, bahkan dari luar daerah seperti Tangerang, Bekasi , Depok, Bogor dan lain-lain.
Semaraknya kegiatan-kegiatan pembinaan ummat dan syiar Islam di Masjid Agung Al-Azhar tidak dapat dilepaskan dari peran Buya Prof. Dr. Hamka sebagai Imam Besar di masjid ini. Figur Buya yang ceramah-ceramahnya senantiasa membawa kesejukan dengan pilihan kalimat-kalimat yang santun, telah mengikat perhatian ummat di berbagai pelosok, terutama melalui acara Kuliah Subuh yang disiarkan oleh RRI. Di samping membina berbagai aktifitas pengajian, majelis taklim, kursus-kursus agama Islam, Buya Prof. Dr. Hamka juga mendorong tumbuh dan berkembangnya sekolah-sekolah Islam Al-Azhar yang berpusat di kompleks Masjid Agung Al-Azhar.
Kegiatan dakwah dan sekolah-sekolah tersebut, kian hari semakin mendapat tempat di hati masyarakat dan menambah harum nama Al-Azhar di tengah-tengah ummat, tidak saja di Ibukota Jakarta dan sekitarnya tapi juga sampai ke berbagai daerah di tanah air.
Buya Prof. Dr. Hamka yang kebetulan bertempat tinggal di Jl. Raden Patah III, Kebayoran Baru, Jakarta Selatan, terletak bersebelahan dengan Masjid Agung Al Azhar, telah memimpin pelaksanaan ibadah sehari-hari dan pengajian di masjid tersebut sejak pertama kali digunakan pada tahun 1958. Kajian tafsir Al-Quran yang merupakan materi Kuliah Shubuh setiap hari di Masjid Agung Al-Azhar dan kemudian dimuat secara bersambung pada majalah Gema Islam sejak tahun 1962, akhirnya diterbitkan dengan nama Tafsir Al-Azhar sebanyak 30 juz lengkap yang mendapat sambutan baik dari masyarakat hingga sekarang.
