Pesantren Mahasiswa Al Hikam Malang didirikan oleh Dr. (H.C.) K. H. Ahmad Hasyim Muzadi pada tanggal 17 Ramadan 1413 Hijriah yang bertepatan dengan tanggal 21 Maret 1992 Masehi. Sebagai seorang ulama, Dr. (H.C.) K. H. Ahmad Hasyim Muzadi merasa memiliki tanggung jawab untuk berkhidmat kepada umat, seperti yang dipesankan oleh guru-gurunya, salah satunya oleh Kiai Anwar, Pesantren An-Nur, Bululawang Malang.

Sebagai langkah awal dalam mendirikan Pesantren Mahasiswa Al-Hikam Malang, Dr. (H.C.) K. H. Ahmad Hasyim Muzadi bersama panitia membentuk Yayasan Al-Hikam pada tanggal 3 Juli 1989. Awalnya, Yayasan Al-Hikam bergerak di tiga bidang garapan yang meliputi Majelis Ta’lim dan Dakwah, Pengembangan Sumber Daya Manusia, dan Pesantren Mahasiswa Al-Hikam Malang.

Pesantren Mahasiswa Al-Hikam Malang sebagai pelopor pesantren khusus mahasiswa memiliki tujuan memadukan dimensi positif perguruan tinggi yang menekankan pada ilmu pengetahuan dan teknologi dengan dimensi positif pesantren yang akan menjadi tempat penempaan kepribadian dan moral yang benar. Dengan model pendidikan tersebut, Pesantren Mahasiswa Al-Hikam Malang ingin mewujudkan kesatupaduan antara ilmu pengetahuan dan ilmu agama secara utuh, tanpa ada perbedaan. Dengan demikian, keyakinan agama akan memiliki pijakan ilmiah-rasional, sedangkan ilmu pengetahuan akan senantiasa dinaungi oleh nilai-nilai agama.

Pada awal berdiri, Pesantren Mahasiswa Al-Hikam Malang hanya menerima santri dari kalangan mahasiswa perguruan tinggi di Malang dengan jurusan nonagama. Namun, sejak tahun 2003, Pesantren Mahasiswa Al Hikam Malang juga menerima santri lulusan pesantren salaf tradisional dari seluruh pelosok negeri untuk kuliah di Sekolah Tinggi Agama Islam Al Hikam atau Ma’had Aly Al-Hikam (STAIMA). Adanya perbedaan latar belakang santri tersebut, kemudian dikenal istilah santri “Pesma” untuk santri yang mukim di pondok, tetapi kuliah di luar pesantren dan santri “Ma’had Aly” untuk santri yang mukim dan kuliah di STAIMA. Pada tahun 2023, kedua istilah tersebut dilebur menjadi satu, yaitu “Pesma”. Dengan ikhtiar tersebut, diharapkan akan terwujud integrasi antara ilmu pengetahuan dan ilmu agama yang akan membentuk “Learning Society” yang akan tercipta di tengah-tengah kehidupan pesantren dan masyarakat.