Sebelum lahirnya Himpunan Mahasiswa Islam, terlebih dulu berdiri organisasi kemahasiswaan bernama Perserikatan Mahasiswa Yogyakarta (PMY) pada tahun 1946 yang beranggotakan mahasiswa dari tiga Perguruan Tinggi di Yogyakarta, yaitu Sekolah Tinggi Teknik (STT), Sekolah Tinggi Islam (STI) dan Balai Perguruan Tinggi Gajah Mada yang pada waktu itu hanya memiliki Fakultas Hukum dan Fakultas Sastra. Oleh karena Persyerikatan Mahasiswa Yogyakarta dirasa tidak memperhatikan kepentingan para mahasiswa yang masih menjunjung tinggi nilai-nilai agama Islam. Tidak tersalurnya aspirasi keagamaan merupakan alasan kuat bagi para mahasiswa Islam untuk mendirikan organisasi kemahasiswaan yang berdiri dan terpisah dari Persyerikatan Mahasiswa Yogyakarta.

Pada tahun 1946, suasana politik di Indonesia khususnya di Ibu kota Yogyakarta mengalami polarisasi antara pihak Pemerintah yang dipelopori oleh Partai Sosialis pimpinan Syahrir – Amir Syarifuddin dan pihak oposisi yang dipelopori oleh Masyumi pimpinan Soekiman – Wali Al-Fatah, PNI pimpinan Ki Sarmidi Mangunsarkoro – Suyono Hadinoto, serta Persatuan Pernyangannya Tan Malaka. Polarisasi ini bermula pada dua pendirian yang saling bertolak belakang. Pihak Partai Sosialis (Pemerintah) menitikberatkan perjuangan memperoleh pengakuan Indonesia kepada perjuangan berdiplomasi sementara pihak oposisi berpegang pada perjuangan bersenjata melawan Belanda.

Polarisasi ini membawa mahasiswa yang juga sebagian besar dari mereka adalah pengurus Perserikatan Mahasiswa Yogyakarta berorientasi kepada Partai Sosialis. Melalui merekalah Partai Sosialis mencoba mendominasi Persyerikatan Mahasiswa Yogyakarta. Namun mahasiswa yang masih memiliki idealisme tidak dapat membiarkan usaha Partai Sosialis hendak mendominir Persyerikatan Mahasiswa Yogyakarta. Dengan suasana yang sangat kritis dikarenakan Belanda semakin memperkuatkan diri dengan terus-menerus mendatangkan bala bantuan dengan persenjataan modern disertai dengan peristiwa Agresi Militer Belanda I pada tanggal 21 Juli 1947 Dengan situasi yang demikian para mahasiswa yang berideologi murni tetap bersatu menghadapi Belanda, mencegak setidak-tidaknya mengurangi efek-efek dari polarisasi politik yang sangat melemahkan potensi Indonesia menghadapi Belanda. Karenanya mereka menolah keras akan sikap dominasi Partai Sosialis terhadap mahasiswa yang dinilai akan mengakibatkan dunia mahasiswa terlibat dalam polarisasi politik.

Berbagai hal ini yang mendorong beberapa orang mahasiswa untuk mendirikan organisasi baru. Meskipun sebenarnya jauh sebelum adanya keinginan untuk mendirikan organisasi baru sudah ada cita-cita akan itu, tetapi selalu ditunda dan dianggap belum tepat. Namun melihat dari berbagai kondisi yang ada dirasa cita-cita yang sudah lama diharapkan itu perlu diwujudkan karena bila membiarkan Persyerikatan Mahasiswa Yogyakarta lebih lama didominasi oleh Partai Sosialis adalah hal yang tidak tepat. Penolakan sikap dominasi Partai Sosialis terhadap Persyerikatan Mahasiswa Yogyakarta tidak hanya datang dari kalangan mahasiswa Islam, melainkan juga mahasiswa kristen, mahasiswa katolik, serta berbagai mahasiswa yang masih menjunjung teguh ideologi keagamaan.

HMI diprakarsai oleh Lafran Pane, seorang mahasiswa tingkat I (semester I) Fakultas Hukum Sekolah Tinggi Islam (sekarang Fakultas Hukum Universitas Islam Indonesia (FH-UII). Ia mengadakan pembicaraan dengan teman-temannya mengenai gagasan membentuk organisasi mahasiswa bernapaskan Islam dan setelah mendapatkan cukup dukungan, pada bulan November 1946, ia mengundang para mahasiswa Islam yang berada di Yogyakarta baik di Sekolah Tinggi Islam, Balai Perguruan Tinggi Gajah Mada dan Sekolah Teknik Tinggi, untuk menghadiri rapat, guna membicarakan maksud tersebut. Rapat-rapat ini dihadiri kurang lebih 30 orang mahasiswa yang di antaranya adalah anggota Perserikatan Mahasiswa Yogyakarta dan Gerakan Pemuda Islam Indonesia. Rapat-rapat yang digelar tidak menghasilkan kesepakatan. Namun Lafran Pane mengambil jalan keluar dengan mengadakan rapat tanpa undangan, yaitu dengan mengadakan pertemuan mendadak yang mempergunakan jam kuliah Tafsir oleh Husein Yahya. Pada tanggal 5 Februari 1947 (bertepatan dengan 14 Rabiulawal 1366 H), di salah satu ruangan kuliah Sekolah Tinggi Islam di Jalan Setyodiningratan 30 (sekarang Jalan Senopati) Yogyakarta, masuklah Lafran Pane yang langsung berdiri di depan kelas dan memimpin rapat yang dalam prakatanya mengatakan “Hari ini adalah rapat pembentukan organisasi Mahasiswa Islam, karena semua persiapan yang diperlukan sudah beres”.

Kemudian ia meminta agar Husein Yahya memberikan sambutan, tetapi dia menolak dikarenakan kurang memahami apa yang disampaikan sehubungan dengan tujuan rapat tersebut.

Pernyataan yang dilontarkan oleh Lafran Pane dalam rapat tersebut adalah sebagai berikut:

·         Rapat ini merupakan rapat pembentukan organisasi Mahasiswa Islam yang anggaran dasarnya telah dipersiapkan.

·         Rapat ini bukan lagi mempersoalkan perlu atau tidaknya ataupun setuju atau menolaknya untuk mendirikan organisasi Mahasiswa Islam.

·         Di antara rekan-rekan boleh menyatakan setuju dan boleh tidak. Meskipun demikian apapun bentuk penolakan tersebut, tidak menggentarkan untuk tetap berdirinya organisasi Mahasiswa Islam ketika itu, dikarenakan persiapan yang sudah matang.

Setelah dicerca berbagai pertanyaan dan penjelasan, rapat pada hari itu dapat berjalan dengan lancar dan semua peserta rapat menyatakan sepakat dan berketetapan hati untuk mengambil keputusan:

·         Hari Rabu Pon 1878, 15 Rabiulawal 1366 H, tanggal 5 Februari 1947, menetapkan berdirinya organisasi Himpunan Mahasiswa Islam disingkat HMI yang bertujuan:

o    Mempertahankan Negara Republik Indonesia dan mempertinggi derajat Rakyat Indonesia

o    Menegakkan dan mengembangkan ajaran agama Islam

·         Mengesahkan anggaran dasar Himpunan Mahasiswa Islam. Adapun Anggaran Rumah Tangga akan dibuat kemudian.

·         Membentuk Pengurus Himpunan Mahasiswa Islam.

Adapun peserta rapat yang berhadir adalah Lafran Pane, Karnoto Zarkasyi, Dahlan Husein, Maisaroh Hilal (cucu pendiri Muhammadiyah, KH. Ahmad Dahlan), Suwali, Yusdi Ghozali; tokoh utama pendiri Pelajar Islam Indonesia (PII), Mansyur, Siti Zainah (istri Dahlan Husein), Muhammad Anwar, Hasan Basri, Zulkarnaen, Tayeb Razak, Toha Mashudi dan Bidron Hadi.

Selain itu keputusan rapat tersebut memutuskan kepengurusan Himpunan Mahasiswa Islam sebagai berikut:

Pada saat terjadi pembantaian massal anti-komunis yang dimulai pasca-G30S mahasiswa anggota HMI dilibatkan pihak universitas dalam proses skrining dan pembersihan kampus untuk menunjuk siapa pengajar atau mahasiswa yang dianggap komunis, anggota PKI, atau aktif dalam organisasi mahasiswa kiri seperti CGMI. Mereka yang tidak lolos proses skrining ini dipecat, sebagian menjadi tahanan politik, hilang, atau dibunuh.^[12] Beberapa anggota HMI dilatih oleh RPKAD untuk membunuh