Kelahiran IMM tidak lepas kaitannya dengan sejarah perjalanan Muhammadiyah, dan juga bisa dianggap sejalan dengan faktor kelahiran Muhammadiyah itu sendiri. Hal ini berarti bahwa setiap hal yang dilakukan Muhammadiyah merupakan perwujudan dari keinginan Muhammadiyah untuk memenuhi cita-cita sesuai dengan kehendak Muhammadiyah dilahirkan.
Di samping itu, kelahiran IMM juga merupakan respond atas persoalan-persoalan keummatan dalam sejarah bangsa ini pada awal kelahiran IMM, sehingga kehadiran IMM sebenarnya merupakan sebuah keha-rusan sejarah. Faktor-faktor problematis dalam persoalan keummatan itu antara lain ialah sebagai berikut (Farid Fathoni, 1990: 102) :
1.Situasi kehidupan bangsa yang tidak stabil, pemerintahan yang otoriter dan serba tunggal, serta adanya ancaman komunisme di Indonesia
2.Terpecah-belahnya umat Islam dalam bentuk saling curiga dan fitnah, serta kehidupan politik ummat Islam yang semakin buruk
3.Terbingkai-bingkainya kehidupan kampus (mahasiswa) yang berorientasi pada kepentingan politik praktis
4.Melemahnya kehidupan beragama dalam bentuk merosotnya akhlak, dan semakin tumbuhnya materialisme-individualisme
5.Sedikitnya pembinaan dan pendidikan agama dalam kampus, serta masih kuatnya suasana kehidupan kampus yang sekuler
6.Masih membekasnya ketertindasan imperialisme penjajahan dalam bentuk keterbelakangan, kebodohan, dan kemiskinan
7.Masih banyaknya praktek-praktek kehidupan yang serba bid’ah, khurafat, bahkan ke-syirik-an, serta semakin meningkatnya misionaris-Kristenisasi
8.Kehidupan ekonomi, sosial, dan politik yang semakin memburuk
Dengan latar belakang tersebut, sesungguhnya semangat untuk mewadahi dan membina mahasiswa dari kalangan Muhammadiyah telah dimulai sejak lama. Semangat tersebut sebenarnya telah tumbuh dengan adanya keinginan untuk mendirikan perguruan tinggi Muhammadiyah pada Kongres Seperempat Abad Muhammadiyah di Betawi Jakarta pada tahun 1936. Pada saat itu, Pimpinan Pusat Muhammadiyah diketuai oleh KH. Hisyam (periode 1934-1937). Keinginan tersebut sangat logis dan realistis, karena keluarga besar Muhammadiyah semakin banyak dengan putera-puterinya yang sedang dalam penyelesaian pendidikan menengahnya. Di samping itu, Muhammadiyah juga sudah banyak memiliki amal usaha pendidikan tingkat menengah.
Gagasan pembinaan kader di lingkungan maha-siswa dalam bentuk penghimpunan dan pembinaan langsung adalah selaras dengan kehendak pendiri Muhammadiyah, KHA. Dahlan, yang berpesan bahwa“dari kalian nanti akan ada yang jadi dokter, meester, insinyur, tetapi kembalilah kepada Muhammadiyah”(Suara Muhammadiyah, nomor 6 tahun ke-68, Maret II 1988, halaman 19). Dengan demikian, sejak awal Muhammadiyah sudah memikirkan bahwa kader-kader muda yang profesional harus memiliki dasar keislaman yang tangguh dengan kembali ke Muhammadiyah.
Namun demikian, gagasan untuk menghimpun dan membina mahasiswa di lingkungan Muhammadiyah cenderung terabaikan, lantaran Muhammadiyah sendiri belum memiliki perguruan tinggi. Belum mendesaknya pembentukan wadah kader di lingkungan mahasiswa Muhammadiyah saat itu juga karena saat itu jumlah mahasiswa yang ada di lingkungan Muhammadiyah belum terlalu banyak. Dengan demikian, pembinaan kader mahasiswa Muhammadiyah dilakukan melalui wadah Pemuda Muhammadiyah (1932) untuk mahasiswa putera dan melalui Nasyi’atul Aisyiyah (1931) untuk mahasiswa puteri.
Pada Muktamar Muhammadiyah ke-31 pada tahun 1950 di Yogyakarta, dihembuskan kembali keinginan untuk mendirikan perguruan tinggi Muhammadiyah. Namun karena berbagai macam hal, keinginan tersebut belum bisa diwujudkan, sehingga gagasan untuk dapat secara langsung membina dan menghimpun para mahasiswa dari kalangan Muhammadiyah tidak berhasil. Dengan demikian, keinginan untuk membentuk wadah bagi mahasiswa Muhammadiyah juga masih jauh dari kenyataan.
Pada Muktamar Muhammadiyah ke-33 tahun 1956 di Palembang, gagasan pendirian perguruan tinggi Muhammadiyah baru bisa direalisasikan. Namun gagasan untuk mewadahi mahasiswa Muhammadiyah dalam satu himpunan belum bisa diwujudkan. Untuk mewadahi pembinaan terhadap mahasiswa dari kalangan Muhammadiyah, maka Muhammadiyah membentuk Badan Pendidikan Kader (BPK) yang dalam menjalankan aktivitasnya bekerja sama dengan Pemuda Muhammadiyah.
Gagasan untuk mewadahi mahasiswa dari ka-langan Muhammadiyah dalam satu himpunan setidaknya telah menjadi polemik di lingkungan Muhammadiyah sejak lama. Perdebatan seputar kelahiran Ikatan Mahasiswa Muhammadiyah berlangsung cukup sengit, baik di kalangan Muhammadiyah sendiri maupun di kalangan gerakan mahasiswa yang lain. Setidaknya, kelahiran IMM sebagai wadah bagi mahasiswa Muhammadiyah mendapatkan resistensi, baik dari kalangan Muhammadiyah sendiri maupun dari kalangan gerakan mahasiswa yang lain, terutama Himpunan Mahasiswa Islam (HMI). Di kalangan Muhammadiyah sendiri pada awal munculnya gagasan pendirian IMM terdapat anggapan bahwa IMM belum dibutuhkan kehadirannya dalam Muhammadiyah, karena Pemuda Muhammadiyah dan Nasyi’atul Aisyiyah masih dianggap cukup mampu untuk mewadahi mahasiswa dari kalangan Muhammadiyah.
Di samping itu, resistensi terhadap ide kelahiran IMM pada awalnya juga disebabkan adanya hubungan dekat yang tidak kentara antara Muhammadiyah dengan Himpunan Mahasiswa Islam (HMI). Hubungan dekat itu dapat dilihat ketika Lafrane Pane mau menjajagi pendirian HMI. Dia bertukar pikiran dengan Prof. Abdul Kahar Mudzakir (tokoh Muhammadiyah), dan beliau setuju. Pendiri HMI yang lain ialah Maisarah Hilal (cucu KHA. Dahlan) yang juga seorang aktifis di Nasyi’atul Aisyiyah.
Bila asumsi itu benar adanya, maka hubungan dekat itu selanjutnya sangat mempengaruhi perjalanan IMM, karena dengan demikian Muhammadiyah saat itu beranggapan bahwa pembinaan dan pengkaderan mahasiswa Muhammadiyah bisa dititipkan melalui HMI (Farid Fathoni, 1990: 94). Pengaruh hubungan dekat tersebut sangat besar bagi kelahiran IMM. Hal ini bisa dilihat dari perdebatan tentang kelahiran IMM. Pimpinan Muhammadiyah di tingkat lokal seringkali menganggap bahwa kelahiran IMM saat itu tidak diperlukan, karena sudah terwadahi dalam Pemuda Muhammadiyah dan Nasyi’atul Aisyiyah, serta HMI yang sudah cukup eksis (dan mempunyai pandangan ideologis yang sama). Pimpinan Muhammadiyah pada saat itu lebih menganakemaskan HMI daripada IMM. Hal ini terlihat jelas dengan banyaknya pimpinan Muhammadiyah, baik secara pribadi maupun kelembagaan, yang memberikan dukungan pada aktivitas HMI. Di kalangan Pemuda Muhammadiyah juga terjadi perdebatan yang cukup sengit seputar kelahiran IMM. Perdebatan seputar kelahiran IMM tersebut cukup beralasan, karena sebagian pimpinan (baik di Muhammadiyah, Pemuda Muhammadiyah, Nasyi’atul Aisyiyah, serta amal-amal usaha Muhammadiyah) adalah kader-kader yang dibesarkan di HMI.
Setelah mengalami polemik yang cukup serius tentang gagasan untuk mendirikan IMM, maka pada tahun 1956 polemik tersebut mulai mengalami pengendapan. Tahun 1956 bisa disebut sebagai tahap awal bagi embrio operasional pendirian IMM dalam bentuk pemenuhan gagasan penghimpun wadah mahasiswa di lingkungan Muhammadiyah (Farid Fathoni, 1990: 98). Pertama, pada tahun itu (1956) Muham-madiyah secara formal membentuk kader terlembaga (yaitu BPK). Kedua, Muhammadiyah pada tahun itu telah bertekad untuk kembali pada identitasnya sebagai gerakan Islam dakwah amar ma’ruf nahi munkar (tiga tahun sesudahnya, 1959, dikukuhkan dengan melepas-kan diri dari komitmen politik dengan Masyumi, yang berarti bahwa Muhammadiyah tidak harus mengakui bahwa satu-satunya organisasi mahasiswa Islam di Indonesia adalah HMI). Ketiga, perguruan tinggi Muham-madiyah telah banyak didirikan. Keempat, keputusan Muktamar Muhammadiyah bersamaan Pemuda Muhammadiyah tahun 1956 di Palembang tentang“….. menghimpun pelajar dan mahasiswa Muhammadiyah agar kelak menjadi pemuda Muhammadiyah atau warga Muhammadiyah yang mampu mengembangkan amanah.”
Baru pada tahun 1961 (menjelang Muktamar Muhammadiyah Setengah Abad di Jakarta) diseleng-garakan Kongres Mahasiswa Universitas Muham-madiyah di Yogyakarta (saat itu, Muhammadiyah sudah mempunyai perguruan tinggi Muhammadiyah sebelas buah yang tersebar di berbagai kota). Pada saat itulah, gagasan untuk mendirikan IMM digulirkan sekuat-kuatnya. Keinginan tersebut ternyata tidak hanya dari mahasiswa Universitas Muhammadiyah, tetapi juga dari kalangan mahasiswa di berbagai universitas non-Muhammadiyah. Keinginan kuat tersebut tercermin dari tindakan para tokoh Pemuda Muhammadiyah untuk melepaskan Departemen Kemahasiswaan di lingkungan Pemuda Muhammadiyah untuk berdiri sendiri. Oleh karena itu, lahirlah Lembaga Dakwah Muhammadiyah yang dikoordinasikan oleh Margono (UGM, Ir.), Sudibyo Markus (UGM, dr.), Rosyad Saleh (IAIN, Drs.), sedang-kan ide pembentukannya dari Djazman al-Kindi (UGM, Drs.).
Tahun 1963 dilakukan penjajagan untuk mendirikan wadah mahasiswa Muhammadiyah secara resmi oleh Lembaga Dakwah Muhammadiyah dengan disponsori oleh Djasman al-Kindi yang saat itu menjabat sebagai Sekretaris Pimpinan Pusat Pemuda Muhammadiyah. Dengan demikian, Lembaga Dakwah Muhammadiyah (yang banyak dimotori oleh para mahasiswa Yogyakarta) inilah yang menjadi embrio lahirnya IMM dengan terbentuknya IMM Lokal Yogyakarta.
