Berdirinya HMI di Jogjakarta tanggal 5 Februari 1947 digerakkan oleh 15 orang Mahasiswa yang diantaranya terdapat 2 orang perempuan yaitu Misyarah Hilal dan Siti Zainah. Dalam perkembangan selanjutnya muncullah Siti Baroroh, Tujimah, dan Tedjaningsih. Kehadiran mereka memberikan kesadaran untuk secepatnya membentuk kohati.

KOHATI didirikan pada tanggal 2 Jumadil Akhir 1386 H bertepatan dengan tanggal 17 September 1966 M pada Kongres VIII di SOLO. 

Secara khusus motivasi mendirikan wadah khusus keperempuanan didasarkan berbagai faktor yaitu :

1. Semangat ke-Islaman HMI-Wati yang tinggi. 
2. Semangat emansipasi wanita yang membawa keberhasilan diberbagai bidang.
3. Semangat persatuan yang didasarkan rasa senasib dalam memperjuangkan kemerdekaan fisik maupun spiritual para wanita indonesia.
4. Rasa tanggung jawab yang besar dalam membangun masyarakat
5. HMI-Wati mempunyai cita- cita yang mulia, untuk itu memerlukan wadah dalam membina dan mengembangkannya.
6. HMI sendiri membutuhkan kekuatan massa yang besar dalam segala aspek perjuangan. 

Pertama, Perjuangan HMI makin meningkat sesuai dengan gerakan perjuangan bangsa. Terutama pada masa peralihan dari orde lama menuju orde baru. Peningkatan kesadaran kaum wanita dan masyarakat pada umumnya untuk aktif dalam aspek kehidupan semakin besar. Oleh karena itu, dalam rangka pencapaian tujuan HMI lebih maksimal, dilakukanlah pembagian tugas yang lebih efektif. Manifestasi dari pembagian tugas tersebut

dikembangkanlah lembaga- lembaga khusus. Misalnya Lembaga Dakwah Mahasiswa Islam, Lembaga Pers Mahasiswa Islam, Lembaga Ekonomi Mahasiswa Islam, Lembaga Kesehatan Mahasiswa Islam dan lain lain sesuai dengan kebutuhan anggota.

Kesadaran untuk lebih meningkatkan peranan dan aktifitas HMI- Wati telah mendorong terbentuknya Corps HMI-WAti (COHATI). Jika dikatakan HMI merupakan kader ummat dan kader bangsa, dengan demikian HMI-Wati turut serta bersamanya menjadi kader wanita islam. Untuk itu sudah sewajarnyalah jika HMI-Wati melakukan suatu usaha untuk meningkatkan kualitas dan perananya dalam setiap gerak HMI.

Kedua, dapat di kutip disini keterangan Anniswati Rokhlan (ketua umum pertama KOHATI PB HMI) yang dimuat dalam majalah COHATI sebagai berikut : Banyak sekali arti yang dapat diambil dari eksistensi KOHATI dalam HMI. Semula memang maksud didirikanya KOHATI adalah pengerahan massa dalam KAP (Kesatuan Aksi Pengayangan) GESTAPU/PKI, dimanakita ikut berpartisipasi aktif. Dalam bentuk Departemen Keputrian, paling- paling hanya tiga atau empat orang saja yang bersedia bekerja, yang lain hanya menonton saja. Dengan korp HMI-wati, maka banyak HMI-Wati yang ambil bagian, sehingga dengan demikian lebih banyak kegiatan yang dilakukan dan lebih banyak HMI-Wati yang belajar dari pengalaman di HMI. Dengan kata lain pembinaan HMI-Wati sebagai anggota HMI lebih riil. .

Ketiga, mengutip keterangan Yulia Mulyati Mantan Sekretaris Umum KOHATI PB yang pertama dikatakan bahwa yang mendorong didirikanya KOHATI adalah karena dibentuknya berbagai korp dalam angkatan bersenjata sebagai wadah khusus perempuan, seperti Angkatan Laut punya KOWAL, Angkatan Darat punya KOWAD, Angkatan Udara punya KOWAU, Angkatan Kepolisian punya POLWAN, maka HMI punya KOHATI. Tujuan dari terbentuknya berbagai korp tersebut adalah untuk mengerahkan masa dalam menghadapi komunis. Yulia juga mengatakan gambaran sebenarnya yang mendorong berdirinya KOHATI adalah untuk pembentukan kader- kader HMI-Wati ysng dapat membawakan aspirasi HMI dimanapun berada, disamping itu juga kualitas dan kuantitas HMI-Wati semakin meningkat sehingga dirasakan sangat penting adanya sebuah wadah yaitu KOHATI. Mengutip pendapatnya Nurhayati Jamaz mengungkapkan bahwa situasi sosial-politik pada sekitar tahun 1966 menyebabkan timbulnya hasrat dan semangat dari seluruh unsur masyarakat yang ada untuk mempersatukan kekuatan dalam menumpas gerakan PKI pada waktu itu. PKI merupakan lawan ideologis HMI yang masuk melalui pintu gerakan perempuan (GERWANI). Upaya HMI untuk bersentuhan langsung pada gerakan keperempuanan membawa konsekwensi logis masuknya HMI ke kancah perjuangan gerakan perempuan, baik formal maupun informal. Sebagai langkah taktis untuk masuk ke wilayah perempuan akan lebih efektif bila HMI memiliki kelompok kepentingan (interest-group) yang dapat diperhitungkan sebagai bagian langsung dari gerakan perempuan yang berbasis organisasi perempuan

Ada dua alasan yang paling mendasar membuat KOHATI didirikan yaitu:

• Secara internal, departemen keputrian yang ada pada waktu itu sudah tidak mampu lagi menampung aspirasi para kader HMI-Wati, disamping basic-needs anggota tentang berbagai persoalan perempuan kurang bisa di fasilitasi oleh HMI. Dengan hadirnya sebuah institusi yang secara spesifik menampung aspirasi HMI-Wati juga diharapkan HMI-Wati secara internal memiliki keleluasaan untuk mengatur diri mereka sendiri dan lebih memungkinkan untuk memenuhi kebutuhan organisasi yang muncul dari basic-needs anggotanya sendiri yaitu kader HMI-Wati.

• Secara eksternal, HMI mengalami tantangan yang cukup pelik dikaitkan dengan hadirnya lawan ideologis HMI yaitu komunis yang masuk melalui pintu gerakan perempuan (GERWANI). Selain itu maraknya pergerakan perempuan yang ditandai dengan munculnya organisasi perempuan dengan berbagai pariasi bentuk ideologi, pilihan isu, maupun strategi gerkannya membuat HMI harus merapatkan barisannya dengan cara terlibat aktif dalm kancah gerakan perempuan yang berbasis organisasi perempuan.

Atas dasar pertimbangan itulah pada tanggal 17 September 1966 M bertepatan dengan 2 Jumadil Akhir 1386 H pada Kongres VII di Solo dideklarasikan KOHATI. Terpilih sebagai Ketua Umum KOHATI pertama waktu itu adalah Anniswati Rokhlan