1949 yılına kadar bölge birinciliğini kimseye kaptırmayan Mersin
İdmanyurdu, 1944 yılında Ankara da yapılan Türkiye Şampiyonasında üçüncü
olma başarısı göstermiştir. 1963–64 sezonunda şampiyon olarak Türkiye
2.Ligine çıkan Mersin İdmanyurdu, 2.Ligdeki üçüncü senesinde profesyonel
bir kadro oluşturarak şampiyon olmuş ve de ilk defa o yıl (1966–67)
Lefter Küçükandonyadis öncülüğünde Türkiye 1.Ligine çıkmıştır.
Profesyonellik Yılları
Tarihinin ilk anlamlı kupası olan Başbakanlık Kupasını da aynı yıl
Amatör Küme şampiyonu olan İzmir Denizgücü’nü 2–0 yenerek dönemin
Başbakanı Bülent Ecevit’ten almıştır. 1967 yılından itibaren aralıksız 7
yıl süreyle 1.Ligde oynayan Mersin İdmanyurdu' nun bu dönemdeki en
büyük başarısı 1969–70 sezonunu evinde oynadığı maçlarda mağlubiyet yüzü
görmeden ligi 4. sırada bitirmesidir. Takım 1973–74 sezonunda 2.Lige
düşmüş, 1975–76 sezonunda ise tekrar yükseldiği 1.Ligde toplam 11 sezon
boyunca mücadele etmiştir. Mersin İdmanyurdu, 1982–83 sezonunda evinde
oynadığı 17 maç da kalesinde sadece 1 gol görerek bir sezonda kendi
evinde en az gol yiyen takım olmuştur
.
Kulübün tarihindeki en büyük başarılarından biri de Türkiye'yi Kupa
Galipleri Kupasında şimdi ki adıyla UEFA Kupasında temsil etmiş
olmasıdır. 1982–83 yılında Türkiye Kupası finalde Fenerbahçe’ye elenerek
kupayı alamamasına rağmen, Fenerbahçe’nin aynı yıl şampiyon olması ile
Avrupa Kupalarında mücadele hakkı kazanmıştır. Eleme maçında Spartak
Varna takımına Mersin’de 0–0 ve deplasmanda 0-1’lik skorlarla elenen
Mersin İdmanyurdu, o tarihten sonra düştüğü 2.Lig de bir daha
şampiyonluk sevinci yaşayamamıştır. 2008-2009 sezonunda TFF 2. Lig
Yükselme Grubunu 2. sırada tamamlayarak yeniden Bank Asya 1. Lig'e
yükselmiştir.