Najstarsza wzmianka o Koźminie pochodzi z 1232 r., kiedy książę Władysław Odonic nadał wieś Cosmino zakonowi templariuszy z prawem jej lokacji na prawie niemieckim.

Prawa miejskie Koźmin otrzymał między 1251 a 1283 rokiem. Koźmin jako miasto zostało poświadczone po raz pierwszy w dokumencie Przemysła II z 1283 r. Książę postanowił, by wymienione w nim miasta, w tym Koźmin korzystały z tego samego prawa miejskiego, jakie było stosowane w Kaliszu.

W 1338 Kazimierz III Wielki darował miasto i inne dobra z klucza koźminskiego Maćkowi Borkowicowi. Po upadku wojewody miasto wielokrotnie zmieniało właścicieli. W XVI w. był własnością rodu Górków, po nich między innymi Sapiehów. W czasach I Rzeczypospolitej należał do najsilniejszych miast w Wielkopolsce.

W czasie wojny trzynastoletniej Koźmin w 1458 wystawił 20 pieszych na odsiecz oblężonej polskiej załogi zamku w Malborku. W połowie XV w. przez krótki okres był siedzibą sądu ziemskiego. W XVI w. był tam znaczny ośrodek sukienniczy, a w XVII w. znany ośrodek reformacji. W 1875 wybudowano natomiast linię kolejową, co przyspieszyło rozwój miasta.

Najważniejszymi zabytkami miasta są m.in. zamek z pierwszej połowy XIV wieku, w którym obecnie znajduje się Muzeum Ziemi Koźmińskiej, kościoły parafialne świętego Wawrzyńca i świętego Stanisława Biskupa i Męczennika, kościół cmentarny św. Trójcy oraz klasycystyczne kamienice mieszczańskie na rynku.