A terület már a népvándorlás korában lakott volt. Feltételezések szerint a település a honfoglalás korában jött létre. A tatárjárás idején teljesen elnéptelenedett. A XIV. században a szomszédos Cserépvárhoz tartozik, míg a XV. századtól a diósgyőri uradalom legdélibb települése.

1456-ban Hunyadi János itt kötött békét a huszitákkal. 1464-ben Mátyás királytól több kiváltsággal feruházott mezővárosi rangot kapott. Ez időből származik első pecséte és címere is. Egyes feltételezések szerint a térség népének, a matyó népcsoportnak a neve is Mátyás nevéből származik. 1544-től török hódoltság alatt állt, majd 1552-ben teljesen elpusztult és az 1596-os mezőkeresztesi csata után évekre elnéptelenedett. A XVIII. század közepére újból a térség jelentős települése lett. 1806-ban a Napóleon seregei elől menekített Szent Koronát egy éjszakára a plébánia épületében bujtatták.

1784-ben Mezőkövesd megváltotta magát hűbéresétől, a magyar koronától. 1849. február 28-án a honvéd hadsereg a település határában győztes ütközetet vívott a császáriakkal. A szabadságharc után a település újból virágzásnak indult. 1860-ban elérte a Budapest-Miskolc vasútvonal.

Napjainkban Mezőkövesd, melyet „Matyóföld fővárosá“-nak is szokás nevezni a fejlődés mellett híven őrzi népi hagyományait.