İlk Çağ’da Bithynia adıyla anılan Kocaeli’nin hikayesi M.Ö. 712 yılıyla başlar. Megara’dan İzmit Körfezi’ne gelip önce Başiskele’ye yerleşip Astakos kentini kurar, M.Ö. 264’te ise günümüzün İzmit’ine yerleşirler. Bithynia Krallığı’nın başkenti olan bu şehre Nikomedia ismi verilir. Nikomedia, yıkılıncaya dek krallığın başkenti olarak varlığını sürdürür.
284 yılında Roma İmparatoru Diocletian Nicomedia’yı işgal edip Roma İmparatorluğu’nun başkenti yapar. Böylece şehir, Roma, Antakya ve İskenderiye’den sonra gelerek dünyanın dördüncü büyük şehri haline gelir.
Şehrin Türk egemenliğine geçişi 11. yüzyılda Selçuklular dönemine denk gelir. İznik'in Anadolu Selçuklu Devleti'nin başkenti olmasıyla birlikte kentin önemi iyice artar. Haçlı Seferleri sırasında kısa süre Haçlı Ordusu’nun işgaline uğrayan şehir Orhan Bey döneminde kesin olarak Türk egemenliğine geçmiş olur.
1337 yılında Akça Koca Bey tarafından Osmanlı topraklarına katılan Nikomedia, önce İznikmid sonra İzmid isimlerini alır. En parlak dönemini Kanuni zamanında yaşayan şehrin ticari ve sosyal yaşamı 19. yüzyılda içinden geçen demiryolu hattıyla birlikte canlanır. 1888’de bağımsız bir sancak olmasının ardından ismi İzmit olur. Daha sonra ise fatihi Akça Koca’ya ithafen Kocaeli’ye dönüşür.
I. Dünya Savaşı’nın getirdiği yıkım ile yıpranan şehir, önce İngilizler ardından Yunanlılar tarafından gördüğü işgalden 28 Haziran 1921’de Türk orduları tarafından kurtarılır. İstanbul’a yakınlığı ve ulaşım imkanlarının çeşitliliği, Kocaeli’nin Cumhuriyet ile birlikte hızla sanayileşen şehirlerden biri olmasını sağlamıştır. 1934’te açılan ilk kağıt üretim tesisi olan SEKA Kağıt Fabrikası ile birlikte günümüze kadar devam eden sanayileşme halen etkin bir şekilde sürdürülmektedir.