Gölcük'ün, tarihi gelişimine İzmit ve çevresinin de içinde bulunduğu, eski Yunanlılar ile Romalıların Bitinya (Bithynie) dedikleri bölge ile başlamak daha doğru olur.
Gölcük'ün bir garnizon şehri olmasının ilk adımı 1927'de atılmıştır.1925 Yılında yaralı olan Yavuz zırhlısının tamir kararı ile beliren teknik ihtiyaç, Gölcük'te askeri tersanenin kurulmasına sebep oldu.Aynı yıl bir havuz inşa edildi.Almanlar barakalar kurup Yavuz'un tamirini yaptı.Daha sonra Almanların kurmuş olduğu bu tesisler satın alınarak tersanenin çekirdeği kurulmuştur.Deniz Kuvvetlerimizin gelişmesine paralel olarak esaslı çalışmalara 1938 yılında başlanmışsa da II. Dünya Savaşı bu çalışmalara engel olmuş ve Gölcük Tersanesinin hakiki kalkınması 1950 yılından itibaren gerçekleşmiştir. Gölcük gerçek anlamda Cumhuriyet'ten sonra kurulmuş bir şehirdir.Gölcük köylerinden Halıdere, Ulaşlı ve Yazlık köyleri hariç 21 köy İzmit sancağına bağlı Bahçecik Nahiye Müdürlüğü'nce idare edilmekteydi.Cumhuriyet'in ilanından sonra 1930 yılında İhsaniye köyünde nahiye merkezi ile Jandarma teşkilatı kuruldu. Yavuz zırhlısının tamiri nedeni ile kurulan atölyelerde çalışmak üzere İstanbul tersanelerinden gelen işçi ve aileleriyle Gölcük şehrinin nüfusu hızla artmaya başladı.Bu arada 09.06.1936'da kabul edilen ve 15.06.1936'da yürürlüğe giren 3012 sayılı kanunla Gölcük kazası kuruldu. Kaza teşkilinde Devlet dairelerine elverişli binanın Gölcük'te bulunmaması nedeniyle geçici olarak, Yalı Değirmendere köyünde kiralanan binalarda vazife görmeye başlanıldı. Kısa zamanda inşası bitirilen Hükümet Konağı'na 1938 yılında geçilmiş ve Devlet teşkilatı Gölcük'te yerleşmiştir.Kazanın kurulması ile İhsaniye'den de Nahiye Müdürlüğü kaldırılmış, yalnız Jandarma Teşkilatı bırakılmıştır. 1942 Yılında çıkarılan 3887 sayılı Özel İstilak Kanunu ile yapılan istimlaklarda, Hükümet Konağının istimlak sahası içinde kalması nedeniyle İl Genel Meclisince alınan bir kararla Hükümet Teşkilatı 1944 yılı Şubat ayında yine Değirmendere'ye nakledilmiştir. Hükümet Değirmendere'de 10 yıl kaldıktan sonra 04.03.1954 tarihinde çıkarılan 6322 sayılı kanun gereğince tekrar Gölcük'e taşınmıştır. Hükümet Konağı'nın Gölcük'e gelmesi nedeniyle Değirmendere'de Nahiye ve Nüfus Teşkilatı ile Emniyet Teşkilatı kurulmuştur.21 köyü olan Gölcük'ün Halıdere ve Ulaşlı köylerinin Karamürsel'den alınarak bu sayı 23'e yükselmiştir. Fakat Değirmendere'nin nahiye olmasıyla köy adeti 22'ye inmiştir. Saraylı köyünün Damlar Mahallesinin 1959 yılında müstakil köy haline gelmesi köy sayısını tekrar 23'e çıkarmıştır. İhsaniye köyünde 06.09.1966 tarih ve 4636 sayılı Bakanlar Kurulu kararıyla Belediye Teşkilatı kurulmuştur.
Bugün Gölcük ilçesi 50 mahalleden oluşmaktadır.