BKR Laut dipelopori oleh pelaut-pelaut veteran Indonesia yang pernah bertugas di jajaran Koninklijke Marine (Angkatan Laut Kerajaan Belanda) pada masa penjajahan Belanda dan Kaigun pada masa pendudukan Jepang.
Terbentuknya organisasi militer Indonesia yang dikenal sebagai Tentara Keamanan Rakyat (TKR) turut memacu keberadaan TKR Laut yang selanjutnya lebih dikenal sebagai Angkatan Laut Republik Indonesia (ALRI), dengan segala kekuatan dan kemampuan yang dimilikinya.
Sejumlah Pangkalan Angkatan Laut terbentuk, kapal-kapal peninggalan Jawatan Pelayaran Jepang diperdayakan, dan personel pengawaknya pun direkrut untuk memenuhi tuntutan tugas sebagai penjaga laut Republik yang baru terbentuk itu.
Kekuatan yang sederhana tidak menyurutkan ALRI untuk menggelar Operasi Lintas Laut dalam rangka menyebarluaskan berita proklamasi dan menyusun kekuatan bersenjata di berbagai tempat di Indonesia.
Di samping itu mereka juga melakukan pelayaran penerobosan blokade laut Belanda dalam rangka mendapatkan bantuan dari luar negeri.
Selama 1949-1959 ALRI berhasil menyempurnakan kekuatan dan meningkatkan kemampuannya. Di bidang Organisasi ALRI membentuk Armada, Korps Marinir yang saat itu disebut sebagai Korps Komando Angkatan Laut (KKO-AL), Penerbangan Angkatan Laut dan sejumlah Komando Daerah Maritim sebagai komando pertahanan kewilayahan aspek laut.
Pada 1990-an TNI AL mendapatkan tambahan kekuatan berupa kapal-kapal perang jenis korvet kelas Parchim, kapal pendarat tank (LST) kelas ‘Frosch’, dan Penyapu Ranjau kelas Kondor.