El museo se inauguró el 14 de noviembre de 1958, siendo su fundador y primer director el Capitán de Navío Julio José Elías Murguía. Se ubica en el centro histórico del Callao y cuenta con once salas de exposición permanente de naturaleza temática que abarca la historia marítima peruana desde la navegación en época prehispánica pasando por los diferentes períodos de nuestro desarrollo, incluyendo el dominio naval del país, el máximo héroe Miguel Grau, la diversidad del Mar de Grau, la presencia de las fuerzas navales en el Altiplano y la Antártida, además del ámbito fluvial y terrestre del territorio, y una sala de exposición temporal que proyecta diversidad de temas afines a la Marina de Guerra del Perú. Los fondos museográficos están conformados principalmente por bienes culturales arqueológicos, histórico artísticos e históricos de diversa naturaleza que forman parte de las fuerzas navales del país que van desde armamento pesado, mascarones de proa, armas de guerra, proyectiles hasta uniformes militares, espadas, medallas, mapas, el pabellón nacional, accesorios, entre otros. Como parte de la extensión educativa del museo se proyectan videos de la Armada Peruana y cuenta con servicio de guías especializados.