Незадолго до Великой Отечественной войны Главная Морская библиотека была выведена из подчинения Гидрографическому управлению и передана Политическому управлению, с 1938 г. она стала называться Центральной военно-морской библиотекой. 

В 1940 г. народный комиссар ВМФ Н. Г. Кузнецов принял решение о перемещении библиотеки вместе с Центральным военно-морским музеем в здание бывшей Фондовой биржи. Летом того же года начальником библиотеки был назначен старший политрук, капитан (позже майор) Андрей Романович Маймистов (1906–1963). Он и осуществил переезд библиотеки на новое место.