煙台海軍學校的起始為光緒廿九年(1903年)北洋海軍統領葉祖圭因天津水師學堂毀於八國聯軍 , 為延續人才之培訓, 乃在煙台海軍練營招收學生練習駕駛, 至光緒卅四年(1908年)海軍事務處決定闢建新校區正式成立煙台海軍學校. 該校於宣統元年(1909年)開始招生, 首任監督(校長)為海軍中將謝葆章(即為女作家冰心之父).

煙台海軍學校初辦實期修業期間為三年, 後延長為五年. 至民國十七年五月(1928年)停辦為止畢業學生十八屆共547人; 其中第九屆至第十三屆學生209人期末派赴吳淞海軍學校實習而畢業於該校. 煙台海軍學校較著名的畢業生有溫樹德, 歐陽格, 梁序昭等.