Pierwsza wzmianka o młynie w Oliwie pochodzi z 1594 roku, kiedy funkcjonował jako folusz, służący do obróbki sukna. W 1613 roku przeszedł na własność konwentu oliwskiego cystersów i został przebudowany na młyn zbożowy, który pozostawał w rękach zakonu do 1831 roku.
Znacząca przebudowa miała miejsce w 1874 roku, kiedy powstał obecny budynek młyna, choć oba obiekty były jeszcze wielokrotnie modyfikowane. Kolejne większe modernizacje przeprowadzono między 1881 a 1893 rokiem, w latach 20. XX wieku, a także w latach 1935–1940, kiedy młyn został zelektryfikowany.
Na przełomie XIX i XX wieku młyn przechodził przez ręce różnych właścicieli. W latach 1914–1926 należał do Johannesa Wernera, później do Sophii Werner (1927–1928) oraz Erbena Wernersche (1929). W latach 1931–1942 młynem zarządzał Arnold Kirsten, z wyjątkiem lat 1936–1937, kiedy właścicielem była firma Dahlmann J. off H.-G., prowadząca działalność w młynie od 1916 roku.
Po II wojnie światowej młyn został przejęty przez skarb państwa. W 1946 roku funkcjonował jako Państwowy Młyn Wodno-Elektryczny, a w 1956 roku należał do Bydgoskich Zakładów Młynarskich. W latach 80. XX wieku przeszedł gruntowny remont, a w 1992 roku został odkupiony od Wojewódzkiego Przedsiębiorstwa Przemysłu Zbożowo-Młynarskiego w Gdańsku i trafił w ręce prywatne.
Dziś młyn w Oliwie, z bogatą historią sięgającą XVI wieku, stanowi świadectwo wielowiekowego dziedzictwa przemysłowego regionu.