Der Ortsname Ölkofen geht auf den Gründernamen „Eloun“ zurück. Das Dorf wurde um 1186 unter dem Namen „Ellinchouin“ erstmals erwähnt.
Ölkofens erste Besiedlung lag im Tal entlang des Friedbaches. Von dort aus weitete sich der Ort dann aus.
Die truchsessische Herrschaft erstellte 1746 an der Straße nach Eichen eine Getreidemühle. Um diese Mühle zu betreiben wurde der Friedbach von Günzkofen aus extra durch einen Mühlkanal umgeleitet. Im ehemaligen Mühlengebäude befindet sich heute der Landhandel Oswald.
1840/41 wurde von der Gemeinde ein erstes Schul- und Rathaus erbaut, das 1953 durch ein neues Schul- und Rathaus ersetzt wurde. Dieses Gebäude wurde später zu einem Dorfgemeinschaftshaus umgebaut und 2013 zugunsten eines Dorfplatzes abgebrochen.
Bereits 2012 wurde das neue Dorfgemeinschaftshaus eingeweiht, das unter sehr großen Eigenleistungen der Ölkofer Bürger und der künftigen Nutzer des Gebäudes errichtet worden war. Neben dem Heimat- und Narrenverein, dem Sportverein Ölkofen, dem Gögemer Angelverein und der Reservistenkameradschaft ist auch die Abteilung der Freiwillige Feuerwehr dort untergebracht sowie auch das Backhaus, das von der Bevölkerung sehr gut angenommen wird.
In der Dorfmitte steht die St. Leonhards-Kapelle, die 1935 von der bürgerlichen Gemeinde erstellt wurde. Im gleichen Jahr wurde die erstmals 1582 erwähnte Vorgängerkapelle abgebrochen. Noch heute befinden sich Teile der Innenausstattung dieser Vorgängerkapelle im Heimatmuseum der Stadt Mengen.
In Ölkofen findet jedes Jahr am Kirchenpatrozinium auch ein Leonhardiritt statt, der weit über die Grenzen der Göge hinaus bekannt ist.