Kommerzienrat Eduard von Hallberger gestaltete den Ort zu einem luxuriösen Treffpunkt der literarischen Welt und des Großbürgertums um.
Nach seinem Tod im Jahre 1880 errichtete ihm seine Tochter etwas unterhalb der eigentlichen Ilkahöhe ein Denkmal in Form eines Tempels. Das Gebäude wurde während des zweiten Weltkrieges stark beschädigt und in den 1970er Jahren abgerissen. Heute steht an dieser Stelle auf der Ilkahöhe noch eine Schautafel. Ende des 19. Jahrhunderts wurden innerhalb weniger Jahre die einzelnen Höfe durch den Münchener Kommerzienrat Max Kustermann aufgekauft und zu einem Gut zusammengefasst. Ein Großteil der Höfe und Gebäude wurde abgerissen, einige zu Stall- und Wirtschaftsgebäuden umfunktioniert.
Nur drei ursprüngliche Höfe blieben auf der heutigen Ilkahöhe erhalten. Die Familie Kustermann verkaufte den land- und forstwirtschaftlichen Gutsbetrieb 1924 an den Dachauer Papierfabrikanten Niklas. Diesen zwang jedoch die Weltwirtschaftskrise Anfang der Dreißiger Jahre zum Verkauf der Land- und Forstwirtschaft auf der Ilkahöhe.
Die Familie Carp aus dem Rheinland übernahm den Betrieb. Otto Frey, der über viele Jahre den Betrieb geführt und verwaltet hatte, übernahm 1959 von Frau Elsa Carp, geb. Windhorst, nun die Ilkahöhe. Früh in den sechziger Jahren beschließt Otto Frey die Landwirtschaft aufzugeben.
Große Flächen wurden aufgeforstet, die verbliebenen Wiesen an die Bauern in der Umgebung verpachtet. 1994 übertrug Otto Frey den Besitz an seine Tochter Monika Wendelstadt. Ihr Sohn Hermann Wendelstadt führt den Gutsbetrieb nun in der dritten Generation.