Die Geschichte dieses Hauses ist gleichzeitig auch ein Stück Silscheder Geschichte. Jasper Kalthoff, geboren 1609, ist Stammvater ganzer Generationen Silscheder Bewohner, und viele von ihnen wohnen auf Grund und Boden des Kaltenhofs, seit in den 1870er Jahren das alte Gut parzelliert wurde.
Erste Erwähnung finden ein Caldenhove und der Name Kalthoff bereits um 1291, allerdings lässt sich diese Fundstelle nicht zweifelsfrei dem Silscheder Kaltenhof zurechnen. Es gab nämlich weitere Kalthoff-Familien in näherem Umkreis, die wahrscheinlich nichts miteinander zu tun hatten: so lässt sich eine Linie bis 1735 nach Werdohl zurückverfolgen, eine andere nach Bochum-Hamme.
Eindeutig ist dagegen der Eintrag im Schatzbuch der Grafschaft Mark von 1486, das „Schulte tom Kaldenhove“ als einen von 15 Bauern in der „Sylsyker Burschop“ (Silscheder Bauernschaft) nennt.
Die nächsten Einträge stammen aus den Schatzzetteln der Jahre 1620, 1630 und 1645 zu allen freien (also nicht adlig gebundenen) Höfen. Danach waren die vom Kaltenhof zu zahlenden Steuern die weitaus höchsten aller Silscheder Höfe. Aus dem Dreißigjährigen Krieg war der Kaltenhof noch einigermaßen glimpflich davon gekommen und in relativ gutem Zustand. Er wurde als „Churf. Pfachtgut“ geführt. Zum Hof gehörten 20 Malderscheid Ackerland und 1 Morgen Weideland, und ein „eigenes Gehölze“, das Kalthöferholz, worin man „16 Schweine feist machen konnte“. An Vieh waren 1 Pferd, 1 Fohlen, 6 eigene Kühe, 1 geliehene Kuh, 2 Rinder, 3 Kälber und 7 Schweine vorhanden.
Jasper Kalthoff, der Pächter zu dieser Zeit, stand mit 400 Reichstalern (Rt.) in der Kreide; kein Wunder: schuldeten ihm doch die umliegenden Bauern ihrerseits 550 Rt., ohne Aussicht auf Rückzahlung.
Im „Kataster der kontribuablen Güter in der Grafschaft Mark“ wird unter der Nr. 6452 Kalthoff als weitaus größter Hof in Silschede genannt, 31 ½ Malterscheid groß und 85 Reichstaler Pacht wert.
1795 erhielt der Kartograph Diepenheuer den Auftrag, eine Karte des Kaltenhofs anzufertigen; auch die Nachbargrundstücke sind dargestellt. Am unteren Bildrand ist der Hof Gräfingholt eingezeichnet (Wittener Str. 300), Stammhaus der Kalthoff gnt. Gräfingholt.
Um diese Zeit hatte der Hof seine größte Ausdehnung: er umfasste mit ca. 300 ha das gesamte Gemeindegebiet südlich des Ellinghauser Wegs und der Asbecker Straße.