In:  "Sagen und Geschichten der Stadt Wien - Nach den besten Quellen bearbeitet von J. W. Holczabek und Adalbert Winter" aus dem Jahr 1894 findet man die Sage von der Gnad' Gottes zur Gründung des Kahlenbergerdorfes:

Vor etwa 500 Jahren kam ein fremder Bergmann in die Gegend am Fuße des Kahlenberges (des heutigen Leopoldsberges!). Er wurde sesshaft, aber im tiefsten Herzen wollte er noch immer nach edlen Metallen suchen. "Wer nicht sucht, der kann nicht finden; wer sich aber redlich bemüht, dem hilft die Gnade Gottes!", so dachte er. Und er begann den Berg genau zu untersuchen und zu erforschen.

Auf seinen Touren fiel ihm ein Vogel an einer bestimmten Stelle auf. Als er dortnachsah, fand er ein leeres Vogelnest, was ihm als gutes Vorzeichen erschien. "Hier will ich mein Werk beginnen und den Ort die Gnad' Gottes, die mir helfen soll,nennen.", rief er freudig aus und begann zu graben. Bald kamen auch andere Männer und gruben in der ganzen Gegend, doch als sie keinen Erfolg hatten, verließ einer nach dem anderen den Ort. Nur der Bergmann verlor seine Zuversicht nicht.

Drei Monaten später stieß er auf blankes Erz. Er dankte der Gnade Gottes und nach kurzer Zeit wurde er ein wohlhabender Bergwerksbesitzer, der vielen Menschen reichlich Verdienst gab. Die Arbeiter bauten sich ihre Häuschen in der Gegend und so wuchs der Ort, den sie Kahlenbergerdörfl nannten.

Der Bergmann blieb ein guter Mensch und genoß großes Ansehen, und lebte glücklich viele Jahre im "Dörfl". Sein Nachfolger war aber ein hartherziger Mann, der seine Arbeiter schlecht behandelte. Einmal saß er mit seinen Bekannten im Wirtshaus als ein steinalter Mann von seinem Vorgänger erzählte und darauf hinwies, dass dieser immer auf die Gnade Gottes vertraut hatte. Doch der neue Besitzer spottete nur: "Gnad' Gottes hin, Gnad' Gottes her, wenn im Berg kein Erz gewesen wäre, so hätte er auch keines gefunden!"

Tatsächlich, am folgenden Tag und auch später wurde nur mehr taubes Gestein gefunden. Als man dem Besitzer des Bergwerks diese Nachricht überbrachte, erinnerte sich dieser an das Gespräch im Wirtshaus und mit den Worten "Die Gnad' Gottes, ich hab' an ihr gezweifelt!", stürzte er tot zu Boden. Die meisten Bergleute wanderten aus und die Zurückgebliebenen mussten sich als Holzknechte mühsam fortbringen.

Historisch nachgewiesen ist allerdings die Tatsache, dass bereits 1186 eine dem hl. Johann dem Täufer gewidmete Kirche an diesem Ort stand. Später weihte man die Kirche dem hl. Georg. Zumindest seit Mitte des 18. Jhdts ist die Pfarre dem Stift Klosterneuburg zugehörig, weshalb die meisten Pfarrer des Kahlenbergerdorfes Chorherren von Klosterneuburg waren. 1529 steckten die Türken die Kirche in Brand, während 1809 die Franzosen sie völlig ausplünderten.

Seit Anfang des 12. Jhdts. bis ins Jahr 1532 lebte das adelige Geschlecht der Chalberge, Chalwenberge bzw. Challeperge in dieser Gegend.