Die Teufelsmauer verläuft auf etwa 20 km Länge von Ballenstedt über Weddersleben nach Blankenburg (Harz).

Die Felsen bestehen aus Sandsteine aus der Kreidezeit. Durch Silifizierung kam es zu einer extremen Verhärtung des Gesteins, die aber auf wenige Meter der damals horizontal lagernden Schichten beschränkt ist. Dann entstand das Harzgebirge.

Die Gesteinsschichten am Harznordrand wurden durch die Heraushebung des Harzes steil gestellt oder sogar überkippt. Anschließende Erosion ließ weichere Gesteinspartien verschwinden. Die harten Schichten wurden zu markanten Schichtrippen, die jetzt mit bis zu 20 m hohen Felsen ihre Umgebung überragen. Die vorhandenden Lücken in der Mauer entstanden durch die Wirkung der Flüsse und durch eiszeitliche Gletscher.