Mit dem Fall der Mauer am 9. November ist das Schicksal der Grenzsperren in Berlin und entlang der innerdeutschen Grenze besiegelt. Bereits in der Nacht vom 10. auf den 11. November 1989 werden in Berlin neue Grenzübergänge geschaffen und erste Teile der Mauer abgerissen. Ende Dezember 1989 beschließt die DDR-Regierung den Abriss aller Grenzanlagen.
In den kommenden Monaten werden die Sperranlagen an einigen Abschnitten in der Innenstadt, beispielsweise zwischen Brandenburger Tor und Friedrichstraße, abgebaut. Am 13. Juni 1990 beginnt dann der planmäßige Abriss aller noch bestehenden Grenzanlagen rings um West-Berlin. Zwei Wochen zuvor hatte die Regierung de Maizière die Wirtschafts-, Währungs- und Sozialunion mit Wirkung zum 1. Juli 1990 beschlossen. Mit ihr entfallen in Berlin und an der innerdeutschen Grenze sämtliche Kontrollmaßnahmen zwischen beiden deutschen Staaten.
Die Beschleunigung des Wiedervereinigungsprozesses wirkt sich auch auf den Rückbau aus. Ist zunächst vorgesehen, die Mauer in Berlin bis zum Jahreswechsel 1990/1991 zu beseitigen, ordnet der Minister für Abrüstung und Verteidigung, Rainer Eppelmann, den Abbau bereits bis zum 1. Dezember 1990 an. Schon im November 1990 werden die letzten innerstädtischen Mauerreste entfernt. Der Abbau der Sperranlagen entlang der knapp 1.400 km innerdeutschen Grenze dauert hingegen bis Mitte der 1990er Jahre.
Die Grenztruppen der DDR, die jahrzehntelang streng über die Berliner Mauer und die innerdeutsche Grenze gewacht haben, sind nun für den Abbau der Grenzanlagen zuständig. Die Aufgabe ist immens. Der Abriss betrifft nicht nur die vom Westen aus sichtbare vordere Grenzmauer, sondern auch alle Sperrelemente innerhalb des Grenzstreifen sowie die auf östlicher Seite stehende sogenannte Hinterlandmauer. Der Chef der DDR-Grenztruppen, Generalmajor Dieter Teichmann, unterrichtet den neuen Minister Rainer Eppelmann Ende April 1990 über den Umfang der geplanten Demontagearbeiten. Demnach müssen an der innerdeutschen Grenze:
- 476 km vordere und 1.510 km hintere Sperrelemente einschließlich Zäune und Signalanlagen,
- 716 Beobachtungstürme
- sowie 845 km Sperrgräben
abgetragen werden. Dabei fallen nach Schätzungen der Grenztruppenführung rund 1,7 Mio. Tonnen Bauschutt an. Allein in Berlin werden 184 km Mauer, 154 km Grenzzaun, 144 km Signalanlagen und 87 km Sperrgräben entfernt.