Klarer Fall
Sollte der Schimmel nicht als Mangel im Vorfeld schriftlich im Mietvertrag erwähnt worden sein, könnt ihr fristlos kündigen und auch ausziehen.
Schließlich ist Schimmel gesundheitsgefährdent und damit könnt ihr auch argumentieren.
Vorher müsstet ihr aber dem Vermieter die Gelegenheit gegeben haben, diesen Mangel zu beseitigen, dies habt ihr ja anscheinend.
Solltet ihr nicht so schnell ausziehen können, egal welche Gründe, könnt ihr umgehend eine Mietminderung veranlassen. Diese muss aber schriftlich erfolgen.
Mit euren Mietschulden hat das alles nichts zu tun, hier geht es um eure Gesundheit. Trotzdem müsst ihr eure Schulden zahlen. Da ihr vorher anscheinend keine Mietminderung veranlasst habt, bleibt euch auch rückwirkend nichts anderes übrig, als die volle Restschuld zu zahlen. Dies hat aber nichts mit der folgenden Mietminderung zu tun.
Beantragt Beratungskosten bei einem Anwalt (geht ganz einfach) der kann euch genau weiterhelfen.