Rechtlich kannst du vor Arberitsantritt (der erste Tag im neuen Job) jederzeit von deinem Vertrag zurücktreten. Da die meisten Jobs mit einer Probezeit beginnen in der beide Seiten ohne Gründe und Fristen kündigen können, könntest du das theoretisch auch nach Arbeitsbeginn noch machen.
Aber das ist nur die Rechtliche Seite. Von der professionellen Seite würde ich sagen, umso höher die Anforderungen und Gehalt, umso mehr wird dir ein Arbeitgeber eine Absage nach einer Zusage übelnehmen.
Wenn du irgendwo für Mindestlohn als Aushilfe anfangen willst, interessiert es keinen wenn du was besseres gefunden hast. Wenn du dich aber auf einen hochbezahlten Managerposten bewirbst, kann dich das schon auf die blacklist der Firma setzen.
Ich würde an deiner Stelle mit offenen Karten spielen. Sag denen, dass du noch andere interviews hast (das ist ja ganz normal) und wieviel Zeit du dafur brauchst. Wenn das nicht mehr als ein paar Wochen sind, sollte das jeder recruiter verstehen. Ausserdem sind Kündigungsfristen (ausserhalb der Probezeit) relativ lang in Deutschland, weswegen Arbeitgeber oft auf Wartezeiten eingestellt sind.