Der große Längsbalken jedoch blieb in Jerusalem und wurde bei der Eroberung der Stadt durch die Perser im Jahre 614 nach Ktesiphon verschleppt. Das Kreuzesholz wurde aber im Jahr 628 durch den Sieg des byzantinischen Kaisers Herakleios über den Perserkönig Chosrau II. zurückgewonnen. Infolge des mit Byzanz geschlossenen Friedensvertrages veranlasste Boran, die Tochter des Königs die Rückgabe der Reliquien. Im Jahr 638 wurde Jerusalem durch die Muslime erobert. Die byzantinischen Kreuzteile sind seit dieser Zeit verschollen. Angeblich wurden sie vor den Muslimen nach Konstantinopel in Sicherheit gebracht oder verblieben in Jerusalem. Nach der Eroberung Jerusalems wurde ein Teil des „wahren Kreuzes“ wahrscheinlich im August 1099 in einer Silberkiste in einer abgeschiedenen Ecke der Grabeskirche entdeckt. Der Erzbischoff von Tyros, Wilhelm von Tyrus berichtet, dass es von einem syrischen Christen gefunden worden sei. Im Jahr 1187 geriet das Heilige Kreuz – vermutlich jenes, das 628 nach Jerusalem zurückgebracht worden war – bei der Schlacht von Hattin in die Hände der muslimischen Ayyubiden und ist seither verschollen. Die Geschichte des heiligen Kreuzes endet damit, dass 1204 bei der Eroberung Konstantinopels Hunderte kleinste Holzteile, die vom dort angeblich zerteilten Kreuz stammen sollen, von den Kreuzrittern nach Europa gebracht wurden.

In der Kölner Königschronik, die Chronica regia Coloniensis, wird berichtet, „Nach der Eroberung der Stadt wurden unschätzbare Reichtümer gefunden, unvergleichlich kostbare Edelsteine und auch ein Teil des Kreuzes des Herrn, das, von Helena aus Jerusalem überführt worden war. Es wurde zerteilt und mit anderen kostbaren Reliquien unter den Rittern aufgeteilt; später, nach deren Rückkehr in die Heimat, wurde es Kirchen und Klöstern gestiftet. In vielen Kirchen und Klöstern werden angebliche Partikel des Heiligen Kreuzes aufbewahrt und verehrt. Im deutschsprachigen Raum zum Beispiel im ehemaligen Benediktinerkloster Wiblingen in der Ölbergkapelle oder in der Kreuzkapelle im Stift Heiligenkreuz in Niederösterreich. Als Markgraf Leopold III. im Jahr 1133 das Kloster im Sattelbachtal stiftete, schenkte er den Mönchen aus Morimond eine Reliquie des Kreuzes. Daher nannte er die Neugründung „Kloster Unserer Lieben Frau zum Heiligen Kreuz“, kurz Heiligenkreuz. Die erste, kleine Reliquie wurde 1649 bei einem Einbruch in die damalige Kreuzkapelle gestohlen und ist seither verschwunden. Im Jahre 1182 brachte Herzog Leopold V. mit dem Beinamen „der Tugendhafte“ aus Jerusalem ein handgroßes Stück des heiligen Kreuzes mit. Am 31. Mai 1188 vermachte er diese Reliquie seinem Lieblingskloster Heiligenkreuz. Diese große Reliquie ist bis heute erhalten. Das Holz dieser Kreuzreliquie ist braunrot und in Form eines Doppelkreuzes mit zwei Querbalken zusammengestellt. Der Längsbalken, der aus 5 Einzelstücken zusammengesetzt ist, ist 23,5 cm lang, 1,7 cm breit und 1,0 cm dick. Der obere Querbalken ist 6,2 cm, der untere 10,7 cm lang. Es ist die eindrucksvollste Kreuzreliquie nördlich der Alpen. Das Kloster Wiblingen verdankt seine Gründung den beiden Grafen Hartmann und Otto von Kirchberg. Die Grafen von Kirchberg stifteten dem Kloster Holzpartikel, die angeblich vom Kreuz Christi stammten und die seitdem in der Klosterkirche in Wiblingen in einem Schrein aufbewahrt und verehrt werden. Im Dreißigjährigen Krieg kam es zu einem für das Kloster schmerzlichen Verlust der Heilig-Kreuz-Reliquie. Aus Angst vor einem Raub oder der Zerstörung in den Kriegswirren ließ der damalige Abt Johannes Schlegel sie verstecken, um sie vor dem plündernden feindlichen Heer der Schweden zu schützen. Im Krieg kam es in den Klostergebäuden zu Raub und Plünderungen, Soldaten wurden einquartiert. Überdies brach infolge des Krieges in Wiblingen die Pest aus, die viele Mönche und auch den Abt hinwegraffte. Nach dem Abzug der Truppen wurde allerdings das Versteck nicht wieder aufgefunden, da es keine überlebenden mönchischen Zeugen des Verstecks mehr gab. Die Legende berichtet, ein alter Maurer aus Kärnten, der seinerzeit im Beisein der wenigen Zeugen die Kreuzreliquie hinter dem Hochaltar der Wiblinger Klosterkirche eingemauert hatte, hätte in einem Traum die Vision des Wiblinger Heiligkreuzes gehabt, woraufhin er beschlossen hätte, sich als Greis nochmals auf den Weg ins ferne Wiblingen zu machen, um die Partikel zu verehren. Als er in Wiblingen eintraf, soll er, so die Legende, jedoch erstaunt gewesen sein, dass die Holzpartikel vermisst würden. Die Freude aller Anwesenden soll daher groß gewesen sein, als er im Beisein der Mönche die Reliquie wieder zutage förderte.