Die spätere Stiftskirche entstand aus einer Einsiedelei, die 736 von Sturmius gegründet wurde. Zwischen 769 und 775 machte Bischof Lullus von Mainz aus der Einsiedelei ein Benediktinerkloster. Gleichzeitig wurde statt der älteren Kapelle eine größere Kirche gebaut, die den Heiligen Simon der Zelot und Judas Thaddäus geweiht wurde. Im Jahre 780 wurden die Gebeine des heiligen Wigbert von Büraburg bei Fritzlar nach Hersfeld gebracht. Die Fundamente dieser zwei Kirchenbauten wurden bei Ausgrabungen (von Joseph Vonderau im Jahre 1921 und 1922) im südlichen Querhausflügel der heutigen Stiftsruine gefunden.
Abt Bun begann 831 mit dem Bau einer Klosterkirche; diese karolingische Basilika wurde unter Abt Brunwart 850 beendet und im gleichen Jahr von Mainzer Erzbischof Rabanus Maurus geweiht. Der Hauptpatron dieser Kirche wurde Wigbert. Hier liegt auch der Ursprung des Lullusfestes, das noch heute gefeiert wird.
Nach dem großen Brand von 1038 begann der romanische Neubau, der abgesehen vom Langchor und vom Westbau dem karolingischen Grundriss folgte. Die Hauptweihe fand in Anwesenheit von König Konrad III. im Jahre 1144 statt.
Die Kirche ist vom Haupteingang im Westen bis zum Langchor 102,8 m lang. Über dem Haupteingang im Westchor (Laienchor) öffnet sich noch heute die Apsis in voller Höhe und Breite. Auf beiden Seiten des Westwerks befanden sich zwei Glockentürme, von denen nur noch der südliche erhalten ist. Das Langhaus ist 46,8 m lang und 29 m breit. Es hatte an beiden Seitenwänden ein Seitenschiff. Diese sind zusammen mit der ganzen Dachkonstruktion zerstört. Lediglich eine Reihe mit über einen Meter breiten Würfelkapitellen bezeichnet die Nordreihe der Säulen, die das Haupt- von Seitenschiff trennte.
Das Querschiff, die Vorhalle zum Allerheiligsten (dem Chor und der Krypta) läuft auf seiner ganzen Länge von 55 m frei durch, ohne teilende Bögen und Säulen. An den Ostwänden der Querschiffflügel befinden sich zwei Nebenapsiden, die auch erhalten sind. Über den Nebenapsiden öffnet sich auf jeder Seite ein Vierpass. Auch im Querschiff gibt es das Dach und den Glockenturm (war vermutlich eine Holzkonstruktion), der sich über der Vierung erhob, nicht mehr. Auf diesem Turm soll sich eine vergoldete Hand befunden haben, die noch von Karl dem Großen stammte.
Der im Scheitelpunkt 22,5 m hohe Querhausostbogen öffnet sich zum 27 m langen Hochchor (von außen auf dem ersten Foto im Kapitel „Weitere Bilder“ zu sehen) und der darunterliegenden dreischiffigen Krypta. Dies ist der älteste Bereich der Kirche, was man auch an den noch erhaltenen Säulen und der dazugehörigen Kapitelle erkennen kann. Die Weihe von Chor und Krypta erfolgte 1040 in Anwesenheit von Kaiser Heinrich III. Hier sind die Zerstörungen sehr stark. Das Dach, die Apsis, der Altarsockel und das Gewölbe der Krypta sind nicht mehr vorhanden.
Von den Klostergebäuden steht außer dem Katharinenturm nur noch der Ostflügel des romanischen Klostergevierts, das in Verlängerung des südlichen Querhauses steht. In dem Gebäude ist heute das Museum untergebracht. Hier sind im ersten Stock in einer Altarnische (Abtskapelle genannt) noch Ausmalungen erhalten, die in die Zeit von Abt Godehard datiert werden. Im Gewölbe ist der thronende Christus flankiert von den neun Engelschören dargestellt. Die Seitenflächen der Nische zieren die Heilstaten Christi. Die Wandbemalungen wurden im Jahre 1930 wiederentdeckt.