Die genauen Umstände sind zwar nicht mehr so recht belegbar, doch feststeht, dass die Begeisterung von Pfarrer Paul Schilling für den Längenberg den Ausschlag dafür gegeben haben dürfte, dass dort heute die Längenbergkapelle steht. Denn als dieser 1919 die Pfarrstelle in Gosheim übernahm, zog es ihn immer wieder zum Längenberg, der es ihm mit seinem warmen und stillen Südhang angetan hatte. Als 1933 dann im Rahmen einer Flurprozession die Gosheimer auch zum Längenberg kamen, fanden sie dort eine Statue der „Schmerzhaften Muttergottes“ vor, die auf drei Holzpfählen fixiert war – dort kurz zuvor platziert von Pfarrer Schilling, der damit den Grundstock für die Kapelle gelegt und den Längenberg zum Ziel von Spaziergängen gemacht hatte.
Der erste feste Bau der Kapelle erfolgte erst elf Jahre nach diesem überraschenden Beginn der Wallfahrt an den Längenberg: Mit einer Blockhütte fand die Statue Schutz vor dem Wetter, und zehn weitere Jahre später wurde die Holzkonstruktion durch den heutigen Massivbau ersetzt. Auch eine neue Statue für den Altar wurde beschafft, das Motiv blieb jedoch das Gleiche: eine „Piéta“, also die Muttergottes, die den gekreuzigten Jesus beweint. Erschaffen wurde diese Figur von der Münchner Künstlerin Ruth Schaumann. 1960 wurde die Kapelle noch mit prachtvollen Fenstern und einem Mosaik des Tuttlinger Künstlers Roland Martin hinter dem Altar ergänzt.
2021 wurde die Kapelle mit einem Kreuz ergänzt, das aus dem Nachlass ihres Gründers, Pfarrer Paul Schilling, stammt: Er soll das Kreuz bei einer Pilgerreise nach Israel erworben haben, nun hängt es direkt hinter der Glasfront im Eingangsbereich.
Seit ihrer Errichtung wird die Kapelle von Familien aus Gosheim ehrenamtlich gepflegt und regelmäßig mit frischen Blumen geschmückt. Bis 2017 kümmerte sich die Familie Schneider um die Kapelle, seither teilen sich die Familien Hermle und Werny diese Aufgabe – und sorgen auch für regelmäßigen Kerzennachschub.