Położone na Żmudzi sanktuarium Męki Pańskiej ściąga co roku wielu pielgrzymów. Najwięcej ludzi kalwaryjskie dróżki odwiedza w lipcu, gdy w kalwarii trwają uroczystości odpustowe. Dla uczestniczących w nich po raz pierwszy wielkim zaskoczeniem może być nie tylko samo sanktuarium, ale również pobożność miejscowych ludzi, którzy z wielką pieczołowitością zachowują wielowiekową tradycję.
Kalwaria Żmudzka, tak jak inne podobne sanktuaria, powstała w XVII w., gdy szczególnie rozwijał się ten rodzaj nabożeństw, przy hojnym wsparciu fundatorów. W tej żmudzkiej krainie pierwszy kościół został zbudowany w 1593 r. W 1637 r. biskup żmudzki Jerzy Tyszkiewicz zaprosił w te okolice dominikanów, którym wybudował klasztor i podarował ziemię, by troszczyli się o mające powstać pierwsze na Litwie sanktuarium kalwaryjskie. W zamierzeniu biskupa, kalwaria miała przyczynić się do zaktywizowania życia religijnego jego diecezjan i popularyzacji kultu Męki Pańskiej. Już w 1639 r. zbudowano kapliczki, a dominikanie stworzyli na potrzeby sanktuarium specjalne pieśni i modlitewnik. Odtąd miejsce to zaczęto nazywać Kalwarią Żmudzką.
Wkrótce, oprócz kalwaryjskich dróżek, pielgrzymów zaczął przyciągać również cudowny obraz Najświętszej Marii Panny z Dzieciątkiem, przywieziony w roku 1643 z Rzymu przez dominikanina Piotra Pugaczewskiego i zawieszony w bocznym ołtarzu kościoła. Przedmiotem kultu stała się również relikwia Krzyża Świętego, sprowadzona tutaj z klasztoru dominikańskiego w Lublinie. Pobożność pasyjna, zgodnie z intencją biskupa Tyszkiewicza, rozwijała się bardzo szybko. Sanktuarium zaczęło słynąć z trwających przez 10 dni odpustów, które rozpoczynano co roku 2 lipca, a które przyciągały tysiące pielgrzymów.
Pierwsze prześladowania nastąpiły w czasach carskich. W 1889 r., po 250 latach, z klasztoru zostali wypędzeni dominikanie. Dopiero w czasach niepodległej Litwy powrócili tu zakonnicy, którzy mieli roztaczać opiekę nad pielgrzymami. Byli to marianie, pracujący tu aż do okupacji sowieckiej, która – podobnie jak carska – nie chciała w tym miejscu zakonników.
W okresie przynależności tych ziem do Związku Sowieckiego przetrwanie sanktuarium było najtrudniejsze. Zgodnie z zamysłem władz, miał je czekać taki sam los jak Kalwarię Wileńską. Kapliczki miały zostać zburzone, a sanktuarium miało utracić dotychczasowy wpływ na wiernych. By wyprzeć religijny charakter tego miejsca, w 1967 r. władze sowieckie posunęły się nawet do zmiany nazwy miasteczka na „Varduva”.
Dlaczego Kalwaria Żmudzka ocalała do dzisiaj? Było to możliwe tylko dzięki odwadze i zdecydowanej postawie mieszkańców, którzy przez wiele tygodni dniem i nocą pilnowali 20 kaplic, chroniąc je przed zniszczeniem.
O znaczeniu kalwarii dla życia religijnego Litwy doskonale wiedział również św. Jan Paweł II. W 1987 r., gdy Litwa obchodziła 600-lecie chrztu, w liście do biskupów litewskich wspominał o szczególnej pobożności do Męki Pańskiej i miłości do Najświętszej Dziewicy wśród Litwinów, osobno wskazując na sanktuarium w Kalwarii Żmudzkiej. W jubileuszowym roku dla Litwy, podczas modlitwy Anioł Pański, 28 czerwca, mówił do zebranych kilkudziesięciu tysięcy wiernych o Litwie i wtedy również wspomniał Kalwarię Żmudzką, jako jedno z najliczniej odwiedzanych sanktuariów w kraju.
6 maja 1988 r. Jan Paweł II nadał świątyni w Kalwarii Żmudzkiej tytuł bazyliki mniejszej, a 17 marca 2004 r. ustanowił warunki, na jakich uzyskać można w Kalwarii Żmudzkiej odpust zupełny i zezwolił na rozpoczęcie procesu koronacji koronami papieskimi kalwaryjskiego cudownego obrazu Madonny z Dzieciątkiem. Niestety, nie udało się tego dokonać jeszcze za jego życia. Obraz ukoronowano w czasie pontyfikatu jego następcy, 8 października 2006 r., koronami, które poświęcił papież Benedykt XVI.
Dzisiejsza kalwaria nie pozostawia wątpliwości, że w czasach sowieckich, tak trudnych dla kościoła, Żmudzini ocalili jednak znacznie więcej niż tylko drewniane i kamienne budowle. Przede wszystkim dzięki nim do dziś nabożeństwo w tym miejscu odprawiane jest dokładnie tak, jak przed wiekami. Pieśni kalwaryjskie śpiewane są na chóry, męski i żeński, czytane są tradycyjne rozważania. Nie brakuje też osób modlących się z uniesionymi rękami czy też przebywających drogę na kolanach. Niewątpliwie – tradycja jest tu nadal żywa i doskonale rozumiana przez dzisiejszych ludzi.