В Пиуза есть залежи редкого белого песка, из которого изготавливается стекло. При добыче этого песка возникли подземные пещеры. Они были выкопаны в 1922-1966 годах и их общая длина составляет более 10 км. С 1966. года песок добывается в карьере Пиуза и новых пещер не возникает. Существующие пещеры находятся под угрозой обвала из-за расширения карьеры и их площадь постоянно уменьшается.

The bats are very sensitive to any disturbing: even tha talking in the caves can disturb their sleeping and they are forced to find a new place to hibernate.

С середины девяностых прошлого века пещеры Пиуза являются самым большим местом зимовки летучих мышей в Восточной Европе.

Главную угрозу для летучих мышей составляют люди, которые посещают пещеры. Спящие летучие мыши очень чутки и даже разговор может их разбудить и они будут вынуждены затратить энергию на поиск нового места для зимовки.

Правила поведения в пещерах Пиуза:
Все пещеры Пиуза находятся под охраной природы. Запрещено причинять им вред, оставлять там мусор, шуметь и причинять любой ущерб. В пещерах и вокруг них нельзя разводить костры, ставить палатки и оставлять мусор.

Находиться в пещерах опасно людям из-за возможных обвалов.

В пещерах спящих летучих мышей нельзя тревожить. Запрещено их трогать или подходить ближе чем на 1 метр – это мешает их зимовке и опасно для людей из-за болезней, которые могут передаться при укусе.

Для посещении предназначена только музейная пещера (за магазином Пиуза) – в нём меньше опасностей как для людей, так и для летучих мышей. Во время зимовки летучих мышей (сентябрь – апрель) запрещено громко разговаривать в пещере или как-либо тревожить животных.

В других пещерах запрещено находиться.

Постройка Вастселииноского замка была инициирована совместно Тартуским епископом и магистром Ливонского ордена в 1342. году. Замок был перестроен во второй половине 15. века и во время господства шведов в 17. веке. Мощный пограничный замок был в архитектурном плане единственным в своем роде на всей территории Эстонии и Латвии.

В средние века замок Вастселиина был известным местом паломничества для католиков. Здесь поклонялись священному кресту, который находился в часовне и с которым предположительно связан по сей день видимый крест на стене башни. По некоторым данным в 1697. году в замке останавливался Петр I во время своего первого визита заграницу.

В 1772. году построили в 2 км от Вастселиина церковь, которая получила новый облик в начале 20. века. В церкви находятся орган братьев Крииза и икона Фр.Л. вон Мейделла.