Utan strandskyddsdispens får du inte ha något alls där som gör att området uppfattas som (mer) privat. Du får alltså tex inte ställa dit en grupp utemöbler ens, ställa dit blomkrukor, klippa gräset så det verkar vara en fortsättning/del av din gräsmatta, osv. En vagn eller möbler som du tar med dig dit just den stunden du använder det och plockar bort direkt igen är ok (precis som du kan ta med dig sådant till vilken strand som helst) men inget som står uppställt och ger privatiserande intryck, vilket en bastuvagn gör.
Sedan är det också så att permanent uppställning av vagnar/fordon (ex husvagn) kräver bygglov, på alla fastigheter (inte bara strandskyddade), så det är en anledning till att du inte får ha den (utan bygglov) uppställd permanent, utöver strandskyddets regler.
Var glad att de bara säger åt dig att ta bort den och inte kräver att du betalar sanktionsavgifter.