Den gamle rytterstald, Algade 36, ca. 1900.
De kongelige ladegårde, deriblandt Vordingborg Slot, blev efter omorganiseringen af ryttergodset i 1717, indrettet til rytterkvarterer. Lader og andre bygninger indrettedes til at huse rytterne og deres heste. Imidlertid forfaldt staldene og laderne på slotsterrænet mere og mere, og det var nødvendigt at gøre noget ved det.
I 1776 blev der bygget en rytterkaserne i Algade, som blev ombygget i 1785. Bygningerne blev opført på den grund, hvor Vordingborg Trælasthandel siden kom til at ligge. Den var 65 alen lang og 21 alen dyb, og det tilstødende vænge var på 9.750 kvadratalen, hvor sydsiden var afgrænset af en stor dyb muddergrøft, hvor der på siderne voksende skræpper.
En række kortere og længere støtter var anbragt på fortovet som afstivning op mod bygningen ud mod gaden.
Der var stald for neden og fægtesal og fouragelager for oven. I den vestlige gavl var der en høj port, så dragonerne kunne ride lige ind i stalden.
Rytterne havde eksercerplade i Masnedsund, hvor svineslagteriet senere blev bygget. Mod vest var der en stor skydevold, hvor mandskabet blev indøvet i skydning med karabin og pistol. Desuden var der en større øvelsesplads og ridemark ude i Barmosen.
Den 6 maj 1846 sad mandskabet godt bænket i deres barakker og skulle til at indtage deres middagsmad, da der pludseligblev råbt “brand”. Dragoner fik løst hestene, men på grund af røg og gnister kunne de ikke få dem ud af stalden. Hornblæseren greb sit horn og blæste signalet ”hurtig udrykning”! Det hjalp, for det signal kendte hestene, der nu løb ud af stalden. Hestene blev ført til Masnedsund, så den eneste hest, der indebrændte, var træhesten!
Ved brandstedet kunne gaden ikke passeres, og der blev hængt våde lagener for vinduerne i de overfor liggende ejendomme. Brandtomten blev ryddet, og der opførtes en ny kaserne i 2 etager af mursten med fast tag på grunden.
I 1867 blev kasernen solgt af staten til privat formål. Den østre del blev erhvervet af Vordingborg Trælasthandel, og den vestre af købmand Sophus Hjort, som solgte herretøj. 90 år senere ejede Vordingborg Trælasthandel hele området, og ejendommen havde fået navnet Ryttergården.