En del av husen som byggdes på Sverigetiden finns kvar i dag.
Mairie användes under Sverigetiden som tullhus, arkiv och guvernement. Idag används inte huset längre och håller tyvärr på att förfalla.
Tullhuset – Mairie byggdes under Västindiska kompaniets tid i slutet av 1700-talet som tullhus. Då fanns på övervåningen tullförvaltarens bostad. På undervåningen hittade man tjänstefolket och magasin. Västindiska kompaniet, som förvaltade huset, lämnade det tillbaka till staten 1805, huset var då i dåligt skick. Som tullhus hyrde man istället ett hus närmare hamnen medan det gamla tullhuset reparerades.
År 1806 var tullhuset färdigrenoverat. Då fick läkaren och lantmäteridirektören Samuel Fahlberg huset som ett kontor tillsammans med guvernörsarkivet och domstolsarkivet. Huset byggdes om flera gånger. 1844 bestämde man att detta hus var det finaste huset i kvarteret och att man skulle kosta på en renovering till. Man beslöt 1861 att man skulle bygga om Mairie till guvernementshus och 1862 flyttade guvernören Carl Ulrich in i det nya guvernementshuset.
Dinzey’s hus byggdes 1822. Det var Julia Dinzey som bodde där innan hon dog 1959, då var hon nära nittio år. Julia var den sista svenska medborgaren som bodde på ön sedan Sverigetiden. Dinzey’s hus klarade sig undan branden 1852 och det är en förklaring till att det är välbevarat. När Julia Dinzey dog den 3 april 1959 ärvde Mrs. Barnes huset. Hon hade tagit hand om fröken Dinzey innan hon dog. Efter Mrs. Barnes ärvde huset ville man göra bland annat Yachtklubb eller svenskt museum av huset. Idag hittar man en antikaffär på bottenvåningen och på övervåningen är det privatbostad.
Dinzey’s hus var ett köpmanshus sedan Gustavias storhetstid. Man använde bottenvåningen till magasin och förrådslokal. Till vänster om huset ligger den obligatoriska cisternen. På övervåningen finns två stora rum. Det som tidigare var kök satt inte ihop med den stora byggnaden utan var ett hus för sig själv, det är nu borttaget. Även två slavhus som finns på gården bakom huset är välbevarade. I dag ägs huset av Dantes Magras, som är svensk konsul sedan januari 1999 och är gift med en svenska. Han hyr ut huset till Thomas Fischer.
Wall House är i dag museum och bibliotek. Museet invigdes i maj 1995 efter en omfattande renovering. Husets historia är oklar. Wall House fick sitt namn efter Job Wall som var en amerikansk konsul, han gifte sig med kronolotsen Rydströms dotter och blev svensk medborgare. Wall House byggdes på 1820-talet men vad man skulle ha huset till vet man inte. Troligen har huset använts som samlingslokal för officerare och svenskar som bodde på ön.
Huset stod i ruiner efter en brand på senare delen av 1800-talet. Det stod tomt i ungefär 100 år. På museet i Wall House finns i dag en Sverigeavdelning där man kan hitta redskap, kartor, fartygsmodeller, målningar och mycket annat från Sverigetiden. Biblioteket som ligger en trappa upp är välsorterat för att vara ett västindiskt bibliotek. Det finns till och med en hörna med litteratur från Sverige.
Den svenska klockstapeln byggdes år 1799. Klocktornet skulle ersätta det gamla dåliga tornet på kyrkan. Det var Justitiarien Anders Bergstedt som stod för det finansiella och bygget av tornet. Klockstapeln byggdes om 1831 efter att det stått och förfallit. Efter orkanen 1837 renoverades stapeln igen. Klockan var länge den enda som fanns i Gustavia. Det ringdes i klockan två gången om dygnet. Den första var klockan 6 på morgonen den andra var klockan 8 på kvällen. Sommaren 1993 fick klockstapeln en ordentlig upprustning. Den målades om till grönt och fick ett ur som visar hur mycket klockan är. Klockan slår varje timma med hjälp av elektricitet. 
Man är osäker på om det är original klockan som hänger inne i stapeln. Det finns en inskription som lyder: ”År 1799 blef denna klocka för Sophia Magdalena kyrka i Gustavia af församlingen påkostad”. Det kan vara så att klockan har blivit utbytt 1831 efter att den andra blivit skadad.
Fängelse och skola, detta hus var det tänkt att bedriva skola i. Det var Anders Bergstedt som kom med den idén, han var även den som stod för det mesta av kostnaderna för husbygget. Vad man vet har detta hus aldrig använts som någon skola. Arbetet med byggnaden började 1800 men fick skjutas upp. Anledningen var den engelska ockupationen 1801-1802. När huset stod klart 1804 hade man inga pengar kvar och man hade inte råd att bedriva undervisning. Huset blev istället till samlingslokal.