Vincent verbleef in Dordrecht in het kosthuis van Pieter Rijken en zijn vrouw Maria Aelmans in de Tolbrugstraat Waterzijde, boven hun kruidenierswinkel. Naast het pand bevond zich de opslag van Vincents werkgever Blussé & Van Braam: het is dan ook aannemelijk dat Vincent dit kosthuis vond door bemiddeling van zijn baas Pieter Kornelis Braat.  
Het echtpaar had al drie kostgangers in huis toen Vincent zich aandiende en hij moest zijn kamer daarom delen met een andere jongeman, Paulus Coenraad Görlitz (1851-1921). Samen rookten ze pijp en praatten ze over het leven, maakten wandelingen, bezochten kerkdiensten en het Dordrechts museum. Hun kamer bevond zich op de eerste verdieping aan de achterkant van het huis en had daardoor uitzicht op de tuinen van de huizen aan de Groenmarkt en Varkensmarkt. Hij schreef zijn broer Theo erover:

“Het raam van mijn kamer ziet uit op tuinen, met mast en populieren enz. en den achterkant van oude huizen, o.a. een groot met klimop begroeid,“a strange old plant is the ivy green” zei Dickens. Er kan zoo iets ernstigs en min of meer sombers in dat gezigt zijn, en Gij moest het zien met de morgen zon er op.” Lees de hele brief

Met toestemming van Görlitz hing Vincent de kamer vol met allerlei prenten waarop hij aan de rand Bijbelse spreuken had geschreven zoals zijn favoriete tekst “Steeds droevig, maar altijd blijde.” Vincent las zo veel als hij kon uit de Bijbel; hij had immers de wens om theologie te studeren en was zich ervan bewust dat hij nog genoeg te bestuderen had. Zijn kamergenoot trof hem dan ook regelmatig al slapend boven de Bijbel aan. De Rijkens vonden Vincent maar een zonderling met zijn vrome, sobere en teruggetrokken gedrag.