Kaj er dani og ættaður úr Viborg. Foreldur hansara vóru Ida og Anders Petersen, sum eisini vóru handilsfólk, og áttu og róku A/S Anders Petersens Farvehandel. Hesin handil er enn í familjuni og verður rikin av bróðursyni Kaj.
Undir krígnum noyddist Kaj sum lítil smádrongur at flýggja til Svøríkis saman við foreldrum og systkjum sínum undan týska hervaldinum. Har búleikaðust tey í nøkur ár til kríggið var liðugt, og komu síðani aftur til Viborg, har tey tóku virksemi teirra uppaftur.
Í 1964 giftist Kaj við Eyðbjørg, f. Mortensen, dóttur Jenny og Peter Mortensen av Hvítanesi á Tvøroyri, og fingu døturnar Annie og Berit. Áðrenn hetta var Kaj útbúgvin innan el-vinnuna og varð av AEG í Danmark sendur til Føroya at umboða teir. Stutta tíð eftir at vera komin til Føroya, stovnaðu hann og konan egna fyritøku, P/F Kaj Petersens Heilsøla. Seinni høvdu tey gávuhandilin Sóljuna, sum lat aftur fyri nøkrum árum síðani.
Kaj hevur duga væl at sett ferðina niður samstundist sum hann eldist, og í dag starvast bert hann og kona hansara í heilsøluni. Í áttatiárunum vóru 7 fólk í starvi hjá teimum. Hóast Kaj gjørdist føroyingur, varveitti hann sítt egna móðirmál. Helt tað vera betri at tosa væl dankst enn illa føroyskt.
Á ferðum uttanlanda er Kaj altíð hin fyrsti at ynskja seg heim aftur til Havnar til teldur og tøl. Hann er ein friðarligur og siðiligur maður, og tað er ikki hann, sum stendur í fremstu røð og ger vart við seg. Hóast hetta, munna nógv handilsfólk og onnur í Havn og kring alt landið bera kenslu á dámliga mannin við sínum stilla lyndi.
