Józef Wilkowski urodził się 14 sierpnia 1889 roku w rolniczej rodzinie w Zalesiu Śląskim niedaleko Strzelec Opolskich. Po ukończeniu 8-klasowej szkoły powszechnej pracował w gospodarstwie rodziców, a jednocześnie brał udział w organizowanych przez polskich działaczy spółdzielczych kursach rolniczych.
Wkrótce sam stał się aktywnym działaczem spółdzielczym, jeżdżąc po powiecie i zachęcając polskich rolników do tworzenia i wstępowania do rozmaitych form spółdzielczej działalności.
Jednocześnie angażował się w promowanie polskich kandydatów w kampaniach wyborczych do pruskiego parlamentu i do rad gmin. Siłą rzeczy po I wojnie światowej zaangażował się w polską działalność propagandową przed plebiscytem.
Wziął udział w I powstaniu śląskim, po którego zakończeniu musiał wyemigrować z Opolszczyzny, zamieszkał więc w Mysłowicach. Tam wybrano go wiceprezesem Wojewódzkiego Zarządu Kółek Rolniczych.
Do Zalesia Śląskiego powrócił w roku 1923 jako działacz Związku Polaków w Niemczech.
Wkrótce powrócił także do działalności spółdzielczej, w ramach której był jednym z inicjatorów reaktywacji polskiego Banku Ludowego w Strzelcach Opolskich. Równocześnie angażował się w działalność licznych organizacji, był więc członkiem Towarzystwa Gimnastycznego "Sokół", Polsko-Katolickiego Towarzystwa Szkolnego i Zjednoczenia Zawodowego Rolników na Śląsku.
Jak wielu polskich działaczy z Opolszczyzny we wrześniu 1939 roku został aresztowany i wkrótce uwięziony w obozie koncentracyjnym w Buchenwaldzie. Udało mu się przetrwać sześcioletni pobyt w obozie i po zakończeniu działań wojennych wrócić do rodzinnej wsi.
Już wkrótce po raz kolejny z jego inicjatywy reaktywowano Bank Ludowy w Strzelcach Opolskich. Działał także w Towarzystwie Rozwoju Ziem Zachodnich.
Józef Wilkowski zmarł 20 lutego 1967 roku w Zalesiu Śląskim.