Józef Antoni Franciszek Elsner urodził się 1 czerwca 1769 w Grodkowie na Opolszczyźnie. Już w dzieciństwie przejawiał zainteresowanie muzyką – śpiewał w chórze kościelnym, uczył się śpiewu w klasztorze dominikanów i w jezuickim Gimnazjum św. Macieja we Wrocławiu. Śpiewał tam i grał w chórze i kapeli klasztornej, a następnie we wrocławskim chórze operowym i w tamtejszej orkiestrze teatralnej.

Równocześnie uczył się gry na skrzypcach. Jego pierwszym wykonanym publicznie utworem był motet z "Ave Maria gratiae plena" na dwa głosy solowe z towarzyszeniem instrumentów. Premiera ta miała miejsce w roku 1782 we wrocławskim kościele św. Wojciecha. Wkrótce zadebiutował jako solista, a następnie jako skrzypek kameralista.

Początkowo studiował teologię na Uniwersytecie Wrocławskim, wkrótce przeniósł się na medycynę, które to studia zamierzał kontynuować w Wiedniu jako stypendysta miasta Grodkowa. Wyjechał do Wiednia jesienią 1789 roku, wkrótce jednak ciężko się rozchorował i w trakcie długotrwałego leczenia podjął decyzję, iż odtąd całkowicie poświęci się muzyce.

Wiosną 1792 roku pojechał do Lwowa, gdzie objął stanowisko kapelmistrza w teatrze. Wkrótce wystawiono tam jego dwie opery. Gdy do teatru przybył Wojciech Bogusławski nawiązała się długoletnia współpraca autorska obu wybitnych twórców. Odtąd Elsner pisał opery do polskich tekstów Bogusławskiego. W tym czasie zainteresował się polską muzyką ludową i zaczął wykorzystywać jej wątki w swoich utworach.

Był niezwykle płodnym kompozytorem napisał 30 mszy, 18 Offertoriów, 53 utwory oratoryjno-kantatowe, 18 oper oraz 16 innych utworów scenicznych, a także kilka baletów, osiem symfonii i wiele innych mniejszych utworów.

W roku 1799 Elsner przeniósł się na stałe ze Lwowa do Warszawy, gdzie do roku 1824 prowadził operę przy Teatrze Narodowym. Oprócz szerokiej działalności koncertowej i artystycznej wiele czasu poświęcał na pracę pedagogiczną, m.in. w Szkole Głównej Muzyki, gdzie wykształcił wielu polskich kompozytorów, a wśród nich Fryderyka Chopina.

Jako nauczyciel trafnie ocenił jego talent pisząc na świadectwie szkolnym: „szczególna zdatność, geniusz muzyczny”. Z Chopinem łączyły Elsnera uczucia prawdziwej przyjaźni.
O Elsnerze mówi się, że był polskim kompozytorem narodowości niemieckiej, co jest jednym z licznych dowodów na fakt, iż prawdziwa sztuka nie zna granic.

Józef Elsner, zmarł 18 kwietnia 1854 w Warszawie.