Wśród inicjatorów powstania Związku Polaków w Niemczech byli reprezentujący polską społeczność w Prusach Wschodnich prezes Towarzystwa Szkolnego w Olsztynie Jan Baczewski oraz Jan Kaczmarek z Bochum, współzałożyciel Polskiego Uniwersytetu Ludowego.

Na pierwszego prezesa Związku Polaków w Niemczech wybrano Stanisława hr. Sierakowskiego. Brał on udział w organizacji plebiscytu na Warmii. W latach 1933-1939 organizacją kierował ks. Bolesław Domański (1933–1939), a od kwietnia do 1 września 1939 r. - Stefan Szczepaniak.

Do głównych zadań Związku należała obrona praw ludności polskiej zamieszkałej w Niemczech oraz działania na rzecz polskości i umacniania świadomości narodowej.
Niespełna dwa lata wcześniej Związek Polaków powstał w Prusach Wschodnich.Tam głównymi działaczami byli ziemianie Jan Baczewski i Stanisław Sierakowski. Komórki Związku działały też na Warmii i Mazurach,ale także na Powiślu.

Inicjatywa przyjęła się także w Westfalii,w samym Berlinie, ale również na Opolszczyźnie. Właśnie na sierpniowym zjeździe Polaków w Berlinie pojawili się Baczewski i Sierakowski..W historycznym spotkaniu wzięli udział Polacy z Westfalii, ale także z Górnego Śląska. W czasie zjazdu pracowano nad programem Związku ,ale rozpoczęły się też prace nad statutem Związku

Najwyższą władzą Związku było Walne Zebranie, które wybierało Radę Naczelną.Początkowo organizacja działała nieformalnie.Dopiero 6 listopada 1923 została zarejestrowana w Sądzie w Berlinie.

Kierownikiem Centrali i sekretarzem generalnym Z P w N był przez cały czas istnienia, aż do 1939 roku Jan Kaczmarek.To właśnie on zajmował najwyższe stanowisko urzędnicze.
Natomiast najwyższym wybieralnym przedstawicielem Związku był oczywiście prezes.

W tym miejscu warto przypomnieć przede wszystkim prezesów dzielnicy I, której główna siedziba mieściła się w Opolu. A byli nimi Kazimierz Malczewski w latach 1923-1926, potem dwaj kapłani ks. Czesław Klimas i ks.Karol Koziołek i rolnik Franciszek Myśliwiec, który był ostatnim prezesem przed II wojną . We wrześniu 1939 roku aresztowali go Niemcy. Został osadzony w obozie w Buchenwaldzie, później trafił do Dachau, gdzie zginął w 1941 roku.

Przypomnijmy. Całość struktur Związku Polaków w Niemczech pod względem administracyjnym została podzielona na 5 dzielnic.Pierwsza obejmowała Śląsk Opolski i Dolny Śląsk z siedzibą w Opolu.W drugiej dzielnicy znalazły się Berlin i Ziemia Połabska, ale biuro znajdowało się w Berlinie. Trzecia z biurem w Bochum obejmowała Nadrenię i Westfalię ,a także Badenię i Palatynat. Dzielnica IV obejmowała Prusy Wschodnie-Powiśle,Warmię i Mazury z siedzibą w Olsztynie.W V dzielnicy znalazło się pogranicze, czyli Ziemia Złotowska i Kaszuby.

Zupełnie niezwykłą postacią i chyba jedną z najbardziej zasłużonych w walce o polskość był ks. dr Bolesław Domański. Wraz z innymi kapłanami w 1922 roku z niesłychaną odwagą przemierzał także Śląsk .

Ks.Domański był aktywnym uczestnikiem życia społecznego, kulturalno-oświatowego,politycznego ale i gospodarczego mniejszości polskiej w Niemczech. Dzięki wielkiej pracowitości, stanowczości i umiejętności kierowania ludźmi pełnił niekwestionowaną rolę lidera w Związku Polaków w Niemczech.

W jednej ze swoich patriotycznych odezw przestrzegał Polaków: "Będziecie zwalczani,ale nie zwalczeni, będziecie pokonywani,ale nie pokonani, będziecie zwyciężani, ale nie zwyciężeni.Bóg nad nami i z nami."