27 sierpnia 1922 roku w Berlinie odbyło się spotkanie przedstawicieli różnych polskich środowisk funkcjonujących na terenie państwa niemieckiego. Celem spotkania było założenie polskiej organizacji, która w granicach obowiązującego w Niemczech prawa, korzystając z gwarancji Konwencji dla Górnego Śląska byłaby rzecznikiem spraw i problemów Polaków będących obywatelami Niemiec.

Ustalono, że powołany 27 sierpnia 1922 roku w Berlinie Związek Polaków w Niemczech będzie organizacją nadrzędną, do której wstąpią zarówno osoby czujące się Polakami, jak i mniejsze organizacje skupiające Polaków.

Wśród tych organizacji wiodącą rolę odegrały działający od 1920 r. Związek Polaków w Prusach Wschodnich i Towarzystwo Szkolne w Olsztynie, a także działacze polscy w Westfalii. W tych dwóch pierwszych organizacjach wiodącą rolę odgrywał polski działacz plebiscytowy z Warmii Jan Baczewski, który podczas spotkania założycielskiego w Berlinie został wybrany tymczasowym prezesem Związku Polaków w Niemczech.

Jego najbliższymi współpracownikami zostali lider polski z Westfalii Jan Kaczmarek i prawnik z Warmii Brunon Openkowski.

Pierwszym zadaniem nałożonym przez uczestników spotkania założycielskiego na kierownictwo Związku Polaków w Niemczech było opracowanie statutu organizacji i dopełnienie formalności prawnych obowiązujących stowarzyszenia działające w republice weimarskiej.

Formalności zostały spełnione i 3 grudnia 1922 roku w Berlinie odbyło się pierwsze Walne Zebranie Związku Polaków w Niemczech, podczas którego przyjęto Statut i powołano Radę Naczelną oraz Zarząd Główny stowarzyszenia.

Statut mówił, że najważniejszym celem istnienia organizacji było reprezentowanie praw Polaków żyjących w Niemczech jako mniejszości narodowej wobec niemieckich władz państwowych.

Uczestnicy Walnego Zebrania uchwalili także Manifest Związku Polaków w Niemczech, który 9 grudnia tego samego roku został opublikowany w ukazującym się w Berlinie od 1896 roku w języku polskim Dzienniku Berlińskim. Manifest obwieszczał, iż powstał Związek Polaków w Niemczech i zapowiadał kierunki działań organizacji.