Po odparciu wojsk bolszewickich spod Warszawy władze niemieckie wycofały się z pomysłu napaści zbrojnej na Polskę. Jednak terror wobec Polaków na Górnym Śląsku nie ustał. W lipcu i sierpniu 1920 roku przybrał największe rozmiary, wobec czego Polacy chwycili za broń.
II powstanie śląskie wybuchło w nocy z 19 na 20 sierpnia 1920 roku . W przeciwieństwie do pierwszego nie był to spontaniczny zryw, ale zorganizowane działanie.
Zaraz po wezwaniu do walki przez Wojciecha Korfantego rozpoczął się strajk generalny. Dowództwo Polskiej Organizacji Wojskowej Górnego Śląska na czele której stał Alfons Zgrzebniok ps.Rakoczy, nakazało niezwłocznie rozpoczęcie działań bojowych w 5 okręgach wojskowych .
Urodzony na Opolszczyźnie w Dziergowicach Zgrzebniok był już oficerem sprawdzonym w bojach w czasie I wojny, kiedy służył jeszcze w niemieckiej armii. Doświadczenie wojskowe przydało mu się niewątpliwie w przewodniczeniu POW.
Oswojony już wcześniej z niemieckim mundurem zorganizował brawurową akcję zdobycia broni i amunicji z kozielskich koszar. Udało mu się przekonać wartowników, że dowodzi tajną operacją niemieckiego dowództwa.
Działalność patriotyczną rozpoczynał w gimnazjum gdzie należał do Kółka Narodowego. W czasie studiów na Uniwersytecie Wrocławskim włączył się w działalność tajnego koła organizacji „Zet“. Potem związał się z Polską Organizacją Wojskową. Był jednym z dowódców w pierwszym powstaniu śląskim. Stanął na czele II powstania śląskiego.
W pierwszych godzinach walk powstańcy zniszczyli na całym terenie sieci łączności. Sparaliżowało to działania niemieckie i przedwczesne wkroczenie wojsk okupacyjnych.
Głównym celem II Powstania Śląskiego było wyparcie niemieckiej Policji Bezpieczeństwa z obszaru plebiscytowego i zastąpienie jej strażą obywatelską, a następnie nowo utworzoną policją plebiscytową i to zadanie zostało zrealizowane.
W czasie walk zdobyto kilkanaście miejscowości m.in. Mikołów i Piekary Ślaskie. Powstańcy Śląscy nie zaatakowali większych miast, w których stacjonowały wojska alianckie, ale prowadzono walki w rejonie Mysłowic, Katowic i Siemianowic Śląskich. Powstańcy nie mogli też liczyć na pomoc rządu, ponieważ wciąż trwała wojna polsko -bolszewicka.
Ostatecznie Międzysojusznicza Komisja Rządząca i Plebiscytowa na Górnym Śląsku nakazała 24 sierpnia 1920 roku rozwiązać niemiecką policję . Polski postulat został spełniony. Już następnego dnia dowództwo powstania zdecydowało o przerwaniu walk. Drugie śląskie powstanie zakończyło się sukcesem.