Przyszły biskup krakowski był synem Jana Gembickiego i Katarzyny Zaremba Cieleckiej, jego dwaj bracia również osiągnęli godności biskupie – Andrzej został biskupem łuckim a Jan chełmińskim

Edukację podstawową pobierał Piotr Gembicki w Poznaniu i Krakowie a studia odbył w Würzburgu, Rzymie i Bolonii. W roku 1614 w Krakowie przyjął święcenia kapłańskie i wkrótce otrzymał godność kanonika włocławskiego, a potem gnieźnieńskiego i krakowskiego.

Jego wykształcenie i zdolności docenił król Zygmunt III Waza, który od 1617 roku zatrudnił księdza Gembickiego w królewskiej kancelarii. Pracował w niej aż do roku 1643 pełniąc kolejno funkcje podkanclerzego, kanclerza wielkiego koronnego i sekretarza wielkiego koronnego.

W międzyczasie w roku 1638 zmarł Zygmunt III Waza i tron objął jego syn Władysław IV, który wykorzystywał jego zdolności w misjach dyplomatycznych do Rzymu i Wiednia. Na prośbę króla był także dwukrotnie po śmierci kolejnych biskupów administratorem diecezji krakowskiej.

Jeszcze w trakcie pracy w królewskiej kancelarii w roku 1635 Piotr Gembicki został biskupem przemyskim, a w roku 1642 objął diecezję krakowską. To z jego polecenia opracowano nowoczesne statuty kapituły krakowskiej.

Był sprawnym i wymagającym przełożonym duchowieństwa. Wymagał bezwzględnego posłuszeństwa, ale nie zapominał o wspieraniu swoich podwładnych, dla których stworzył specjalną kasę pomocy dla ubogich księży. To on wybudował krakowski pałac biskupi przy ul. Franciszkańskiej.

W roku 1655 po wybuchu wojny ze Szwecją początkowo opowiadał się za wybraniem na tron polski króla szwedzkiego Karola Gustawa, pod warunkiem przyjęcia przez niego katolicyzmu i spacyfikowania Kozaków oraz roszczeń moskiewskich. Nie przyniosło mu to przychylności Szwedów, przed którymi musiał uciekać najpierw na Spisz, a potem do księstwa opolskiego, gdzie w Głogówku i Opolu towarzyszył królowi.

W księstwie opolskim spędził ostatnie dwa lata życia. W testamencie swój majątek nakazał rozdać ubogim, a z biskupich sreber kazał wykonać nowy relikwiarz dla świętego Stanisława, bo stary zrabowali Szwedzi.

Biskup Piotr Gembicki zmarł 14 lipca 1657 roku w Raciborzu, pochowano go w wawelskiej katedrze.