Родился в 1907 году д. Жеребная Гомельского района Гомельской области (современная д. Чкалово Бобовичский сельский совет Гомельской области).

В 1924 году окончил 5 классов.

В 1929 году был призван Гомельским УВК на службу в Рабоче-крестьянскую Красную Армию, где с 1929 по 1931 год проходил службу в 33-ем артиллерийском полку, входившей в состав 33-й стрелковой дивизии, командиром отделения, которая располагалась в г. Могилеве. Уволен в запас в 1931 году.

23 июня 1941 года был призван Новобелицким РВК г. Гомеля в 318-й гаубичный артиллерийский полк шофером. В июне-июле 1941 года участвовал в боях под Бобруйском, Жлобином, Гомелем.

Август 1942 г. – февраль 1943 г. участвовал в боях под Сталинградом и был тяжело ранен. За мужество, проявленное в боях, награжден медалью «За оборону Сталинграда».

С августа 1943 г. свой фронтовой путь продолжает в составе 162-ого гвардейского артиллерийского зенитного полка: является участником Белгородско-Харьковская наступательной операции.

В сентябре-октябре 1943 года участвовал в операции по расширению плацдарма на правом берегу Днепра.

В августе 1944 г. был награжден медалью «За боевые заслуги» за участие в Ясско-Кишиневской наступательной операции.

Из приказа подразделения о награждении от 29.08. 1944:

«Шофера 3 батареи гвардии рядового Рубанова П. И., за то что со своей автомашиной прошел от г. Бобруйска до Сталинграда и от Сталинграда до р. Серет. Всегда своевременно, не взирая на огонь артиллерии противника, подвозил боеприпасы в подразделения, чем обеспечивал выполнение поставленных боевых задач».

В октябре-декабре 1944 года участвовал в боях на территории Венгрии. С августа 1945 года Павел Иосифович продолжает службу в составе 98-ой отдельной зенитной артиллерийской дивизии.

После Великой Победы принимал участие в ликвидации банд формирований в Западной Украине.

После войны вернулся на родину, в Гомельскую область.

Умер 16 апреля 2002 года.