Создан 7 марта 1923 года на территории бывших Зеленской, Желтянской и Петровской волостей Криворожского уезда и вошёл в состав Криворожского округаЕкатеринославской губернии[3]. В 1924 году центр района был перенесён в село Зелёное и район был переименован в Зеленский, однако уже в 1926 году райцентром снова стало Петрово. В том же году в состав района была включена территория упразднённого Новостародубского района, а также часть территории расформированного Лозоватского района. При этом часть прежней территории района была передана в состав Саксаганского района, тогда же переименованного в Пятихатский[4]. В 1930 году округа в Украинской ССР были упразднены и район перешёл в подчинение непосредственно руководству республики. В 1931 году Петровский район был ликвидирован, а вся его территория вошла в состав Пятихатского района[5].
В 1962 году, в ходе административной реформы в СССР, район был укрупнён за счёт присоединения частей Долинского, а также частей упразднённых Новгородковского и Новопражского районов[10], однако уже в 1965—1967 годах территория района была разукрупнена[11].