Родился 29 августа 1911 г. в д. Бражкино Зарайского у. Рязанской губ. (ныне Рыбновский р-н) в семье крестьянина. В 1923 г. окончил начальную школу, с 16 лет начал работать. С 1932 по 1936 г. - бригадир полеводческой бригады в колхозе им. Фурманова. В 1934 г. вступил в комсомол; с 1936 по 1938 г. - инструктор Рыбновского райкома ВЛКСМ. В 1938 г. избран председателем колхоза в родной деревне.

В Красную Армию призван 12 августа 1941 г., в боях Великой Отечественной войны - с октября 1941 г. Принимал участие в боевых действиях на Центральном и 1-м Украинском фронтах. 12 января 1944 г. ст. сержант Пархаев, командир стр. отделения отдельной учебной роты 181-й стр. дивизии (18-я армия, 1-й Украинский фронт), награжден орденом Красной Звезды.

14 апреля 1944 г. Пархаев с группой разведчиков проник в тыл врага близ с. Тумин (Локачинский р-н Волынской обл., Украина) и вступил в бой с подразделением неприятеля. Уничтожил до 10 гитлеровцев, двоих взял в плен, захватил пулемет. 15 октября 1944 г. награжден орденом Славы 3-й степ. Член ВКП(б) с августа 1944 г.

16 января 1945 г. старшина Пархаев, командуя стрелковым отделением, у с. Тополица (в 12 км юго-западнее г. Опочно, Польша) в условиях плохой видимости напал на вражеский обоз, уничтожив нескольких солдат, четырех взял в плен. 20 февраля 1945 г. награжден орденом Славы 2-й степ.

21 января 1945 г. на юго-западе г. Опочно группа автоматчиков во главе с Пархаевым совершила дерзкий налет на гитлеровскую колонну на марше. Уничтожив множество солдат противника, 8 взяли в плен и захватили повозки с боеприпасами. В бою Иван Дмитриевич был тяжело ранен и отправлен в тыловой госпиталь. 27 июня 1945 г. награжден орденом Славы 1-й степ.

В апреле 1945 г. демобилизован. Вернулся в родную деревню. С марта 1946 по январь 1948 г. работал председателем колхоза им. Фурманова Чемровского сельского Совета.

Постановлением бюро Рыбновского райкома ВКП(б) от 31 октября 1947 г. был исключен из партии за злоупотребление служебным положением, «за нарушение устава сельхозартели общественного хозяйства» и растрату более 26 тысяч рублей. В объяснительной записке в парткомиссию Рязанского обкома КПСС Пархаев писал: « …эти деньги не пропиты, а израсходованы на питание трактористов, для покупки продуктов, а также в колхозе работал 15 дней взвод красноармейцев, [который] питался за счет колхоза из этой суммы». Однако 6 января 1948 г. он был освобожден от должности председателя колхоза. В этом же году состоялся суд, на котором Ивана Дмитриевича приговорили к пяти годам лишения свободы по обвинению в недосеве колхозного поля и растрате денежных средств. На иждивении Пархаева тогда было двое детей 12 и 15 лет.

В местах заключения Пархаев провел полтора года. В 1950 г. вернулся в родной колхоз. Работал бригадиром огородной бригады. По воспоминаниям председателя колхоза им. 18-го партсъезда Рыбновского р-на А.И. Афиногенова, в Пархаеве он увидел «…дисциплинированного человека, пользующегося авторитетом среди членов бригады и населения колхоза. Иван Дмитриевич был всегда трезв, аккуратен в выполнении нарядов, заданий, своевременно проводил все работы с бригадой, добиваясь высоких урожаев овощей. Он всегда выступал на заседании правления, собраниях колхоза по существу дела, часто вносил предложения, советы. К его голосу прислушивались многие. Память о таких людях, каким был Иван Дмитриевич, будет долго напоминать о бескорыстии людей, отдавших свою жизнь общему делу».

Награжден орденом Красной Звезды, медалями.

Умер 29 февраля 1968 г., похоронен на кладбище д. Бражкино Рыбновского р-на.