Родился 6 июня 1924 г. в станице Вознесеновка Апанасенковского р-на Ставропольского края в семье крестьянина. Окончил 7 классов, школу ФЗУ.

В Красной Армии и на фронте в Великую Отечественную войну с апреля 1943 г. Особо отличился в боях на польской земле и на территории Германии.

Член ВКП(б) с 1945 г.

Наводчик орудия 435-го истребительно-противотанк. арт. полка (8-я отдельная истребительно-противотанк. арт. бригада, 69-я армия, 1-й Белорусский фронт) сержант Шило 26 января 1945 г. в боях на восточной окраине г. Познань (Польша) точным огнем рассеял и частично истребил до взвода пехоты противника, сжег автомашину, чем способствовал успеху стрелкового подразделения. 3 марта 1945 г. награжден орденом Славы 3 степ.

16 - 23 апреля 1945 г. в наступательных боях на левом берегу р. Одер западнее г. Лебус (Германия) ст. сержант Шило в составе расчета ликвидировал 2 пулемета, свыше 10 вражеских солдат и офицеров, подавил огонь противотанкового орудия. Был представлен к награждению орденом Славы.

28 апреля - 2 мая 1945 г. в уличных боях в г. Берлине расчет, в составе которого был ст. сержант Шило, поддерживал стрелковые подразделения, расчищая им путь, точным огнем подавил 7 пулеметных точек и истребил свыше 15 гитлеровцев. 8 июня 1945 г. награжден орденом Славы 2 степ.

15 мая 1946 г. за образцовое выполнение заданий командования в боях с немецко-фашистскими захватчиками на завершающем этапе Великой Отечественной войны ст. сержант Шило награжден орденом Славы 1 степ.

В 1947 г. демобилизован. В 1968 г. окончил Ростовский институт народного хозяйства. Жил в г. Грозный Чеченской Республики. Работал заместителем начальника СМУ. Жил в Рязани с 21 июля 2000 г.

Награжден орденом Отечественной войны 1 ст., медалями.

Умер 1 июня 2001 г.

Решение Рязанского городского Совета от 24 мая 2007 г. за № 339-III «Об установлении мемориальных досок» об установке мемориальной доски на доме, где жил А.Е. Шило - г. Рязань, ул. Братиславская, дом 21.

В его честь на доме № 21 по ул. Братиславской, в котором жил Андрей Ефимович и ныне проживает его вдова, в 2007 г. открыта мемориальная доска с надписью: « В этом доме с 2000 по 2001 год жил полный кавалер ордена Славы Шило Андрей Ефимович. Доска установлена по инициативе Фонда Героев России и Героев Советского Союза, Рязанским региональным отделением партии «Единая Россия».