Идея устройства в городе Рязани публичной библиотеки возникла в 1830 г.
В 1836 году организован комитет по созданию библиотеки в городе Рязани. Комитет состоял из председателя, членов и попечителей: П. П. Новосильцева — губернатора Рязани, председателя комитета, Ф. И. Шиллинга — директора училищ Рязанской губернии, А. И. Кошелёва — земского общественного деятеля, издателя, рязанского помещика, А. И. Хлудова — фабриканта, владельца бумагопрядильной фабрики в г. Егорьевске, А. С. Клеванова — почетного смотрителя Пронского уездного училища. В связи с малочисленностью собранных средств для формирования публичной библиотеки наступило затишье, длившееся почти 15 лет.В 50-е годы благодаря активной деятельности губернатора П. П. Новосильцева и директора училищ Ф. И. Шиллинга удается собрать необходимые средства для организации библиотеки.
В течение 1852 и 1853 года для библиотеки закупались книги у московского книгопродавца Николая Улитина. В качестве образца работы были взяты правила работы Тамбовской публичной библиотеки.
В 1857 году у попечителя Московского учебного округа директором училищ было запрошено разрешение на помещение публичной библиотеки в здании гимназии; обязанности библиотекаря изъявил согласие принять на себя за особое вознаграждение старший учитель гимназии В. Павлов.
Александр Васильевич Антонов (1825–1892) — почетный потомственный гражданин г. Рязани, купец 1-й гильдии, баснописец, коллекционер рязанской старины жертвовал деньги и дарил книги.
Михаил Петрович Полуденский (1830–1868) — сын помещика Рязанской губернии, библиограф, историк, библиофил, дворянин. Внес вклад в развитие исторической библиографии в России. Интересовался библиотекой в Рязани, был одним из первых её читателей и дарителей. Полуденский владел богатейшей библиотекой (в ее состав входила и родовая библиотека Луниных). Часть книг личной коллекции Полуденский пожертвовал библиотеке Московского университета, Чертковской и Рязанской публичным библиотекам.
Известная русская писательница Надежда Дмитриевна Хвощинская-Зайончковская (1825–1889) [псевдоним — В. Крестовский] подарила библиотеке роман «В ожидании лучшего», вышедший в 1860 г.Среди лиц, посещающих библиотеку, был выпускник, позже — учитель первой мужской гимназии, а впоследствии выдающийся историк, по учебникам которого полвека училась Россия, член Рязанской ученой архивной комиссии Дмитрий Иванович Иловайский (1832–1920). Он передал в дар библиотеке свою магистерскую диссертацию «История Рязанского княжества», изданную в 1858 году в издательстве Московского университета.