К началу XX века в России сложилась система ведомственных архивов из оконченных делопроизводством документов, но отсутствовала единая система управления архивным делом. В Курской губернии попытка создания единого учреждения, занимающегося сбором документов, принадлежала губернской ученой архивной комиссии, созданной 23 апреля (по новому стилю 6 мая) 1903 г. при непосредственной поддержке губернатора Николая Николаевича Гордеева. Ученая архивная комиссия, организованная на учредительном собрании 23 апреля (по новому стилю 6 мая) 1903 г., состоявшемся в доме губернатора на ул. Херсонской (сейчас ул. Дзержинского, 70), была единственным учреждением, выполняющим двойную функцию – с одной стороны общественного органа управления архивным делом, с другой – архивным учреждением, занятым проведением архивной реформы на территории губернии по хранению, учету и использованию документов ведомств в целях сохранения исторического достояния российской провинции, изучения местной истории, археологии и этнографии. Комиссия, учредителями которой являлись учитель женской гимназии А.А.Танков, чиновник по особым поручениям при Курском губернаторе Н.И.Златоверховников, а в число почетных членов входили директор Санкт-Петербургского археологического института Н.В.Покровский, управляющий Московским архивом Министерства юстиции Д.Я.Самоквасов, просуществовала до конца 1922 г. Важным итогом ее деятельности в первую очередь стало создание архивной службы в губернии и краеведческого музея, которые в дальнейшем стали научными и культурно-просветительными центрами губернии. Хотя ученая архивная комиссия являлась полуофициальным учреждением, права которого в работе с учреждениями были ограничены, но именно она постепенно определяла пути и методы работы по собиранию и описанию архивных дел, по обучению людей, занятых этой работой.

Несмотря на ограниченные права и стесненность материальных возможностей, архивная комиссия оставила след в сохранении ценных исторических документов и их использовании, и своей деятельностью положила начало организации государственной архивной службы в Курской губернии.
Впервые на государственном уровне признание существования архивов во главе с центральным органом управления архивным делом произошло благодаря Декрету СНК от 1 июня 1918 г. «О реорганизации и централизации архивного дела в РСФСР», согласно которому 15 сентября 1918 г. в Курской губернии была учреждена должность уполномоченного главного управления архивным делом, на которую был назначен Н.И.Златоверховников, одновременно являвшийся председателем Курской губернской ученой архивной комиссии. На первом этапе архивного строительства проводилась работа по обследованию ведомственных архивов и сохранению ценных для истории документов путем создания губернского исторического архива. В первые годы Советской власти на местах трудно было четко разграничить функции управления архивным делом и практической деятельности по собиранию, хранению и использованию архивных документов. Поэтому после освобождения губернии от войск Деникина в феврале 1920 г. была создана должность уполномоченного и заведующего губернским архивом в одном лице.

Декреты Совнаркома РСФСР о централизации архивного дела и губернских бюро послужили основой архивного строительства на принципах национализации документальных богатств и централизации архивного дела.
С изменением административно-территориального деления губернии неоднократно проводилась реорганизация архивной службы, менялась ее подчиненность. В январе 1922 г. вместо должности уполномоченного главного архивного управления был создан губернский архивный отдел (губархив) при Курском губисполкоме на правах отдела.
По положению о губернских архивных бюро от 20 ноября 1922 г. губернский архивный отдел был переименован в бюро, в структуру которого, согласно Положению «Об организации Единого государственного архивного фонда РСФСР», утвержденному 3 февраля 1926 г. вошли:
- Курский губернский исторический архив, который размещался в здании Ильинской церкви, здесь находились дореволюционные фонды;
- Курский губернский архив Октябрьской революции и социалистического строительства, который находился в здании Воскресенской церкви с хранением фондов советского периода.
С 1926 г. начинает создаваться сеть уездных архивных бюро (Белгородский, Грайворонский, Курский, Льговский, Рыльский, Старо-Оскольский, Щигровский уезды), чуть позже (1929-1930 гг.) проводится работа по созданию районных архивов, предшественников сегодняшних муниципальных. С 1928 г. начался прием документов в архивные бюро и обследование ведомственных учреждений по сохранности документов, на хранение начинают поступать фотодокументы, книги, а также документы церквей дореволюционного периода.
В связи с переходом страны на новое административно-территориальное деление в 1928 г., вместо ликвидированного губернского архивного бюро, созданы Курское и Льговское окружные архивные бюро с подчинением Архивному управлению Центральной Черноземной области (ЦЧО), которые в июле 1930 г. были реорганизованы в архивохранилище областного архивного бюро ЦЧО, а в ноябре преобразованы в Курское отделение областного архивного управления ЦЧО.