Возник в 1-й четверти XVII века, когда по указанию царя Алексея Михайловича началось расселение по берегам реки Тихая Сосна черкасов (украинцев), бежавших из польских земель от религиозных притеснений. В 1652 году (считается годом основания города) на Острогожском городище был построен Острогожский острог, входивший в систему Белгородской Засечной черты - линии оборонительных укреплений на южной границе Русского государства. Сюда продолжали переселяться черкасы, из которых в 1664 году был образован особый Черкасский острогожский полк. В 1696 году в Острогожске состоялась встреча Петра I с гетманом Мазепой. В 1765 году из Острогожского слободского полка был сформирован гусарский полк; с этого времени Острогожск - провинциальный город Слободско-Украинской губернии. С 1779 года уездный город Воронежского наместничества, с 1797 года Слободско-Украинской губернии, с 1802 года в сосаве Воронежской губернии. Город в просторечии назывался Рыбным, так как здесь был главный склад рыбы, вывозимой во внутренние губернии с Дона.
В конце XIX века в Острогожске насчитывалось около 500 каменных и свыше 1 000 деревянных домов, 10 каменных церквей и часовен, 4 училища, женская прогимназия. Были открыты 2 типографии, книжный магазин, библиотека, общественный сад и клуб. Действовали 20 небольших фабрик и заводов (мыловаренный завод, 2 воскобойных завода, анисовый завод и другие мелкие предприятия, табачная фабрика). Основным занятием жителей была торговля, главным образом скотом, лошадьми и салом, проводились 3 ежегодные ярмарки. С 1873 года в Острогожске устраивалась ежегодная выставка сельскохозяйственных рабочих лошадей. В 1895 году через Острогожск прошла железная дорога Харьков - Балашов.
Во время Великой Отечественной войны Острогожск был оккупирован немецко-фашистскими войсками с 05 июля 1942 года по 20 января 1943 года.
В современном Острогожске действуют предприятия пищевой промышленности (консервный завод, винный завод, маслосыродельный завод; птицекомбинат) и лёгкой промышленности (филиал швейного Производственного объединения «Работница» и филиал швейного Производственного объединения «Дон», кожевенный завод); авторемонтный завод, кирпичный завод, завод столярных изделий, олифоварочный завод. Работает Краеведческий музей, Картинная галерея имени И.Н. Крамского.
В городе частично сохранились регулярная планировка, рядовая застройка XIX века.
В Острогожске родились художник И.Н. Крамской, поэт и философ Н.В. Станкевич, провёл детство поэт С.Я. Маршак.
Население: 21 900 (1897), 11 000 (1926), 39 000 (1959), 33 600 (1979), 34 900 (1992).
