Родился 12 октября 1789 г. в Костромской губернии в семье сельского священника.

В 1799-1806 гг. учился в семинарии, затем отправился в Петербург. После окончания Педагогического института в 1810 году остался в нем в качестве преподавателя латинского языка и географии.

В 1819 году был назначен адъюнкт-профессором по кафедре географии и статистики, однако через два года был уволен оттуда из-за либеральных взглядов. Благодаря заступничеству великого князя Николая Павловича, Арсеньев смог продолжить преподавательскую карьеру в Главном Инженерном и Артиллерийском училищах.

В 1824-28 годах Арсеньев был редактором Комиссии составления законов, а затем в 1828—35 гг. преподавал историю и статистику будущему императору Александру II. После Арсеньев занялся научной и административной работой — он заведовал статистическим комитетом, был членом Совета Министерства внутренних дел.

В 1845 году был одним из учредителей Русского географического общества.

Написанный Арсеньевым учебник "Краткая всеобщая география" (1818) выдержал 20 изданий и оставался основным учебным пособием по этой дисциплине на протяжении тридцати лет.

Константин Арсеньев вышел в отставку в 1853 году, он умер в Петрозаводске в возрасте 76 лет. Сын учёного, Константин Константинович (1837-1919) стал известным в России юристом и общественным деятелем.

Константин Арсеньев является одним из создателей российской системы статистики, на основе статистических данных им было предложено несколько сеток экономического районирования, отражавших уровень развития сельского хозяйства в тех или иных регионах России (в том числе в зависимости от доли свободного труда по отношению к крепостному). Его опыт в этой области был использован многими географами 2-й половины XIX - начала XX века.