Місто було засноване 10 серпня 1638 року в долині річки Сіверський Донець чугуївськими козаками на чолі з гетьманом Яковом Остряницею з метою захисту південних кордонів Московського царства від набігів кочових племен.
Чугуїв відразу був поліетнічним поселенням. За кілька років сюди переселили ще 400 стрільців і козаків, а в 1696 — півтори тисячі калмиків. Тут зоставалися полонені вихідці з Пруссії (в часи Семирічної війни) і каторжники. Довгий час чугуївців навіть називали «зведенцями» — людьми, прибулими з різних місць.
Поблизу міста розбивається «царів виноградний сад» на 5 000 десятинах землі і організовуються мисливські угіддя, багаті на дичину. Виростають шовковичні плантації — найтонший шовк з чугуївських коконів поставлявся до царського двору. Як і мед з державних пасік, фаетони та коляски, виготовлені чугуївськими майстрами.
З середини XVII століття до 1765 року сотенне містечко Харківського полку. З 1780 року — місто, 1817—1857 один з центрів військових поселень. 1819, за доби Аракчеєвщини, у місті вибухнуло повстання Чугуївського полку, жорстоко придушене владою. З 1857 — заштатне містечко Зміївського повіту Харківської губернії. В кінці ХІХ ст. через місто пролягла залізниця, яка сприяла перетворенню міста на промисловий центр.
До військових поселян належала й сім’я Рєпіних. Батько майбутнього великого живописця, який прославив рідне місто, Юхим Васильович Рєпін, служив рядовим Чугуївського уланського полку, гідно виконував свої обов’язки, мав бойові нагороди, бував у складі Чугуївського полку в Персії, Туреччині, Молдавії, на Кавказі, в Криму. Так пробігли 27 років військової служби. Господаркою вдома була мати, Тетяна Степанівна, жінка вольова, розумна й дуже добра. Під час походів полку, за відсутністі чоловіка, вона несла на своїх плечах всі турботи, виконувала державні повинності, шила кожухи на замовлення, виховувала чотирьох дітей. На її могилі в Чугуєві тепер стоїть пам’ятник, виконаний за ескізами Іллі Юхимовича Рєпіна.
Від часу призначення міста центром військових поселень Чугуїв почав швидко змінювати своє обличчя й планування. Виноградники, яблуневі та вишневі сади вирубувались, зносились мазанки під солом’яною стріхою. На їх місці на Дворянській вулиці зводились офіцерські особняки, склади, школа кантоністів (дітей військових поселян). На вулицях Солдатській, Миколаївській, Микитівській виростали, як гриби, одноповерхові кам’яні будиночки військових поселян з трьома вікнами на вулицю й з трикутним фронтоном, настільки подібні, що, як жартував І. Рєпін, навіть голуби часто помилялися двором. Будинки (кожен окремо — пункт оборони) з’єднувалися між собою цегляними мурами, внизу з нішами, які могли використовуватись як бійниці. В одному з таких лінійних будиночків, де жили Рєпіни, було відкрито художньо-меморіальний музей І. Рєпіна. Відкриття відбулося в 1969 році, в дні святкування 125-річчя з дня народження майстра живопису. В музеї експонується кілька робіт великого художника, є меморіальні раритети, відновлено вітальню Рєпіних. Музей дає уявлення про життя військових поселян Чугуєва. У 1819 році центральна площа Чугуєва стала місцем розправи над мешканцями військових поселень. Підневільність нового життя, зміни господарського побуту, остаточне скасування старих привілеїв чугуївського козацтва призвели до повстання. Повстанці рішуче заявляли про своє небажання бути військовими поселенцями, вимагали повернення земель, відрізаних у них під час організації військових поселень, відмовлялися виконувати повинності, нищили ліс та сіно, виганяли вахмістрів тощо. Повстання охопило територію, де проживало понад 28 тисяч осіб, військові поселення Вовчанська, Змієва, Базалевки, Гракова, Печеніг і загрожувало перекинутись на інші губернії Росії. Урядові війська придушили заколот, було заарештовано 2003 учасники повстання, в тому числі й офіцерів, 275 осіб підпало під смертну кару, 12 тисяч отримали удари шпіцрутенами. Карними акціями керував сам Аракчеєв.
1897 мало 12600, 1926 — 14400, 1974 — 26000 мешканців; характер міста хліборобсько-ремісничо-торговельний. Теперішня промисловість міста: заводи паливної апаратури, ремонтний, дослідний точного устаткування, «Гідрозалізобетон», будівельних матеріалів; меблевий комбінат, цех мистецької вишивки, харчова промисловість. У 2006 було 34000 мешканців.
