Про давнє заселення цієї території свідчать виявлені поселення епохи пізньої бронзи (кінець ІІ тисячоліття до нашої ери).
Виникнення Марківки відноситься до кінця XVII — початку XVIII століття. В 1703 році переселенці із Чернігівщини і Полтавщини заснували безіменне поселення, яке згодом назвали Марківкою. Але на пам’ятному камені до 300-річчя села вказано 1690-1990.
1708 року, під час придушення козацького повстання на чолі з Булавіним, Марківку було повністю зруйновано і лише через 25 років поселення почало відроджуватися.
Населення займалося землеробством, скотарством, торгівлею. Хліб для збуту вивозився в порти Озівського моря, а також у Воронезьку та Курську губернії. Пшениця, в особливості «арнаутка», користувалася великим попитом. Згодом інтенсивно розвивалося скотарство. Населення розводило коней, волів, свиней та мулів. Широку популярність здобули вівці під назвою «айдарські».
З 1765 року жителі села були приписані до державного кінного заводу, де вони мусили відбувати повинності натурою і працею.
Жителі села пережили масове нашестя сарани, чуму та холеру. Епідемії та хвороби забрали тисячі людських життів. У 1905 році Харківська земська управа провела повне обстеження Марківки. Відповідно до зібраних матеріалів тут нараховувалося 1405 селянських дворів і 9020 чоловік населення, діяли три трикласні школи, три храми.
В 1907 році бідняк Аврам Семенович Онопрієнко виростив гарну цибулю. 50 вінків цієї городини купив у нього лікар Зайцев і повіз до Парижу, аби представити на сільськогосподарській виставці. В результаті цибуля сорту «Марківська» отримала золоту медаль та набула світової слави. Потім її експонували на інших виставках, у тому числі на всесвітньовідомій 1912 року.
З 1907 року марківська цибуля експортувалася до Англії та Німеччини. Пелешенко П. Я. 1893 року народження згадував, що він, як голова кредитного товариства в 1927—1929 роках організував заготівлю цього корисного овочу для відправлення за кордон. Для Англії пакували велику цибулю в стандартні мішки по 40 кг, для Німеччини — середньо-стандартну по 30 — 40 кг. Товар вивозився з залізничних станцій Кантемирівки, Черткового, Зоринівки. Від його реалізації селяни мали значні прибутки. Так, у селі 1 фунт цибулі коштував 2 — 3 копійки, а пуд — 40 копійок. На той час це були пристойні гроші.
У 1912 році в селі було відкрито бібліотеку, яка налічувала 500 книг.У січні 1918 року тут було створено революційний комітет, який очолив Андрій Іванович Єременко — згодом маршал, Герой Радянського Союзу і Герой Чехословаччини.
У 1921 році вбуло організовано комуну, а згодом і товариство зі спільного обробітку землі. Колективізація у Марківці проходила за умов гострої класової боротьби і була завершена восени 1930 року, селяни об’єднали у дев’ять колективних господарств. Під час організованого радянською владою Голодомору 1932—1933 років померло щонайменше 28 жителів селища.
11 липня 1942 року Марківку окупували німці. Звільнили село у січні 1943 року.
