Наступного дня після Полтавської битви, цар Петро I наказав вирити дві могили: одну для загиблих офіцерів й одну - для солдатів. У присутності всіх військ була відслужена панахида, а після похорону над могилою був насипаний великий пагорб.

За легендою, Петро I власноруч встановив на його вершині дерев'яний хрест із написом: "Воїни благочестиві, за благочестя кров’ю вінчані, літа від втілення Бога-Слова 1709, червня 27 дня".

В 1828 році за генерал-губернатора Репніна старий хрест був замінений новим, а в 1856 році на могилі був установлений хрест, оббитий залізом, і зроблена дерев'яні сходи. В 1894 році за проектом архітектора Н. Никонова майстром А. Бариновим був споруджений новий монумент у вигляді хреста з ясно-сірого граніту висотою 7,5 метра й вагою близько 1000 пудів, установленого на постаменті.

На східній стороні постаменту зроблений напис: "Поховані: бригадир Феленгейм, полковники Нечаєв і Лов, підполковник Козлов, майори Кропотов, Ерст і Гельт, обер-офіцерів сорок п'ять, капралів і рядових тисяча двісті дев'яносто три, усього поховано 1345 чоловік".

З боку церкви Св. Сампсонія для підйому на монумент були влаштовані гранітні сходи. На арці сходів зроблений напис: "Споруджений 1894 року, за держави Благочестивішого Государя Імператора Олександра III, розпорядженням святішого синоду, за освячення преосвященного Іларіона, єпископа Полтавського і Переяславського, на кошти таємного радника Йосипа Степановича Судієнка, який залишив грошовий капітал на увіковічення великої події рятівної Полтавської битви. Виконаний у С.-Петербурзі за проектом і наглядом архітектора Н. Никонова майстром А. Бариновим". 

Могила оточена гранітним цоколем, на якому встановлені гранітні тумби, з'єднані ланцюгами. Пам'ятник був освячений 11 вересня 1984 року. Однак незабаром виявилося, що гранітний хрест почав просідати.

В 1906 році було ухвалене рішення відкрити могилу, зміцнити фундамент і побудувати на ньому новий монумент у вигляді могильного кургану з невеликою могильною церквою Св. Петра й Павла усередині.

Будівництво було закінчено до 1909 року, коли відзначалося 200-річчя Полтавської битви.