夫余国投降高句丽后，其国土被瓜分，南部为高句丽所占，东和东北部被勿吉所占领。西和西北部为突厥所占领。高句丽为把夫余城建成其北境的重要军事基地，除进驻重兵防守外，对原有的城墙重新整修，加宽挖深了原有的护城河。到了隋唐时期，为防备中原军队进攻，策划御敌于国门之外，于公元631年修筑一条上长城。这条长城北起夫余城，南到渤海岸（今天的大连一带），长达千余里，在《旧唐书》中有记载。

高句丽的夫余城雄踞一实河（伊通河）西岸，今新开河北岸的高台地上，北有今松花江做为天然屏障，西和西南有修筑的长城，成为十分坚固的军事要塞。它北御粟末（勿吉的后裔），西北防御契丹（东胡族的一支），成为高句丽王朝的北方边关要塞。唐太宗从贞观十九年（公元695年）起，曾六次派大军远征高句丽，均未获得成功。至今流传在农安一带的太平鼓，民间称打单鼓，也叫烧太平香，在其活动中专有《唐王征东》一节唱段，是纪念唐军征东死难烈士的。《新唐书》中记载：唐高宗总章元年（公元668年）唐朝大将李绩和薛仁贵率大军东征高句丽。此次东征采取迂回战略。从关内出兵后，未正面攻击高句丽，而是绕道向东北进军，经金山（在今内蒙哲里木盟境内），直奔夫余城。在关东大地上有许多薛仁贵征东的传说轶闻，在农安城南两河交汇的地方有个叫晾衣门的村庄，传说薛仁贵在河边寨门上晾过战袍。薛仁贵，原名薛礼，从年轻时代就身披白盔白甲，手使方天画戟，身背宝雕弓，坐下白龙驹，威风凛凛，东征西战，是唐朝的一员大将。在过去“说书”中，薛仁贵是中国历史上的一位传奇人物，过去在农安县的老百姓中，一提白袍小将可以说是家喻户晓，无人不知。此次薛仁贵率兵攻打夫余城获得全胜。史书记载，唐军攻陷夫余城，高句丽的四十余城望风而降。唐军继续南下，高句丽王请降，宣称今后将永远臣服于中原大国。唐军征服高句丽后，在东北设安东都护府，以统理辽东和被高句丽所侵占之地，后改安东都护府为都督府，夫余城直接归唐朝的安东都督府管辖。