据曾氏族谱记载，曾据出生于汉元帝永光元年（公元前43年）。当时正处西汉末年，豪强地主兼并之风盛行，中央集权逐渐削弱，社会危机日益加深。曾据因通晓经书被推举到朝廷为官，承袭都乡侯（汉爵位名，位于列侯之下，关内侯之上，有封地，食户三百）。他因政绩卓著，有功于朝廷，后又加封关内侯。
孝平帝元始五年（公元5年）王莽毒死平帝，篡汉夺位，改朝称帝，国号新莽。曾据对王莽的所作所为极为不满，他遵循先祖宗圣曾参“爱国忠孝，驱邪匡正”的遗训，视王莽之举为大逆不孝，他以在新莽朝中做官为羞耻，拒不接受王莽给他封相的圣旨。
始建国庚午二年（公年10年11月11日），53岁的曾据弃官抗旨，率领全族2020余人，从山东嘉祥县武城出发南下，顶风冒雪，不畏艰险，途经江苏、安徽，渡过长江，南迁至豫章郡，最后定居庐陵吉阳乡，即今吉安市永丰县。
曾据的《南迁记》写得气势磅礴，记述了南迁缘由，彰显了浩然正气：
余奉先王简任，秉爵兴朝。静夜思维，每以不克鞠躬尽瘁劳王事是憾。臆谓：推心置腹，披肝沥胆，庶可挽回天心，奠安社稷。俾高皇帝玉叶永传，国祚无疆，是予之厚愿也。奈朝臣怀二，莽贼兴变。虔刘我边陲，荼毒我社稷。顿使光华之天下，倏成混沌之山河。嗟！予孤臣独力，其奚支耶！顾予不能一死以谢罪，而复甘脆肥醲我而哺之，组缨章甫我而佩之。清白自矢之谓何？其何以报先帝於地下也？去兮，去兮，不复还兮！目不睹艰辛，耳不听黄口。登东皋以抒怀，赴幽壑而棲栖。引壶觞以自酌，对松竹而盘桓。优哉游哉，聊以卒岁。几不知人世间更有何事可乐也！然寻流而南，凝眸转目，望山河而如故，千万之风物既非矣。吁！嗟！去兮，不复还兮！衰髦之躯可远遁，故主之恩实难忘。可哀可怜!若与宋微子兴悲，同数行泣下也。子孟不作，倾危奚持？孤臣有怀，共事无侣。黾焉哉！试看今日之域中，竟是谁家之天下！
汉建武十一年乙未（公元35年）八月二十四日曾据去世，享年七十八岁，葬吉水兰溪石马坞，墓前有白石为记。近年曾据墓修葺一新，墓园石柱有对联一副：地脉山沙左卫右环无偏倚，坟庭墓址前迎后护有扶维。
东汉史学家班彪四首诗文赞曾据：
1、挽河汉而徙兵甲，整乾坤而篆鼎钟，纠纠然名不可穷。嗟！公于昔也幸，天子三锡之命。民于今也见，将军八面之风！
2、宠锡爵侯久就封，征袍何事被遽容。知因篡汉奋神勇，东郡与君锡地同。
3、唐运中迁，笃生高士。勤劳王家，平章国事。耻事新室，江南避势。志存忠孝，天福有自。
4、职参天庭，官封爵位。万卷胸藏，三行目视。致君泽民，除害兴治。绍舞雩之余勋，得东鲁之秀气。致政关内，黎醇风惠。新莽权归，耻而不仕。爰举家属，迁豫豫避。隐居行义于其中，创业垂统为可继。千古仪刑，万年馨誉。
明朝大臣吉水邹元标写诗颂赞曾据：
公之忠义，克配彼天。封关内侯，位高名显。不仕新室，携家南迁。择地庐陵，吉阳居焉。贤嗣有二，弟瑒兄阐。绳绳孙子，支分派衍。山左江右；一脉相传。福荫其后，庆泽绵延。
庐陵是江南富庶之地，水陆畅通，商贾云集，山多林茂，地广肥沃，气候宜人，实为繁衍生息的佳境。曾氏族人在此安居创业，人丁兴旺，后逐渐向周边发展，衍徙全国乃至海外。因此曾据就被曾氏族人尊为江南始祖，庐陵吉阳遂成为曾氏旺族中心，被称为曾氏第二发祥地。