宋代以前，全县曾分为15个乡。明代全县编为37里，明洪武十年（1377）五月至洪武十三年（1380）十一月定陶县并入成武县。清代划分为24社23集。中华民国时期，全县分为5个区。中华人民共和国建立初期，全县分为8个区，1958年，撤区设1镇16乡（1958年11月底至1961年定陶县的陈集、马楼、杜堂、城关、黄店、冉堌、王店、马集8个公社曾并入成武县）。后将乡镇改建为10处人民公社，1979年，增至18处人民公社，1984年，政社分开，改为19处乡镇：成武镇、大田集镇、汶上集镇、天宫庙镇、南鲁集乡、伯乐集乡、苟村集乡、孙寺乡、郜鼎集乡、白浮图乡、张楼乡、孙庙乡、宝峰乡、桃花寺乡、九女集乡、党集乡、康集乡、智楼乡、徐庄乡。1988年，撤销徐庄乡，归属汶上集镇。1996—1998年，南鲁集乡、苟村集乡、白浮图乡、伯乐集乡、孙寺乡分别撤乡建镇。全县计有成武、大田集、汶上集、天宫庙、苟村集、南鲁集、白浮图、伯乐集、孙寺9个镇，郜鼎集、张楼、孙庙、宝峰、桃花寺、九女集、党集、康集、智楼9个乡。2001年，经山东省人民政府批准（鲁政函民字〔2001〕14号文），同意将18个乡镇合并成12个乡镇：撤销智楼乡并入九女集乡；撤销桃花寺乡并入大田集镇；撤销宝峰乡并入汶上集镇；撤销康集乡并入天宫庙镇；撤销郜鼎集乡将小集、前陈庄、毛洼、宋庄、单桥、前李庄、晏堌堆、单庄、纯集、李庄、谢楼、小阎庄、前王庄13个行政村划入孙寺镇，将郜鼎集西、郜鼎集东、刘坊、张吕庄、杨楼、后陈楼、水口、宋湾、李六、节楼、姜庄11个行政村和苟村集镇的七里口、黄庄行政村划入成武镇。2002年2月，撤销九女集乡设置九女集镇。2003年，天宫庙镇的郑河、八陈两个行政村划入成武镇。2005年3月，设置成武县经济技术开发区，开发区的范围包括11个行政村（居委会），共有34个自然村，1.2万人，面积约12平方公里。2006年3月，成武县经济技术开发区更名为成武县工业园区。2011年8月，经山东省人民政府批准，撤销成武镇，以原成武镇西部的行政区域设立文亭街道，以原成武镇东部的行政区域设立永昌街道，城区大体以永顺路为界，城南、城北大体以聊商路为界划分。新设立的文亭街道辖5个居委会、19个行政村，辖区总人口4.97万人，其中，城镇户籍人口2.87万人，农村户籍人口2.1万人，面积37平方公里。新设立的永昌街道辖4个居委会、20个行政村。辖区总人口6.36万人，其中，城镇户籍人口6.13万人，农村户籍人口2300人，面积34平方公里。2011年8月，根据《山东省人民政府关于同意调整成武县部分行政区划的批复》（鲁政函民字〔2010〕90号）精神，经县政府研究决定，撤销张楼乡设立张楼镇，撤销党集乡设立党集镇。2021年年底至今，成武县共有汶上集、白浮图、大田集、孙寺、九女集、南鲁集、伯乐集、天宫庙、苟村集、张楼、党集11个镇，文亭、永昌2个街道。共有456个行政村，13个城市社区，1237个自然村。