西周以后,，在今阜陽(yáng)境內(nèi)即建立了歸姓的胡國(guó),，臨泉境內(nèi)的姬姓沈國(guó)，潁上境內(nèi)的慎等,。三國(guó)魏置汝陰郡,。北魏孝昌四年（528年）置潁州。清雍正二年（1724年）升潁州為直隸州,。雍正十三年（1735年）升潁州為潁州府,。1949年10月1日中華人民共和國(guó)建立時(shí)，設(shè)立阜陽(yáng)專區(qū)專員公署,。1971年改阜陽(yáng)專區(qū)為阜陽(yáng)地區(qū),。1975年12月19日國(guó)務(wù)院批準(zhǔn)設(shè)立阜陽(yáng)市（縣級(jí)）。1996年1月,，撤銷阜陽(yáng)地區(qū)和縣級(jí)阜陽(yáng)市,，設(shè)立地級(jí)阜陽(yáng)市。

截至2023年12月31日,，阜陽(yáng)市下轄3個(gè)市轄區(qū),、1個(gè)縣級(jí)市、4個(gè)縣,，分別為潁州區(qū),、潁東區(qū)、潁泉區(qū),、界首市,、臨泉縣、太和縣,、阜南縣,、潁上縣,。