凤阳建置，上溯秦汉，设有钟离县，但以山（凤凰山）名县，却始于明初。历史上凤阳县建置有两次重大变动。一次在元末，朱元璋打败张士诚，奔回濠州，改濠州为临濠府。明洪武六年（1373年）在帝乡置中立府，七年（1374年）将府治迁往凤凰山之阳，明太祖朱元璋赐府名“凤阳”，沿用至今。又析临淮县太平、清洛、广德、永丰四乡置凤阳县，府县同治。
凤阳古为淮夷之地。西周时为钟离子国，秦置钟离县，汉、西晋因之。
东晋时改称燕县，北齐时复称钟离县，直至元朝没有变更。
自唐至元，钟离为濠州治。
明洪武二年（1369年）改钟离县为临濠县，三年（1370年）改临濠县为临淮县。
洪武六年（1373年）置中立府，七年（1374年）改中立府为凤阳府，又析临淮县4乡地置凤阳县，府县同治。凤阳府明初直属中书省，永乐元年（1403年）属南京。
清顺治二年（1645年），凤阳府属江南省。
康熙六年（1667年），撤江南省分设江苏、安徽两省，凤阳府属安徽省。
康熙九年（1670年）设庐凤道，驻凤阳，凤阳府、县均属庐凤道。
乾隆二十年（1755年），临淮县并入凤阳县。
清宣统三年（1911年），辛亥革命后，取消府的建制，凤阳县直属安徽省。
民国三年（1914年）设淮泗道，道尹驻凤阳。
民国二十一年（1932年）设行政督察专员公署（专区），凤阳县属安徽省第四专区。
民国二十七年（1938年）2月，凤阳县被日本侵略军占领，汉奸倪道烺在蚌埠组织伪安徽省维新政府，凤阳县直属伪省政府，伪凤阳县政府设在蚌埠。抗日战争时期，在县域和周边邻县交界地相继建立中国共产党领导下的定凤怀县、定凤嘉县、盱凤嘉县、泗五灵凤县抗日民主政府，抗战胜利后先后撤销。