先秦时期
相传禹分天下为九州，今安徽境淮河以南部分属扬州，淮河以北东部属徐州，淮河以北西部属豫州。据《左传》记载：夏禹曾在涂山大会诸侯，很多方国都从远道赶来与会。涂山就是今怀远东南的古当涂。
商朝建立后，在其周围分布着许多小国，称为方或方国。安徽境内就有不少方国，如淮河以南的虎方、江淮之间的群舒，淮水流域的人方、徐方等。人方当时是一个强大的方国，商朝曾对人方发动了大规模的战争，掠夺财物和奴隶。
西周初期曾在各地大封诸侯，安徽境内的两淮及江淮地区也分封了许多诸侯国，如胡（今阜阳）、焦（今毫州市）、六（今六安）、英（今六安西）、皖（今潜山）、蓼（今霍丘西北）、巢（今巢湖市）、桐（今桐城）。在今舒城、庐江境内也有舒、舒鸠、龙舒等国。另外，生活在淮水流域的淮夷诸部落，曾和周不断发生战争。周静王时，徐方的徐偃王曾起兵攻周，一直打到黄河边上。
经过春秋时期频繁的争霸战争，安徽境内的一些诸侯小国逐渐被兴起于江汉流域的楚国和地处长江下游的吴国所兼并，故安徽又有“吴头楚尾”之称。到了战国时期，安徽大部分属于楚国之地。