旧石器时代约在20万年前，岳阳已有人类在此繁衍生息。临湘市沅潭镇长源村发掘出旧石器时代遗址，采集石器标本7件。
新石器时代距今1万年至5000年前，岳阳先民即已开始种植稻桑，饲养禽畜，纺织制陶。汨罗市黄家园、附山园，华容县车轱山等130余处新石器时代遗址的发掘表明，原始农业、手工业已有发展，原始文化艺术、科学技术已经萌芽。 共2张 岳阳市标准地图
夏商时期距今约5000年左右，岳阳为云梦之野，三苗之地。传说黄帝、尧、舜、禹均曾在境内留有足迹，见诸《史记》《庄子》《淮南子》等。
西周末时，周宣王封召公于江汉，岳阳是召公的分封地之一。
春秋战国时期，岳阳属楚。楚国在开疆拓土中，将灭国遗民迁入岳阳，建有罗子国、麋（一作麇）子国等附庸国。
秦朝，岳阳属长沙郡。
两汉三国时期汉时，分属长沙下隽县，罗县及南郡古华容县，武陵郡孱陵县。王莽代汉建新后，岳阳分隶于荆州、武陵郡。熹平年间（172-178年），析罗县东部建汉昌县。汉高祖元年(前２０６)，东属长沙国下隽县、罗县，西属南郡华容县、武陵郡孱陵县[15] 。建安十五年（210年），吴析长沙郡北部置汉昌郡，郡治设于平江县东南金铺观，为市境置郡之始。建安二十年（215年），孙权于巴丘邸阁设大屯戍（今岳阳楼区）驻军，并建为巴丘城（岳阳古城前身）。三国时期境域，属吴。
两晋时期，岳阳属荆州、湘州。西晋太康元年（280年），析下隽县西部置巴陵县，析江安县建南安县（今华容）。元康元年（291年），分长沙郡北部四县建立建昌郡，郡治设巴陵县城。自此，岳阳古城一直为郡、州、府及今地、市治所。东晋咸康元年（335年），撤建昌郡并入长沙郡。
南北朝时期，岳阳属湘州、荆州、巴州、罗州、南荆州。元嘉十六年（439年），置巴陵郡，仍属湘州，郡治设于巴陵县城。宋元徽二年（474年），析益阳、湘西、罗县部分置湘阴县。梁大通二年（528年），分罗县东部及吴昌县西部建岳阳县，又分罗县南部建湘滨县；以岳阳、罗县、湘滨、玉山、湘阴建岳阳郡，县、郡治均设今汨罗市长乐镇长兰村。