公元前221年,秦王嬴政统一六国。随后,“因南征百越之君”,派屠睢率领50万秦军攻打岭南;公元前214年,秦军基本占领岭南,秦始皇将岭南地区设“桂林、象、南海”3个郡。南海郡辖境是东南濒南海,西到今广西贺州,北连南岭,包括今粤东、粤北、粤中和粤西的一部分,辖番禺、龙川、博罗、四会4个县(据《汉书》记载),郡治番禺。今广东省的大部分地区属南海郡。此外,湛江等地属象郡,粤西有一部分属桂林郡,粤北部分地区属长沙郡。这是广东历史上第一次划分行政区。
秦末,南海郡尉任嚣病危,委任龙川县令赵佗代职。任嚣死后,赵佗即起兵隔绝五岭通中原的道路。秦亡之际,赵佗武力攻并桂林、象郡,建立南越国(公元前204年至公元前111年),自称“南越武王”。广东除今连州及乐昌北境属长沙郡管辖外,都属南越国地盘。南越国实行郡县制。汉武帝平定南越后,汉朝将南越地划分为南海、苍梧、郁林、合浦、交趾、九真、日南、儋耳、珠崖9个郡。为了便于监督各郡官吏,汉朝又设立13个常驻监察机构,称为“十三部”,其中设在苍梧郡广信县(今封开)的交趾部,专门负责纠核岭南9郡。东汉时地方官员开始对南海海域进行巡视。
东汉末,交趾部改为交州,除监察权外,还拥有军政大权,成为郡上一级政府,地方行政制度也就从郡县二级变为州、郡、县三级。今广东省境包括交州辖下的整个南海郡(粤中、粤东),还包括苍梧郡、合浦郡、荆州贵阳郡和扬州豫章郡的一部分。其中南海郡较秦代增置3个县:揭阳、中宿(今清远)和增城。东汉末,赤壁之战后逐渐形成魏、蜀、吴三国鼎立的局面。公元210年(汉献帝建安十五年),吴国的孙权任命步骘为交州刺史,率兵抵番禺。217年(建安二十二年),步骘把交州州治从广信东迁番禺。264年(吴景帝永安七年),东吴为便于治理,又把南海、苍梧、郁林、高梁4个郡(今广东、广西大部分地区)从交州划出,另设广州,州治番禺,广州由此得名。东吴时期,今广东省境除广州辖下的4郡外,还包括荆州始兴郡和海南岛。西晋时,今广东省腹地属当时的广州,粤北属荆州,雷州半岛和海南岛属交州。
南北朝时期,中国政局南北分裂。北方战乱,南方人口大量增加。南朝统治者对俚人(越族)实行“羁縻”政策,在原地大量封官,导致州、郡数猛增。增设的州、郡、县多集中在粤中、粤西、粤北地区,粤东地区设置较少。因为当时粤东农业经济没有粤西发达,交通也没有粤西方便。粤西有著名的“湘桂走廊”与中原相通。