建安十三年十二月，赤壁之战刚满一月，当时孙权率军正围攻合肥，闻吴境内的山越见吴军皆趋至前线，又复起叛乱。最盛者要数为丹杨境内的黟县、歙县山越之乱。情况紧迫，孙权便令威武中郎将贺齐，攻击丹阳郡（宣城）所属黟县和歙县二县的山越变民。
山越闻官兵将进讨，黟县山越首领陈仆、祖山等领二万户部众，驻屯林历山（黟县南）。歙县山越首领金奇、毛甘各率部族万户，分别屯安勒山、乌聊山。他们利用山险，欲与官兵抗争到底。
贺齐首先率兵来到林历山，林历山四周悬崖绝壁，无法进攻，只得在山下扎营。但贺齐屯兵一月有余，仍没能攻破。
贺齐苦思冥想，便出一突破计，他暗自招募敏捷之壮士，训成射手，绕到深山背后，进入人迹罕至之地，从中突破山中敌营。
经一段时日的准备，一切妥当，只待贺齐一声令下，部众立即行动。
为了袭攻成功，贺齐选择了夜间。所募壮士乘着夜黑，用铁斧砍树凿洞，择其敏捷者，似猿猴样，悄悄攀爬至山顶。
敏捷者来到山顶，将身带的布帛绳索裹系树上，然后投下布帛绳索，将山下百人吊至山顶。
百余名壮士暗察到山越营没有动静，就知他们之行动，并没被山越发觉，就将兵分散四方，占好有利地点，似以围攻。
陈仆、祖山等山越正处酣睡。忽然间，鼓角大起，山越从梦中惊醒，乱成一团。就是山越守卫也误为山顶已被攻破，皆弃岗哨奔向大营，这就使得关键要口没人守卫。
贺齐听到鼓角声，就知偷袭成功，立刻率大军乘机急行攀登。又因关键要口没人守卫，使得大军攀登顺利进行。
大军上了山顶，立即向山越营发起攻击，山越慌忙迎战，但哪里是贺齐军对手，结果被大破，擒获其首领陈仆、祖山，黟县山越平。
林历山被攻破后，威声大震，躲进安勒山和乌聊山的歙县山越的金奇、毛甘二人，自知不是贺齐对手，便率众向贺齐投降。
孙权从合肥退撤回吴，为便于更好治理，分割黟、歙二县为六个县，即始新县、新定县、休阳县、黎阳县、黟县、歙县。设立新都郡（郡治所设在始新），任贺齐为郡长，贺齐从中赢得了“镇越名将”的称号。
孙权刚平定好山越之乱，闻鲁肃从赤壁还归。孙权做好庆迎接鲁肃回归之准备，使与诸将出城迎鲁肃，及鲁肃既相见，向孙权下拜，孙权亦下马答礼，因与语道：“子敬劳苦，孤今日出城迎卿，卿以为显