黃山從前叫黟山，這是由于山石黑黝黝的光澤而得名。黟山為什么后來改稱黃山呢？這與黃山流傳著許多有關黃帝的故事不無關系。
黃帝是中華民族的始祖，相傳他在位一百多年，深受百姓的愛戴。后來，由于年事漸高，精力日衰，黃帝就將帝位禪讓少昊。黃帝是一個對生活充滿希望的人，他不愿意坐著等死，便決心去追求一種長生不老的境界，于是拜仙翁容成子、浮丘公為師，跟隨他倆學道煉丹，求長生不老之術。浮丘公對他說：“修道煉丹，一定要選擇靈山秀水，丹藥才能煉成�！庇谑屈S帝就跟隨浮丘公、容成子外出尋找煉丹勝地。他們跋山涉水，遍歷五岳三山，最后來到江南黟山。只見這里的山峰很多很高，高出云頭；這里的山谷很陡很深，深到海底。白云像綢子一樣，整天繞著山峰飄來蕩去，真是人間仙境。黃帝認為這里是煉丹修仙最理想的地方。從此以后，他就和浮丘公、容成子同住此山煉丹。
他們每天伐木燒炭，采藥煮石，不管刮風下雨，從不間斷。據說那丹藥必須反復煉九次，才能煉成，這叫“九轉還丹”。他們煉了一次又一次，越煉難度越大，但黃帝的決心也越大。經過四百八十年，那閃閃發亮的金丹終于煉成了。黃帝服了一粒，頓覺身輕如燕，竟能升空游戲。黃帝的須發也由白變黑，但因衰老而造成的皮膚皺折卻依然如故。就在這時，紫云峰崖隙間，突然流出一道紅泉，熱氣熏蒸，香氣撲鼻。于是浮丘公恭請黃帝到這紅泉中沐浴。黃帝在紅泉中連浸了七天七夜，全身的老皺皮膚都隨水漂去，他完全像換了一個人似的，看上去滿面紅光，青春再現。
就在黃帝脫胎換骨、返老還童之際，紅泉的上空突然祥云飄渺，笙歌悠揚。頃刻之間，霧散云開，霞光耀眼，異香襲人，忽然有珠函一件、玉壺一把，從空中徐徐降下。黃帝接在手中，打開一看，函中有霞衣、寶冠、珠履，壺中盛滿了瓊漿玉露。浮丘公在一旁恭敬地說：“這是上天賜給黃帝的寶物，請接納�！秉S帝將天賜寶物攜回北海望仙峰石室，接受群臣的祝賀，批霞衣，戴寶冠，穿珠履，飲下甘露瓊漿。當他走出石室時，身上霞光萬道，照遍了黟山的高峰深谷。這時，空中又降下白龍、彩幡、珠蓋，黃帝與浮丘公、容成子一起乘上白龍，彩幡引路，珠蓋護頂，從望仙峰頂，飄飄上升而去。山下臣民齊聲歡呼，響徹云宵。黃山也因此而得名。