长白山古时称为不咸山、“太白山”，清朝时满族人称之为白山(golmin sanggiyanalin)或“白头山”，近代朝鲜半岛人和日语中的汉字也都以“白头山”称之。长白山也以“白山”(指长白山)与黑龙江的“黑水”(指黑龙江)并称，是中国东北的代名词。
最早记录我国东北长白山的史籍是战国和西汉初成书的地理书《山海经·大荒北经》。书中称：“东北海之外，……大荒之中有山名曰不咸，有肃慎氏之国。”肃慎是东北的古老民族，活动在今延边和绥芬河一带。《后汉书·东夷传》和《晋书·四夷传》皆有“肃慎氏一名挹娄，在不咸山北”的记载。
长白山有语言和文字留传下来的历史，可以上溯到最早也只有4000多年。在中国最早的一部地理学著作《山海经》中，就曾经有所记载。这部书传说是大禹之子伯益所著，详细地记载着其父大禹王治水时所经过之地。在蒙古语中是神仙之意，在东北居住的各少数民族----慎慎、沃沮、扶余、鲜卑、高句丽、蒙古、契丹等，都有对东北境内这座最大的高山景仰和神化，许多有关天女不孕而生的神话都寄托在这里，因此，都称这座山为仙山。那部记载着域内域外名胜山水的先秦著作《山海经》，也便将长白山称之为不咸山（即神仙山）。
魏晋时期所著的《后汉书东夷列传》中有记载曰：“昭帝始元五年（公元前82年），玄菟徙居勾丽，自单单大岭以东，沃沮貊悉属乐浪。”这句话是说，在汉武帝出征朝鲜之后，汉武帝之子汉昭帝于始元五年（公元前82)便将玄菟人迁居于高句丽之地，自单单大岭（即长白山）以东的沃沮族、秽貊族皆归属于乐浪。这里的“单单”二字，与满语中的珊延相近。珊延，即白色的意思；珊延大岭，即白色的大山。
在《北史列传-勿吉》篇中又有记载：“漠河了南有纵太山者，华言太皇，俗甚敬畏之，人不得山上溲污，行经者以物盛云。上有熊罴豹狼皆不害人，人不敢杀。”与肃慎、女真、满族，是同一民族，不过居地更稍北一些。这段话里是讲，漠河国南境有座大山，指的就是长白山。
在南北朝的其他书籍里（例如《魏书》《齐书》等），也常有“纵太山”、“纵白山”之称出现。后来，又可在《唐书-东夷列传》看到有关的记载：“漠河居肃慎地，栗末部最南抵太白山，亦曰徙太山，与高丽接。”可见，当时对长白山的称呼极不统一，有的叫纵太山，有的叫徙太山、纵白山、太皇山不等。直到东北的契丹族和女真族定鼎中原，建立起辽王朝和金王朝之后，对于东北的第一座高山，才算出现了规范化的称呼—长白山。
在《契丹国志》中有记载曰：“长白山在冷山东南千余里.……禽兽皆白。”后来在《金史.本纪十五》中记载曰：“女真地有长白山。”特别要指出的是，在中原建立起金朝的女真族，一直把长白山作为他们的发祥地，经常要对长白山顶礼拜，以求保佑其国运昌隆，帝祚永延。金世宗完颜雍刚刚登基不久，就于大定十二年（公元1172）册封长白山为兴国灵应王，并命当时著名文人。翰林院修撰党怀英修撰《封长白山为灵应王册文》，文中极力把长白山神化起来说：“自两仪剖析，山岳神秀各钟于其分野。国将兴者，天实作之。对越神休，必以祀事。故肇基王迹，有若歧阳，望秩山川，於稽虞典。厥惟长白，载我金德，仰止其高，实惟我旧邦之镇……”文中把长白山称之为神山秀岳，用“载我金德”“仰止其高”等最高的赞语来形容它，可见对这座塞外名山的崇仰恭敬。因此皇帝又于大定十五年（公元1175）在长白山北建立灵应王神庙，命大臣持节备礼并带着这份《册文》前去祭奠。
到了清代，对于长白山的崇仰更是登封造极，不仅聘延文人为其编造了仙女吞朱果而生爱新觉罗氏之先人的神话；而且树立柳条边封禁长白山区为圣地，禁止民人进山放牧、狩猎和采参。清代的几位有作为的皇帝康熙、乾隆、嘉庆都亲自来东北祭礼其祖先的发祥地—长白山。他们虽然没有登到长白山天池之畔，瞻仰其祖先的诞生之地，但有的已经到了周边地区（吉林市的大、小船厂、开原县的威山堡等地）。而且，还写了大量的咏赞和祭告长白山的诗文。康熙有《望祀长白山》的诗和《祭千长白文》（两篇），乾隆有《祭告长白山文》五篇，嘉庆有《长白山告祭祝文》二篇，写得都是有声有色，叹为观止的。康熙的《祭告长白山文》说：“惟神杰峙东，维协扶景运。疏江汇海，荐瑞凝祥。著灵异于万年，溥蕃滋于庶类”。“朕惟国家受命凝庥，则山川百神罔不协瑞。矧溯兴亡之迹，推翊运之祥，尢宜肇与明，诞加显号。盖自天作高山，形于歌颂，其来旧矣。惟神秀结东陲，泽均厚载，浚发三江之脉，广延千里之区，极敷云泄雨之奇，宏济物利民之用，神山异迹莫有与京。”乾隆所写的祭告文章：“奥我清初，肇长白山。扶虞所锤，不显不灵。周八十里，潭曰闼门。鸭绿、混同、爱滹三水出焉。帝用女天妹，朱电磁波是吞。爰生圣子，帝用锡以姓曰觉罗，而徽其称曰爱新。是翦是除，匪安匪康，乃有叶赫、辉发、界藩。直到清末，安图县刘建封还向朝廷上折奏请曰：“长白山为我朝发祥之地，天生圣人，削平区域于万斯年”，因此他建议上山重修神庙，以供俸长白山之神。经朝迁批准，这位知县组织人马四次登山察视，并摄下长白山名胜之地的照片40余张，归后编成《长白山灵迹全影》影集呈奏于朝廷。历代文人从金元到明清，以长白山为题材写的诗歌、散文甚多，不胜枚举，许多佳作，脍炙人口，现仅将各朝各代的代表作列举出一二，以飨读者。
金代中期最大的文人赵秉文（1159--1233，字周臣），金大定二十五年（公元1185）中进士，官至礼部尚书，晚年归隐故乡河北磁县，因家有堂名闲闲堂，因而自号闲闲老人，曾著有称绝于一时的长诗《长白山行》：“长白山雄天北极，白衣仙人常出没。王龙垂爪落苍崖，四江飞下天绅白。匹马渡江龙飞天，云起侯王化千百。至今甲第多属籍，时清球马争驰突。锦鞯貂帽猎春风，五陵豪气何飘忽。前年北骑瞰中原，准拟长城如削铁。群家兄弟真连璧，胸中十万森戈戟。向曾论事天子前，汉庭诸人动颜色。心知不易一囚命，顾肯贪功事无益。西南方面应时须，帝日来前无汝易。从来十益不补损，三辅肖条半荆棘。瘦妻晓曳耙女扶犁，惟恐官军缺粮给呜呼疮痍尚未复，且愿休兵养民力。老夫谬忝春官伯，白首书生不经国。伫公功成归庙堂，再献中兴
元代诗人王结（字仪伯，河北定兴人，元武宗时中进士，顺帝时累官至翰林院学士、中书左丞），在其所著长诗《辽东高节妇》中，也着力地描述了长白山：“天东长白近蓬瀛，缥渺仙人玉雪清。凤去紫箫声己绝，青鸾独跨上瑶京。”诗中把长白山比作海上的仙山蓬莱与瀛州，说有玉洁冰清的白衣仙人常在山上出没，这与历代有关长白山的神话传说是一致的。
