生于东汉沛国丰邑（今江苏丰县），本名张陵，为留侯子房八世孙。建武十年正月十五夜，出生于吴之天目山，七岁即读老子道德二篇，对其义理了然。在太学中学习，通晓天文、地理、诸子、五经，并教授众多学者。
永平二年，因直言极谏科中，被授予巴郡江州令（今重庆）一职，但他因对黄老之道深信不疑，不久辞官隐居北邙山（今河南洛阳北）。后来，他随王长入蜀，从淮入江西鄱阳至云锦山炼丹，与龙虎相见。
张道陵在鹤鸣山修炼三年的时间内，创立了道教。他被赋予“正一盟威之道”或称“三天正一科术要”，并立二十四治，以祭酒分领民众。不施刑罚，以廉耻治民，用符水治病，被百姓尊为师。
他尊老子为教祖，并撰《老子想尔注》阐扬教义，将“道”视作最高信仰。张 道陵以“无事而不成事，无食而不饱食”的高尚品质生活终身，即使当上了博士和冀县侯，也坚决推辞。最终，他隐居在鹤鸣山，与夫人雍氏一起修炼，最终升仙离世，享年123岁。
唐玄宗时期册封为“太师”，宋徽宗时期又加封为“正一靖应真君”。明崇祯皇帝时期，加赠“无穷高明上帝”。到现在，他仍被尊称为祖天师、泰玄上相、大圣降魔护道天尊，是中国历史上著名的文化人物之一。
