据记载，张果老是唐朝(681-907年)人，本名张果，由于他年纪很大，所以人们在他的名字上加一个"老"字，表示对他的尊敬。传说他掌握了长生的秘诀，自称已经有几百岁了。后来皇帝听说了他的名声，就派人去请他来会面，他又说自己已经活了3000多年了。
道教的一些著作中，甚至说他是世界开创时一只白色的蝙蝠转化而成的，已经有几十万年了。 在民间人们描绘他的形象是，他倒骑着一头白色的毛驴。这头毛驴每天能够行走几万公里，到达目的地后，他就把毛驴像纸一样折叠起来，存放在自己的行李中。又因为他经常手中拿着竹子做的一种说唱用具，所以后世人们就把他看作是"道情"(中国民间的一种说唱艺术)的祖师，相传于北宋时期聚仙会时应铁拐李之邀在石笋山列入八仙。
“赵州石桥鲁班修，玉石栏杆圣人留。张果老骑驴桥上过，柴王爷推车轧了一道沟。”一曲民间广为传唱的《小放牛》，把当年褡裢里装有日月星辰倒骑毛驴行走在赵州桥上，检验这座桥工程质量并与鲁班斗法的张果老定格在赵州桥的神话传说中。
宋代赵州刺史、诗人杜德源也留下这样的诗句“隋人选石架虹桥，天下闻名岁月遥。仙子骑驴何处去，至今足迹尚昭昭。”从此，张果老这个怪老头便与千古名桥结下不解之缘。那么，历史上到底有没有张果老其人?
张果因得宛丘、铁拐李诸仙道法，获长生秘术，隐居恒州中条山，往来汾晋间，唐武则天时已数百岁。武则天曾遣使欲召见之，佯死不见，后人复见其居恒州山中。好神仙的唐玄宗数次召见他，求长生不老之法。待见到张果老时，却见此人老态龙钟，顿生疑惑“先生是得道之人，为何发疏齿落，老态龙钟?”张果老说“我是齿落发稀时得道，只好这副光景。
陛下若看着不顺眼，我不如把它们尽去了好。”于是便在殿前拔去鬓发，击落牙齿，玄宗有点害怕，忙叫人扶张果老去休息。过了一会儿张果老回殿，果然容颜一新，青鬓皓齿，胜似壮年。
张果老自称“生于尧时丙子岁，位侍中。”张果老从尧活到了唐玄宗时期，算算他该有多大一把年纪!张果老常倒骑驴，日行数万里，有趣的是，到达目的地后，便将这驴折纸般折叠起来，藏于巾箱，乘坐时则取出，吹口法气，便又幻化成真驴。
唐玄宗曾授以银青光禄大夫，赐号“通玄先生”。他的故事，最早见于《明皇杂录》、《旧唐书》、《新唐书》方技卷等。至于张果老是如何成仙得道的，民间有诸多传说。相传，张果老系穷赶脚出身，靠赶着毛驴运送货物糊口。
一日，他路过一座小庙，庙内肉香扑鼻，推门进庙，见殿内支着一口铁锅咕嘟嘟炖着一锅白肉。张果老饥肠辘辘又见四下无人，就用木棍夹着吃起来，把一锅鲜香味美的白肉吃了个精光。
剩下的汤也喂了驴。张果老哪里知道，他吃下的是一千年一开花，三千年一结果的“地精娃娃肉”，人若吃下可以长生不老，成仙得道!这传说类似偷吃人参果的孙猴子。