據傳說，有一天，張良在圯上（即橋上）漫步，適遇一年邁老人。只見老人故意把鞋摔下橋底，慢慢地對張良說：“小伙子，下去給我拾鞋！”張良感到太突然，想上前教訓老人，但礙于老人的年紀，不忍下手，只好下橋取鞋。取鞋后，老人又令張良給他穿上，張良膝跪于前，小心幫老人穿鞋。

　　事畢，老人非但不謝，反而大笑而去。片刻老人又返回，對張良說：“孺子可教也，5日后的黎明，與我會此。”二次會面，皆因張良遲到而散，第三次張良夜半赴約，先老人一步，老人才授給張良一本書，對他說：“讀此書則為王者師。后10年天下會大亂。

　　13年后你會見我于濟北谷城（今山東平陰西南）山下的黃石就是我。”說完就很快走了。張良很奇怪，次日天明一看書，方知書名為《太公兵法》（太公，即姜太公，周武王的軍師）。張良就日夜誦讀此書，終于成為一個深明韜略、足智多謀、文武兼備的“智囊”。

　　10年后果然陳勝起義爆發，13年后張良去谷城，山下確有黃石一尊，老人的預言神奇般地得到應驗。這個故事雖屬后人虛構，但他贊揚了張良的聰慧過人。蘇軾在《留侯論》中曾對張良的涵養評論道“卒然臨之而不驚，無故加之而不怒”。