1988年,张涵予中央戏剧学院表演系毕业。
1999年,在好友傅彪介绍下,张涵予出演叶京导演的电视剧《梦开始的地方》,与陶虹合作,这是他的首部电视剧。2000年,参演冯小刚电影《没完没了》,饰演一个帮傅彪讨账的社会人,这是他出演的首部电影作品;2002年,在冯小刚电影《大腕》中,客串扮演精神病院里的IT专家。2004年,参演《天下无贼》,扮演一个化装成“E时代画家”的卧底干警。
2007年,张涵予在贺岁档电影《集结号》中首次担任男主角。
2009年9月,主演电影《风声》,扮演反面人物,与李冰冰、周迅两位美女有大量对手戏。
2011年,参演李仁港电影《鸿门宴》,首次出演武打戏饰演张良;8月,在《新水浒传》中饰演宋江。
2013年3月,零片酬出演管虎执导的电影《厨子·戏子·痞子》,同年主演《我爱的是你爱我》。
2014年,张涵予主演徐克执导的电影《智取威虎山》,12月24日上映。