张嶷出身贫寒家庭，但从小立有大志，“有通壮之节”。约二十岁时，张嶷便担任县里的功曹。刘备平定益州之际，“山寇”乘战乱起事，进攻县城，县令仓皇失计，弃家逃走。张嶷单身一人在刀剑丛中冒险救出县令夫人，使她得免于难。从此，张嶷勇敢、忠诚的名声便传扬四方，很快升任益州从事。其官职虽低，但同郡已名声显赫且位居高官的龚禄、姚伷等人，已争相与张嶷结交，争着把他引为良友。蜀建兴五年（227），诸葛亮率军北驻汉中准备伐魏，广汉（四川射洪）、绵竹（四川德阳）一带的“山贼”乘蜀军主力调往前线、内部兵力有限之机，大举起事，“钞盗军资，劫掠吏民”，造成动**。蜀汉朝廷任命张嶷为都尉，率军前往讨伐。张嶷考虑大军到后“山贼”必定逃散，反而不能迅速平定，就先施巧计擒杀了“山贼”头目五十余人，进而搜寻其残部，一一击破，前后仅用了十来天便平定了叛乱，“郡界清泰”，稳定了蜀汉的后方，使诸葛亮安心伐魏，无后顾之忧。后来，张嶷多次跟随马忠出征，平定汶山郡和南中四郡的叛乱，“辄有筹画战克之功”。

张嶷还以其善察时势、识见深远而为当时的人们所称道。有一次，魏国境内武都氐王苻健请求归降蜀汉，蜀军前往接应而苻健却未按约定的日期到达，大将军蒋琬很是挂虑。张嶷分析道：“苻健要归降蜀汉看来是情真意至的，过去就经常听说苻健的弟弟非常狡猾，一定是他发难，影响苻健不能如期成行。”过了几天消息传来，果然是苻健的弟弟带着人马跑去投魏了。蒋琬死后，大将军费祎执掌蜀汉军政，张嶷发现费祎滥施厚爱，连刚投降者也亲近轻信，十分危险，就写信劝谏费祎，要他以古人因此失误的事例为戒，提高警惕。费祎未听从张嶷的建议，不久果然被魏国派来假降的人刺杀。又，孙权死后，诸葛恪以顾命大臣的身份执掌了吴国军政，便立即对魏用兵。张嶷写信给蜀国侍中、诸葛亮之子诸葛瞻，请他转告堂兄诸葛恪，劝诸葛恪注意安定吴国的内政，发展生产，等待攻魏的良机；否则内部不稳定，自己又身率大军在外，随时都可能祸起萧墙。诸葛恪没有听从国内国外人们劝他息兵的建议，仍频频大举伐魏。公元253年进攻魏国一役失利后，归国果然丧生于内乱，连家族也被诛杀干净。对张嶷深远的识见，《三国志》称赞为“识断明果”，《三国志》作者陈寿在他的另一部史著中，称赞张嶷虽“仪貌辞令，不能骇人，而其策略足以入算，果烈足以立威……虽古之志士，何以远逾哉！”（本传裴注《益部耆旧传》）