公元6年，张说参加科举考试，考取策论第一。后来，张说与其他学者共同编修《三教珠英》，因功提拔为凤阁舍人等职位。公元703年，张说因不肯参与诬陷魏元忠谋反，被流放到钦州。唐中宗复位后，张说返回朝廷先后任工部侍郎、兵部侍郎等职，并加封弘文馆学士。后来，张说又因与太平公主、姚崇皆有矛盾冲突，而被贬为尚书左丞、岳州刺史等职。唐玄宗时期，张说先后平定突厥叛将康待宾、康愿子叛乱有功，而进封中书令、右丞相等职。公元730年，张说病逝，追赠为太师，谥号文贞。
张说前后三次为相，执掌文坛三十年，为开元前期一代文宗，与许国公苏颋齐名，号称“燕许大手笔”。