张载于1069年被朝中召见，提出“渐复三代”的主张，并主张“三代不能尽，终以道”，并建议推行“井田”制，以其为治国之本。王安石曾经邀请张载参加变法，但张载委婉地拒绝了，后来王安石见二人意见相悖，便不再勉强。
1070年，正值王安石革新运动如火如荼的时候，朝廷里出现了新、老两个派别的争斗，但张载此时已经下定决心，要辞去官职，返回横渠。张载辞官并非是因为他得罪了王安石，而是因为他的弟弟反对王安石改革，被贬职，为了避嫌，张载才做出了这一决定。
作为当时备受尊崇的儒学大师，张载在年幼时就深受孔孟之道的熏陶，虽然他已不在朝堂上，但哪怕是在横渠这个小地方，他依然渴望为国尽己所能。经过深思熟虑，张载采取了三个行动：开设课程授教，实行井田制度，积极推进水利工程。
他坚信穷则独善其身，达则兼济天下。尽管离开了官场，他也并没有选择只关心个人修养，而是决定将自己的才华用于造福社会。有人曾询问他为何这么做，张载回答：“纵使不能在全国范围内实施，至少可以在一个村落里尝试。”这句话也意味着，学者的视野不应仅限于个人和国家，两者之间还有很多需要关心和改善的地方，这番言辞激发了许多学生的思考。
在张载所作的一首咏芭蕉的诗中，全诗28个字，七个“新”字精巧而又蕴含哲理：“芭蕉心尽展新枝，新卷新心暗已随。愿学新心养新德，旋随新叶起新知。”
有人认为，这是张载对改革的支持，也有人解读为是他对创新的坚持。无论如何，他对新知识的探索从未停止。即使已声名显赫，他仍然每天“危坐一室，左右简编，俯读仰思。冥心妙契，虽在深夜也会取烛赶紧书写”。他告诫学生，夜晚睡不着，不是为了娱乐，而是出于想要继续钻研知识。朱熹深受他的影响，称他为“勇者”，因为要有巨大的勇气才能有如此大的付出。
尽管他传道授业解惑，言辞深刻，但他从不对他人苛求，而是将这些原则用于自我约束，包括“横渠四句”，也是他为了自律所作。
