古代与翰林院相同的学府是太学，国子监。翰林院从唐朝开始设立，职能历代有所改变，主要起草诏书，修书撰史，担任科举考官等。太学始于汉代，是中国古代中央官学。国子监是隋代以后的中央官学，为古代教育体系中的最高学府；同时是国家教育的主管机构。国子监具有一定程度的监国功能，可以弹劾官员，议论国政。清末废除科举制度，国子监撤销。
国子监和翰林院一样，在古代都是高等学府。但是它们还是有区别的，国子监是读书的地方，很多人是还没有考取功名的。而翰林院则是中了进士的人才能有资格进入的，是专门起草机密诏制的重要机构，有天子私人之称，地位清贵，是成为阁老重臣及地方官员的踏脚石。
