中国内部是一个多民族的国家，外部与境外异族往来也很频繁，因此历代朝廷都设有专职或机构，从事翻译工作，不过大都是地位不高。
周朝
在周代以前，长四方之语，各有其官。《礼记》：“东方曰寄，南方曰象，西方曰狄鞮(读低)，北方曰译”。宋法云《翻译名义集》：“像胥氏通六蛮语，狄鞮主七戎，寄司九夷，译知八狄”，到了周朝以后，这些“通夷狄之言”的人，才统称为“像胥”。
《周礼•秋官》中的“像胥”一职，负责出使蛮夷闽貉戌狄之国，掌握这些周边民族事务之人，就是最早见诸文字记载的翻译官。像胥按照对外族语言熟悉的程度，还分“上士一人、中士二人、下士八人及徒二十八人”，要负责传达王命，也要上传各地情势，以利国王统治与安抚邦国诸侯。
汉朝
到了汉朝武帝时，朝廷设立主管少数民族与外国事务的的部门——大鸿胪，其下设有属官有译官令(九译令)及丞，专责翻译。有学者认为，从秦汉以来，北方匈奴始终是朝中心腹之患，处理北方事务是朝中重要政务，把周制的“像胥”改以北方的“译”为官名。此外，为了配合中外交往的需要，汉代在学校中还开展了外语教育，培养翻译人才。《汉书•食货志上》：“八岁入小学，学六甲五方书计之事”，五方之书即相当于今之外语书。
