于仲文小时就聪明机灵，很小上学，就沉溺书中而不知疲倦。他父亲感到很奇异，说：“这孩子肯定会振兴我们于家。”他九岁时，曾在云阳宫拜见宇文泰，宇文泰问他：“听说你爱读书，书上有些什么？”于仲文回答说：“帮助父亲，侍奉君王，只有忠孝而已。”宇文泰非常赞赏他。
这以后他跟博士李祥学习《周易》、《三礼》，略知大义。长大后，倜傥风流而胸有大志，气度超凡，当时称他是名公子。开始当赵王的部下，不久迁任安固太守。
任、杜两家都丢了牛，后来找到一头牛，两家都说是自己的，州郡无法决断。益州长史韩伯俊说：“安固于太守年少时就很聪明，可让他决断这事。”于仲文说：“这事很容易解决。”于是让两家各赶牛群来，放出那头牛，那头牛就奔向任家的牛群中。他又偷偷让人轻轻地伤了那头牛，任家人叹惜不已，而杜家人却没事一般。于仲文于是诃责姓杜的，姓杜的认罪而去。
始州刺史屈突尚，是宇文护一党的，以前因事入狱，无人敢治他结党之罪。于仲文到郡后，穷追究治，终于让他坐牢。
蜀中人因此传语说：“明断无双有于公，不避强暴有次武。”