1999年，于小伟考入中央戏剧学院。2000年，参演徐帆主演的电视剧《永远有多远》，这是他的首部电视作品。
2003年4月，参演陆毅、林心如主演的电视剧《男才女貌》，饰演高富帅“刘浩东”。2005年，在顾长卫导演的电影《孔雀》中扮演张静初的暗恋对象、解放军伞兵；参演蒋雯丽，那英，罗海琼主演的都市爱情片《好想好想谈恋爱》；12月，在陈凯歌导演的东方奇幻史诗电影《无极》中饰演也力一角。
2008年3月，参演的范冰冰、霍建华、刘雪华主演的电视剧《胭脂雪》播出，出演软弱在感情上左右摇摆的辜少棠，被香港媒体评为2008年度香港最具人气的大陆男演员。
2012年3月，与韩雪、丁子峻主演电视剧《偏偏爱上你》，饰演林重光；6月，于小伟与邬君梅、罗家英等主演惊悚片《查无此人》，荣获第四届英国万象国际华语电影节“优秀新人演员奖”。
2013年5月，与萨日娜、闫学晶领衔主演的电视剧《闯关东前传》播出，饰演管家大哥管粮；5月29日，与佟大为、于明加、丁嘉丽、周晓欧等联合主演的反应现代门第观念下婚恋矛盾的电视剧《门第》在安徽卫视、河南卫视、深圳卫视、四川卫视黄金档播出，于小伟在剧中饰演玩世不恭、冷漠孤傲、自私自利的“冷面贵公子”罗胜利。
2014年3月，主演《食来孕转》播出，于小伟与刘涛在剧中分别饰演杜一鸣和沈谷雨