626年唐太宗即位不久，命人点兵。当时的唐制规定，年满二十一岁才能入选，但大臣封德彝却说十八岁以上高大健壮的也可以点兵，并得到唐太宗的同意。魏征却驳回了诏令三四次，不肯签发。唐太宗大怒，召见他质问。魏征说：“您常说要以诚信治天下，但即位以来仅几个月就几次失信于民，这怎么能说是以诚信治天下呢?”太宗听了转怒为喜：“过去我总以为你很固执，不懂政事，今天听你分析国家大事，都很切中要害，我确实是错了。”太宗不但改正了错误，还赏赐给魏征一只金瓮。

　　627年，魏征被升任尚书左丞。这时，有人奏告他私自提拔亲戚作官，唐太宗立即派御史大夫调查此事。结果，查无证据，纯属诬告。但唐太宗仍派人转告魏征说：“今后要远避嫌疑，不要再惹出这样的麻烦。”魏征当即面奏说：“我听说君臣之间，相互协助，义同一体。如果不讲秉公办事，只讲远避嫌疑，那么国家兴亡，或未可知。”并请求太宗要使自己作良臣而不要作忠臣。太宗询问忠臣和良臣有何区别，魏征答道：“使自己身获美名，使君主成为明君，子孙相继，福禄无疆，是为良臣;使自己身受杀戮，使君主沦为暴君，家国并丧，空有其名，是为忠臣。以此而言，二者相去甚远。”太宗点头称是。

　　公元628年，魏征被授秘书监，并参掌朝政。不久，长孙皇后听说一位姓郑的官员有一位年仅十六七岁的女儿，才貌出众，京城之内，绝无仅有。便告诉了太宗，请求将其纳入宫中，备为嫔妃。太宗便下诏将这一女子聘为妃子。魏征听说这位女子已经许配陆家，便立即入宫进谏：“陛下为人父母，抚爱百姓，当忧其所忧，乐其所乐。居住在宫室台榭之中，要想到百姓都有屋宇之安;吃着山珍海味，要想到百姓无饥寒之患;嫔妃满院，要想到百姓有室家之欢。现在郑民之女，早已许配陆家，陛下未加详细查问，便将她纳入宫中，如果传闻出去，难道是为民父母的道理吗?”太宗听后大惊，当即深表内疚，并决定收回成命。但房玄龄等人却认为郑氏许人之事，子虚乌有，坚持诏令有效。陆家也派人递上表章，声明以前虽有资财往来，并无订亲之事。这时、唐太宗半信半疑，又召来魏征询问。魏征直截了当地说：“陆家其所以否认此事，是害怕陛下以后藉此加害于他。其中缘故十分清楚。不足为怪。”太宗这才恍然大悟，便坚决地收回了诏令。

　　由于魏征能够犯颜直谏，即使太宗在大怒之际，他也敢面折廷争，从不退让，所以，唐太宗有时对他也会产生敬畏之心。一次，唐太宗得到一只鹞鹰儿，非常漂亮，特别英武，唐太宗整天让鹞鹰站在自己手臂上，爱之如珍宝。有一天，唐太宗正耍着鹞鹰玩儿呢，忽然看见魏征走了过来。唐太宗赶忙将鹞鹰藏在怀里，不想让魏征看见。其实魏征早已看见，但他不动声色，走到皇上跟前，作揖问安之后，就滔滔不绝地向皇帝汇报起一件一件的或大或小的事件来，唐太宗虽然觉得平时能言善辩的魏征今天似乎变得有些迂腐、唠叨，甚至有点婆婆妈妈的，但是他毕竟是自己一贯尊重严敬的大臣，总不能不让他把话说完吧。可是等魏征把话说完，作揖走开，唐太宗再看他的鸟儿，早憋死怀中，这时唐太宗才明白魏征装憨的目了。

　　越王是唐太宗长孙皇后生的小儿子，风姿秀美，聪明绝伦，唐太宗特别宠爱。有人跑到唐太宗面前告状，说，朝中三品以上的老臣都没把越王当回事，认为越王长在深宫，不识创业艰难，不知民间疾苦，整天吃喝玩乐，不会有什么出息……唐太宗听了，勃然大怒，立即传旨：京中三品以上大员到齐政殿听宣。唐太宗怒气冲冲地来到齐政殿，扫了一眼满朝文武，压着满腔的怒火说：“我有几句话，想向你们这些达官贵人们讨教。以前天子，就是天子，今日天子，就不是天子了吗?以前天子儿，就是天子儿，今日天子儿，就不是天子儿了吗?远的不说，就说隋朝吧，那些王子皇孙，他们怕过谁?朝中公卿，他们想弄谁就弄谁，谁敢放个屁?现在好啦，我的儿子，我不许他们放纵横行，你们也就觉得好相处了，可以蔑视他们啦，是不是?要是有人生贱，我放纵一下，我的儿子未必学不会弄人?”大臣们吓得颤颤惊惊，作揖谢罪。这时魏征正了正朝冠，拉下脸来，说：“当今群臣，肯定不敢小瞧越王。话说回来，按照国家的规矩，大臣和皇子是平等的，臣子臣子就是这么说来的。皇上的大臣按说还应该排在诸侯王的前面。现在跪在皇上面前的三品以上大员，都是朝廷的公卿，皇上您都非常敬重，纵然小有不是，越王怎能代替皇上您来处罚大臣呢?当然就更不能随便折辱大臣。如果国家纪纲废坏，那时会发生什么事我不知道;如今圣明之时，越王岂得如此?隋朝不知礼仪，所以很快亡国，不可为法，亦何足道!”唐太宗听了魏征一席话，说：“我刚才发火，自以为有理，等听了魏征一席话，始觉大非道理。”赐魏征绢一千匹。