李义府因得大臣李大亮、刘洎等推荐，得到唐太宗李世民召见。太宗以乌鸦为题命他咏诗，他即刻写成。诗云：“日里扬朝彩，琴中半夜啼。上林许多树，不借一枝栖。”以乌鸦自比，抱怨不得机遇，太宗深为赞赏，对他说：“我把所有的树都借给你，岂止一根树枝。”于是把他从门下典仪破格提拔为监察御史。