颍川荀氏是一个世家大族。荀彧祖父荀淑，曾任朗陵（今河南确山西）令，在汉顺帝、桓帝之时，有名当世。荀彧父荀绲，济南相，叔父荀爽，官至司空。荀绲、荀爽兄弟共八人，皆是名士，也称“八龙”。绲、爽两人最贤明。荀彧生活在这样一个大家族中，门第书香的熏陶，使他有很高的文化素养，在少年时就受到南阳名士何颙赏识，称他有“王佐之才”，而远近闻名。

荀彧二十六岁时举孝廉，拜守宫令。这一年正是公元189年，董卓入京，京师大乱。荀彧请求外出补吏，做了亢父（今山东济宁）县令。荀彧并不到任，他回到故乡对父老们说：“颍川是四战之地，赶快离开这个地方，天下将要大乱了。”人们并不相信，依然怀恋故土，不肯离乡。荀彧只好带领全家投奔河北冀州牧韩馥去了。不久关东兵起，董卓西迁，派部将李傕等掳掠颍川、陈留等地，荀彧的乡人大多遭杀害，这才认识到荀彧有先见之明。在冀州，袁绍把韩馥赶下了台，把荀彧奉为上宾。但荀彧经过一段观察，看出袁绍只是布衣之雄，“终不能成大事”，毅然离开袁绍，投奔了曹操。这时曹操在兖州，正在网罗人才，思贤若渴，见了荀彧只恨相见甚晚。曹操欣然说，“我的子房来了”，立即任用他为司马，这一年荀彧二十八岁，时为公元191年。