清政府在咸丰朝深陷危机，其根源在于吏治腐败。咸丰帝数次下罪己诏，为不能“察吏安民”引咎自责。为振兴朝纲，他在登基之初一再下诏求言，鼓励保举人才，并罢黜颟顸昏聩的前朝重臣穆彰阿、耆英，后又频频撤换主持军事不力的钦差大臣。但咸丰帝缺乏从容整饬吏治的时间，更缺乏魄力和大局观，致使吏治日坏，局势危殆。
早在咸丰帝即位之初，曾国藩便上书奏陈用人之道，直言官场疲玩泄沓百弊丛生，国家有乏才之患。太平军兴起后，他认为天下有三大患，一曰人才，二曰财用，三曰兵力，将人才问题放在第一位，并就官场不讲廉耻、逆向淘汰现象喟叹道：
窃尝以为，无兵不足深忧，无饷不足痛哭，独举目斯世，求一攘利不先、赴义恐后、忠愤耿耿者不可亟得。或仅得之，而又屈居卑下，往往抑郁不伸以挫以去以死；而贪饕退缩者，果骧首而上腾而富贵而名誉而老健不死。此其可为浩叹者也。[1]
随着局势日趋严峻，他的这种意识愈益强烈，认为“国家之强，以得人为强”[2]，“粤捻内扰，英俄外伺，非得忍辱负重之器数十人，恐难挽回时局也”[3]。
基于这一认识，曾国藩在组建湘军时十分重视延纳人才，自称“梦寐以求之，焚香以祷之，盖无须臾或忘诸怀”；认为“大厦非一木所支，宏业以众智而成。苟其群贤毕集，肝胆共明，虽金石而可穿，夫何艰之不济？”。他利用自己的影响与人脉，动员门生故旧出来效力，并多方搜求人才。例如，听说新补宜章千总杨载福系可用之人，曾国藩便通过湖南巡抚骆秉章调其来衡州听差。督师赣皖期间，除留心在当地物色才俊外，还按照楚材晋用思路，从两湖地区吸纳人才。譬如，咸丰十年（1860年）坐镇皖南时，为整饬吏治，函请胡林翼选派一二循吏来皖担任州县官，“先换一县，树之风声”；表示“如公所最爱惜者，借才半年，仍可奉还”。及至官授两江总督，仍表示“敝处之陋，不陋在无排场，而陋在无人才”。经多方延揽，曾国藩身边形成一个以幕僚为主干的人才群体，涵盖军事、行政、筹饷、后勤、案牍、治学等多个层面，包括熟悉泰西之学的李善兰、徐寿、华蘅芳，可谓人才济济。
湘军之新，首先体现在选人用人上。针对败不相救、萎靡疲沓等营伍积习，曾国藩欲扫除陈迹，将湘军打造成一支新军。他一再表明心迹，欲改变三四十年来不白不黑、不痛不痒、牢不可破之习，但求宏才伟识，共济时艰。在曾国藩看来，时下官场习气最致命之处在于无血性；官员无血性，也就无操守、无担当，遑论忠义。曾国藩以“不要钱、不怕死”六字自矢。他抱病组建湘军，因操劳过甚，“肝气作痛，旧有肺疾一发则周身癣痒，抓至见血，几无完肤，顷又大发”。这体现了忠义和担当意识。出兵之初的靖港之战，以及后来的九江、湖口之战，曾国藩因湘军溃败，两度愤而投水自尽。在生死须臾之际，这不是作秀，确实体现了血性。江忠源以安徽巡抚身份率孤军守庐州，城破后投水自尽，同样体现了血性。
在官场浸**日久，很容易染上官气，保持血性客观上很难。曾国藩分析说，人才大抵有两种：一种官气较多，“好讲资格，好问样子，办事无惊世骇俗之象，语言无此妨彼碍之弊；其失也，奄奄无气，凡遇一事，不能身到心到口到眼到，尤不能苦下身段去事上体察一番”；另一种乡气较多，“好逞才能，好出新样，行事则知己不知人，语言则顾前不顾后；其失也，一事未成，物议先腾”。他表示：“两者之失，厥咎维均。人非大贤，亦断难出此两失之外。吾欲以‘劳苦忍辱’四字教人，故且戒官气而姑用乡气之人，必取遇事体察、身到心到口到眼到者。”
因此，曾国藩选将（营官），不拘出身和资历，着重看对方是否有忠义血性，倾向于重用有书生气、有乡气之人，“大约有操守而无官气，多条理而少大言，本此四者以衡人”。他强调，带勇之人，第一要才堪治民，第二要不怕死，第三要不汲汲于名利，第四要耐受辛苦，“大抵有忠义血性，则四者相从以俱至”。于是，一批儒生得以投笔从戎，被破格任用。湘军从主帅到将领，以书生出身者居多。书生带兵，经沙场磨炼成为悍将，成为湘军的一大特色。湖北巡抚胡林翼也鄙弃官气，倡言“以做百姓之心做官，以治私事之心治官事”[4]。他告诫州县官：“凡事尽一分心力，必有一分功效。踏实作出，干实事、说实话，无忘来自田间，无忘读书本色，总可稍济于时也。”“凡事以踏实为主，我素不喜空言也。”[5]在官场混浊一片的情形下，曾、胡等人的见解与襟怀确乎超越同侪。胡林翼积劳成疾，最终在武昌咯血而死，时年50岁。
湘军募勇，也看重素质。曾国藩强调，须尽募新勇，不杂一兵，不滥收一弁；须择技艺娴熟、年轻力壮、朴实而有农夫土气者为上，其油头滑面，有市井气者，有衙门气者，概不收用。吸取以往教训，曾国藩坚持新招之勇未经训练，断不可贸然参战。所谓“训”，主要是向兵勇进行思想灌输和动员，包括教习营规；所谓“练”，指操练作战技能。两者并举、以“训”为纲，是曾国藩建军的重要理念。
为避免官气在军中滋蔓，曾国藩注意反省。咸丰十年（1860年）夏赴黄石矶水师营次前，他与部将谈到接待细节，说前两次路过湖口时，彼此皆不免有官气，此次皆当力戒，要做到无迎接，无办席，无令营哨官弁纷纷请安，断不可照过去那样多费钱文，以挽风气；方今东南糜烂，时局多艰，吾辈当屏去虚文，力求实际。他告诫说：“楚军水陆之好处全在无官气而有血性，若官气增一分，则血性必减一分。”
湘军成军时仅17000人，自号“湘勇”，以团练名义参战，起初并不起眼，但能打硬仗，屡屡以少敌众，因独当一面声名鹊起而被称为“湘军”。湘军之所以具有远超八旗、绿营的战斗力，其重要因素之一，在于其人员构成、精神面貌大不一样。