胡雪岩一生伟绩中唯一留下来，其名声又很好的只有胡庆余堂这家老字号药店。胡雪岩在1874年开始筹建，并于光绪四年（1878年）在杭州西湖吴山脚下建成胡庆余堂，它与北京的同仁堂共同成为中国近现代史上最著名的两家国字号医药堂。

胡雪岩在杭州开药店，布药施粥，还为左宗棠的军队提供大量的军药，因此在当时被人们称为胡大善人，而胡庆余堂更是扬名万里，享誉中外。

胡雪岩本身是做钱庄生意的，他之所以开起药店也是有一定溯源的。当时，左宗棠收复了杭州城之后，胡雪岩受左宗棠的委托，在杭州城内负责战后重建等事宜。当时城内残留了大量尸体，要想重新恢复杭州城的美丽，首要的便是处理这些尸体，为了防止瘟疫等疾病，胡雪岩下令掩埋尸体。掩埋完尸体以后，胡雪岩担心还会再起瘟疫，于是就托人从上海购买了大量的丸药，然后请几个杭州知名的老中医来配药，他们连续配制了很多天，终于制成了大量的预防瘟疫、增强抵抗力的药物。然后，胡雪岩便把这些成药分发到各处，或者放在粥里施发给百姓们。这样一来，杭州城的百姓染瘟疫的越来越少，人们也渐渐地重新振作起来。

但是后来胡雪岩又想到了一个问题，即当初左宗棠在战场的时候，战事吃紧，士兵难免伤亡，受伤之后不及时治疗，病情会恶化，其后果不堪设想，并会严重影响战局。胡雪岩想要是能有方便快捷的药物随军营活动，那就能解决士兵的伤情问题，为战争形势带来好的转变，其意义重大。

于是，胡雪岩就想要制造更多的药材，想要自己开药店，并且他把这一想法告诉了老中医和朋友们，大家都同意这样做。因为这样既能照顾那些军队，又能造福百姓，还能赚钱。但是这只是胡雪岩最初的想法，他并没有付诸行动，是另外一件事情才真正引发了胡雪岩的实际行动。

胡雪岩的母亲一生心善信佛，看到百姓因为瘟疫而受难，士兵因不能及时医治而痛苦，胡母十分痛心。在很久以前，胡雪岩的母亲就想开一间药店，救世济民。她看到了儿子的善举也感到欣慰。当胡母听说儿子要开药堂的时候，心里更是高兴，她找到胡雪岩，并把自己的想法告诉了儿子，于是胡雪岩完全按照母亲的意愿真正地开设了药堂。

接下来，胡雪岩聘请名医，找到药农，联系众多渠道。另一方面则抓紧时间配制药品，因此在药店还没建成的时候就已经研制出了“红灵丹”、“诸葛行军散”、“辟瘟丹”等药物，并及时送到曾国藩和左宗棠的军营中，为战事起到了很大的作用。

后来，胡雪岩便积极地投身到药堂的建设上。首先在吴山脚下，花费三十万两银子来兴建药堂，其建筑也具有浓厚的江南园林特点，精致的雕花、高大的门楼。药堂建成之后，胡雪岩花费了大量的心思给药堂起名为胡庆余堂。

这其实还源于一个小小的故事。胡雪岩的祖宗堂号叫做承庆堂，胡雪岩从小就知道家中的灯笼上挂有承庆堂，于是胡雪岩便在自己的药堂的名字上取了一个“庆”字。并且有一次，胡雪岩随母亲一起去庙里拜佛，他注意到佛堂上有“积善之家，必有余庆”的对联，于是就很兴奋地对母亲说要用余庆堂来做药店的名号。但是胡雪岩的母亲却不同意，因为她想到当初宋朝大奸臣秦桧的府第就叫余庆堂，如果这样叫的话，会招来别人辱骂的。胡母虽没有念过多少书，但是肚子里却有一些伦理，她想既然不能叫余庆堂，那就叫做庆余堂，这也正是积善余庆的意思，而且还有祖宗的名号在里面。胡雪岩听后大赞母亲的涵养，于是药店就起名叫做胡庆余堂。

胡雪岩为药堂起好了名号之后，还需要邀请一位得力的账房先生。但胡雪岩对账房先生的要求并不是那么简单的，他要求账房先生不但账要算得准、快，还得懂得经营和维护药堂。一个店的支出和收入，以及人力、物力方面的需求和进出都是由账房先生打理的，一个好的账房先生能够带动整个店的发展，但要是用人不当，就会影响整个店的发展。于是胡雪岩本着这些条件，待见了几位账房老先生，他们都是杭州城里很有名气的账房先生，每个先生的算盘都是一流的，写字也是很出众。但这些老先生都不合胡雪岩的意，原因是这些老先生都是按照老规矩办事，对一些新的程序不了解，也不赞成胡雪岩提出的一些新式的要求，因而胡雪岩嫌他们顽固守旧。有一天店里来了位姓于的先生，于先生自称是来应试账房先生的，他一开始就提出了一个要求：三年之内，只赔不赚。胡雪岩听后觉得很是荒谬，生意人从不做赔本的买卖，但是转念又一想，忽然顿觉悟彻。于是他跟于先生畅谈一番，最后，决定聘用于先生为药堂的账房先生。

胡雪岩悟到，原来赚钱和不赚钱不只是简单的钱上的差别，长远的眼光不是只在乎眼前的利益，还应该注意以后的信誉，而不是简单地打出标语就可以的，必须切实去做。比如，如果开药店，那么药的配制就是一个很大的问题。有了知名的医师还是远远不够的，而上等的材料才是配制好药的关键，任何一种材料都必须是上等的，只有这样，配制出的药的疗效才更好。再加上服务要到位，这样才能使得药店的名声提高，只要名声提高了，钱也就不愁赚了，威望也就树立起来了。但是，如果只是单纯地急于赚钱的话，那么药材一定不会是上等的，同时研制的时间、程度也不会好，效果自然就不会那么明显。这样的方式也许短时间内会带来一定的利润，但不会维持太长时间，所以也就不会有好的信誉和威望。但是要想做到前者那样，研制出上等的好药，就必须花费大量的时间、金钱和人力，所以，刚一开始是不会有利润的。

胡雪岩的这些看法都是在于先生的身上学到的，所以，要想胡庆余堂能够更好更长久地办下去，必须要请这位于先生来做账房先生。于先生满口经商之道况且想法独特，面对这样的人才胡雪岩是一定要留住的。对于胡雪岩来讲，三年不盈利是绝对担当得起的，因为胡雪岩其他的生意已经为他积攒了巨大的财富，因此他不在意这个三年，就是再有三年，胡雪岩也能赔得起。

有了绝佳的名号，又有了精明的账房先生，并且得到了亲人、朋友的大力支持，于是，胡庆余堂于光绪四年（1878年）在杭州美丽的西子湖畔吴山脚下正式开业了。

胡庆余堂自开业以来，不断地为左宗棠的军队赠送药品，尤其是为左宗棠的西征军取得新疆战争胜利做出了巨大的贡献。并且胡庆余堂在杭州也是经常免费为百姓们看病、赠药，从而赢得了人们的尊敬和赞扬。直到现在，百年老字号胡庆余堂在江南依然享誉美名，并且名扬中外。