咸丰十年（1860年），洋务派首领恭亲王奕訢奏请设立总署衙门，专门办理对外交涉事务。当时，清朝官吏都不懂外语，跟洋人打交道很困难。于是，恭亲王建议在总署领导下，设立京师同文馆，培养外语人材，以任翻译。同治元年（1861年），慈禧和慈安批准了这一建议。

“同文馆”本来是宋代接待外国使节的招待所之一。因为它具体负责接待高丽人，高丽与大宋同属汉文化圈，高丽也使用汉字，属于“书同文”，所以有此命名。清廷把教授自己子弟学外语的地方取了这样一个怪名字，真是怪怪的。

同文馆一经开办，立即受到顽固派的诋毁。在大学士倭仁等人的煽动下，一时间“京师口语藉藉，或贴纸于前门，以俚语笑骂：‘胡闹，胡闹，教人都从了天主教’。”有人特意作了这样的对联，予以挖苦：“‘未同而言，斯文将丧’，还云：‘孔门弟子，鬼谷先生！’”更为胆大者竟在同文馆门口贴了一副对联：“鬼计本多端，使小朝廷设同文之馆；军机无远略，诱佳子弟拜异类为师。”

同文馆遇到的第一个问题就是招不到学生。当时，弥漫社会的是科举崇拜，谁肯学习洋鬼子的话？人们普遍认为，万般皆下品，唯有读书高。只有读儒书，学八股，考秀才、举人、最后中进士、入仕途，才是人生正道。

同文馆最初只能在“天资聪慧，年在十三四岁以下八旗子弟”中遴选。即使是旗人，也受到汉人科举至上风气的影响，一些旗人担心子弟学了洋文，就会把灵魂卖给了洋鬼子，所以，都不太愿意把他们送进同文馆。朝廷只好采取物质刺激的办法，多给助学金（当时称作“膏火费”，意为晚上点灯阅读的花费），每月三两白银（《儒林外史》中开篇讲的那位乡村塾师周进，一年薪金才十二两白银），读一两年后，可升至六两。学习成绩好，高班学生如能辅导低班学生，还有报酬，最多的一个月可以拿到十五六两。这样一个学生一年下来可以拿到近二百两。而一个七品知县，年薪不过七八十两。学生的伙食更是天天三顿宴席，夜里听戏回来晚了，还可以叫厨子起来做宵夜，送到寝室。就是这样来学习的学生仍觉得矮人一头。同文馆优秀学生张德彝后来做了驻英国、法国等国公使，官至三品，他晚年回忆自己的一生时，还对子弟说：“余不学无术，未入正途。愧与正途为伍，而正途亦间藐与为伍。”可见洋务在人们心目中的地位之低。

同治元年七月二十五日（1862年8月20日），同文馆在总署隔壁开学。太仆寺卿徐继畲（1795—1873，山西五台人，字牧田。著有《瀛环志略》）因“老成重望为士林所矜式”，被任命为总理同文馆事务大臣，聘英国人包尔腾为教师。最初连学制都没有，是个混饭吃的地方。光绪十一年（1885），同文馆整顿、制定了《同文馆章程》18条，《续增同文馆条规》8条。以后又陆续开设法文、俄文、德文和东文（日文）馆，同文馆教学才逐步走向正规。

同治四年十月（1866年12月），奕訢、李鸿章等主张在通晓西语基础上，进一步学习西方的“推算之学，格物之理，制器尚象之法”，掌握“一切轮船火器等技巧”，对于“中国自强之道，似有裨助”。朝廷表示同意。次年正月二十三日（2月27日），两宫太后发布懿旨，奖励恭亲王、李鸿章等洋务派官员。

可是，在同文馆增设算学馆的建议一经提出，就遭到顽固派的强烈反对。正月二十九日（3月15日），御史张盛藻攻击说：“若令正途科甲人员习为技巧之事，又藉升途、银两以诱之，是重名利而轻气节，无气节安望其有事功哉？”并认为自强之道不在制造轮船、洋枪，而在于精通国学，“读孔孟之书、学尧舜之道”，培养气节。有了气节就可以“以之御灾则灾平，以之御寇则寇可灭”。慈禧当天就发上谕予以驳斥：“朝廷设立同文馆取用正途学习。原以天文算学为儒者所当知，不得目为机巧，……该御史请饬廷臣妥议之处，著毋庸议。”

二月十五日（4月1日），大学士倭仁也上奏反对：“窃闻立国之道，尚礼仪不尚权谋；根本之途，在人心不在技艺。今求一艺之末，而又奉夷为师，无论夷人诡谲未必传其精巧，即使教者诚教，学者诚学，所成就者不过术数之士，古今来未闻有恃术数而能起衰振弱者也。天下之大，人才之众，不患无才，如以天文算学必须讲习，博采旁求，必有精其术者。何必夷人？何须师事夷人？”还有人紧随其后，咒骂同文馆是“不祥之物”，把当时的久旱不雨、阴霾满天、疫病流行等自然现象，都说成是同文馆引起的。

恭亲王于三月初二（4月16日）再上一奏，对这些谬论加以驳斥，指出：“此次招考天文算学之议，并非矜奇好异，震于西人术数之学也。盖以西人制器之法，无不由度数而生；今中国议欲讲求制造轮船机器诸法，苟不借西士为先导，俾讲明机巧之原，制作之本，窃恐师心自用，枉费钱粮，仍无裨于实际。……查西洋各国，互相师法，制作日新。东洋日本，近亦遣人赴英国学习文字，究其象数。为仿造轮船张本，不数年亦必成。西洋各国，雄长海邦，各不相下者无论矣。若夫日本，蕞尔国耳，尚知发愤为雄；独中国狃于因循积习，不思振作，耻孰甚焉！”

倭仁是理学大师、同治帝师、军机大臣，权高位重，影响很大。不放倒倭仁，算学馆休想办成。几经思量，三月十九日（5月3日），恭亲王终于想出了“以其之矛、攻其之盾”的策略，上报当天，两宫太后就降下懿旨：

“至倭仁原奏内称：‘天下之大，人才之众，不患无才，如以天文算学必须讲习，博采旁求，必有精其术者。’该大学士自必确有所知，着即酌保数员，另行择地设馆，由倭仁督饬讲求，与同文馆招考各员，互相砥砺，共收实效。”并“命大学士倭仁在总署行走”。

恭亲王与两宫太后联手，狠狠地“幽”了倭仁一“默”。两天后，倭仁举手投降：“近同文馆既经特设不能中止，则奴才前奏已无足论，应请不必另行设馆，由奴才督饬办理；况奴才意中并无精通天文算学之人，不敢妄保。”倭仁既不敢牵头再办一所“同文馆”，与同文馆分庭抗礼；也不愿担任总署大臣，直接与洋人打交道。

三月二十四日（5月8日），针对倭仁的辞呈，慈禧不依不饶，再发懿旨：“总署公务关系紧要，倭仁身为大臣，当此时事多艰，正宜竭尽心力。以副倭仁，岂可稍涉推诿？”竟不准许倭仁辞职。

倭仁被一“将”到底，毫无退路，整日神情沮丧，不知如何是好。他占了一卦，得“讼之初六，履之初九”，都是在位不吉之兆。三月二十九日（5月13日），是太庙祭祀的日子，各位大臣都要站班。站班之后，倭仁爬上马去，意外“失足”摔下，借用别人的轿子抬回了家，被免职休养，才得以解脱……

经过恭亲王等人的力争，在慈禧的支持下，算学馆终于成立。此后，同文馆又逐步扩充各种自然科学课程，学生也陆续增加到一百二十名，实际上成了一所培养外语和自然科学人才的高等专科学校。

同治八年八月（1869年9月），美国公使兼清廷总税务司赫德决定，请丁韪良担任同文馆总教习。丁韪良想了想，把手一摊，说：“我并不反对出来修剪一下灯芯。但条件是，你必须提供充足的灯油。”赫德说：“好吧。你负责修剪灯芯，而我来提供灯油。这样，就可以让同文馆这盏灯在大清的夜空里更加明亮一些。”从此，丁韪良开始到同文馆授读，并在总教习位置上，一干就是25年。