吴玉章到日本后参加了一系列爱国学生运动，成为四川留日学生中的积极分子。
1904年元旦，因清朝末年中国的贫弱，日本看不起中国，悬挂万国旗时，故意不挂中国国旗。他挺身而出，代表留日学生向学校当局严正提出：“必须立刻向中国学生道歉并纠正毛病，否则，就要举办罢课和绝食以示抗议。”在强大压力下，学校当局只得认错道歉。
当时，革命文字盛行，如邹容的《革命军》，留日学生的《浙江潮》《江苏》等杂志，随着这些读物的影响，他的思想也随之变化，认为革命是对的。
当时，读书人多看不起孙中山，1905年孙中山到东京后，他和另外一些最激进的革命派，就和孙中山一起组织了革命同盟会。
同年，留日学生反对“取缔规则”运动失败后，一个团结学生的群众组织“留学生会馆”竟至无人过问。他一人支持了9个多月，终于感动了大家，恢复了组织。
1907年以后，由于起义接连失败，东京留学生中革命者寥寥可数。他却因此更加坚定振奋，把四川的同盟会员鼓舞起来，以团结各省的革命者。当时他主办《四川杂志》；章太炎主办《民报》。《民报》经费困难，常至断炊，他竭力调和奔走，后来在四川会员中捐了许多钱去支持《民报》。1908年，《四川杂志》与《民报》同时被封，他被判半年徒罪，因为是学生，结果缓期执行。
当时革命形势低落，暗杀成风，但他却不赞成暗杀。当时汪精卫写信要他寄些制造炸弹的药品，他回信说：“征诸历史，各国革命失败时，则暗杀之风必盛。诚以志士仁人知大势已去，唯有一死以报国。其志可嘉，其行亦可悯矣。今我革命非无希望，敌人正造谣说革命处处失败，以图涣散我革命之人心。兄为我党有名而能文之士，如果亦随吾党勇壮之士实行暗杀，即使有成，亦徒使敌人造谣，志士灰心，而党亦受莫大损失。弟不赞成此举，故不能寄药品来。”
汪又回寄信说：
“来信爱弟深挚，令人感激。但弟以为革命之事譬如煮饭：煮饭之要具有二，一曰釜，一曰薪釜之为德在一恒字，水不能蚀，火不能融，水火交煎，皆能忍受，此正如我革命党人百折不挠，再接再厉。薪之为德在一烈字，炬火熊熊，火焰万丈，顾体质虽毁，借其余热可以熟饭，此正如我革命党人一往独前，舍生取义。二者之为德孰轻孰重，颇难轩轾，要在各视其性之所近，择一而行之耳。弟自顾素鲜恒德，故不愿为釜而愿为薪。兄如爱我，望即赐寄各物。”
他虽不赞成暗杀，但看到汪精卫当时似乎颇为坚决，也就给其寄了些炸药去。汪精卫在香港谋炸李准不成，又到东京。吴玉章又为汪精卫炸摄政王布置一切，派喻云纪、黄复生到北京开守真照像馆，进行筹备。不久暗杀尚未举行，而黄复生、汪精卫被捕。
1905年，同盟会组织了对清朝官员的暗杀活动。吴玉章对在汉口谋炸两江总督端方进行了周密的谋划。不过，这次行动，因为端方临时改变行走路线，未能实现谋炸的意图。随后，他又与人计划，集中力量去刺杀清政府最高掌权者、摄政王载沣，另外，还有几次暗杀行动。虽然暗杀均未成功，但是却惊醒了国人，鼓舞了国人起来反对封建专制的勇气。
不久，他为发动广州起义，被分配到日本购运枪支弹药，并向香港运送了五批军火。
有一次，他去购运军火，左右腋下，各挂了千余发子弹，外穿一件日本和服，脚蹬一双约四寸高的高底木屐，手上还打把伞。这负担，自然沉重，稍有不慎就会屐齿折断。谁知，刚走出秘密住所，就遇到两个警察，大家顿时紧张，为他捏了把汗，但他却沉着冷静地摆脱了警察，把军火安全运到了目的地。
还有一次，一位同志把120支手枪装进不到2尺长的皮箱里，引起了火车站管理人员的怀疑。他知道这事后，想了许多办法，居然把皮箱安全地取了出来，化险为夷。
民国元年(1912年)正月，蜀军政府派他和杨庶堪为四川代表到南京。当时，临时政府已成立。内务部次长居正和秘书长田桐一见到他就说：“可惜你来迟了，各部次长位置已经没有了。内务部的司长参事随你选择一个。”他却说：“我们革命不是为做官；请你们不要提这个。”后来的疆理局(即土地局)局长特意颁发了参事任命状，仍被其退回。
后来孙中山要他到总统府秘书处工作，他才接受了秘书处总务科的职务。当时正值南北和议，因此很多人不愿来秘书处做事，只有他勤勤恳恳工作。
南北和议成功后，四川的成渝两个军政府还是对立着。袁世凯托人让他作宣慰使到四川调停。他却回答说：“我不作官；而且对故乡父老怎么可以用什么宣慰使的名义？”后来，袁世凯只得依他意见，改由政府派往四川慰问。他这才和朱芾煌一起回川。
回川后，有人问他：“从都督和全城官员郊迎十里来看，你们好像是钦差大臣。但从你们轻车简从，到处亲切地和老百姓谈话、讲演来看，你们又像是传道师。你们到底是什么官？”
他笑着回应说：“我们不是官，是革命者。我们要劝老百姓剪辫子，不吃鸦片，不赌钱，不缠足，要读书识字，要办学校，要到外国留学。我们办了一个留法俭学会，有志青年用很少的钱就可以到法国去留学。”
1912年初，他和李石曾等在北京发起成立了留法俭学会。6月，他又在成都与朱芾煌、沈与白、黄复生等成立了留法俭学会四川分会。同时他们依照北京的做法，在四川设留法俭学预备学校。11月，第一批出国学生出发，40余人中四川就有16个人。
1916年6月22日，华法教育会在法国正式成立，他任会计。他说：“我非常希望吾国青年目光注于全世界，勇猛精进，必穷究世界学术之精微，由自主的择一自信者而力行之。在国家危急中痛自刻责，发奋为雄，以求生存于世界者也。”
随着新文化运动的传播，留法勤工俭学的性质也发生了相应的变化。1919年3月15日，他在上海送别留法学生时讲话说：“此次世界大战而后，政治革新之声遍于全球，我们国人亦知顺此潮流研究改革。”他又尖锐地指出：“政治不良，政府恶劣，补救无方，人民起来革命，这是应该的。”“谋大多数人的幸福……为社会开一新纪元。”
1922年春，他在北京会见了王维舟，两人当时就组织新政党发表了看法，并成立“赤心社”。是年8月，他到成都任成都高等师范学校校长，开始宣传社会主义。1924年1月，他在成都创建了中国青年共产党，这是他革命道路上的新起点，是对中国革命探索的新结果。中国青年共产党成立后，注重工人运动，支持成都各行业工人建立起属于自己的工会组织——成都职工总会。同年5月1日，追悼列宁的群众大会召开，会议遭到军阀强烈压制，他被迫离开成都回到荣县老家。
不久他到北京见到了中共领导人，并通过介绍加入了中国共产党。这时他才感觉到中国青年共产党已无存在必要，不久后解散，不少成员先后加入中国共产党。
中国青年共产党，虽然从筹备到解散只有5年左右，但是，他们在四川、北京宣传马列主义，为救国图强、聚集革命中坚分子产生了巨大的影响。