《日本国志》于光绪十三年（1887）撰成后，黄遵宪曾向李鸿章和张之洞各送一部，二人皆对此书给予了高度评价，如李鸿章在《禀批》中称其“博稽深考，于彼国改法从西原委，订证尤为赅备，意在于酌古之中，为匡时之具，故自抒心得，设论恢奇，深协觇国采风之旨”，指示“应如所请，即由本大臣备咨并原书两函，驿寄总理各国事物衙门备览”。[123]张之洞亦在《咨文》中称其“条例精详，纲目备举，寄意深远，致功甚勤，且于外洋各国风俗政事，俱能会通参考，具见究心时务”，认为此书“实为出使日本者必不可少之书目”。[124]光绪二十年（1894），薛福成在《日本国志序》中也对此书大加称赞：“此奇作也，数百年来鲜有为之者”。[125]然而，由于种种原因，《日本国志》书稿一直没有刊行于世，因此未能产生广泛影响。

《日本国志》的正式出版大约是在光绪二十一年（1895）底。此时适逢甲午战败不久，昔日“天朝大国”竟然败给了“蕞尔小岛”的日本，国人深感震惊。出于认识和了解日本的需要，《日本国志》开始受到人们的高度重视，成为人们了解日本的必读书籍，以致被“海内奉为瑰宝。由是诵说之士，抵掌而谈域外之观，不致如堕五里雾中”（狄葆贤《平等阁诗话》[126]）。

光绪二十二年（1896）十一月，梁启超撰《日本国志后序》，以半喜半悔的口吻慨叹道：“中国人寡知日本者也。黄子公度，撰《日本国志》，梁启超读之，欣懌咏叹黄子：乃今知日本，乃今知日本之所以强，赖黄子也。又懑愤责黄子曰：乃今知中国，乃今知中国之所以弱，在黄子成书十年，久谦让不流通，令中国人寡知日本，不鉴不备，不患不悚，以至今日也”。[127]梁启超指出，《日本国志》撰成后未能立即流布，致使国人对日本一直缺乏了解和警惕，“不鉴不备，不患不悚”，最终导致甲午战败、秿弱积贫的悲痛局面，这与前述袁昶的喟叹大致相同，应是当时有识之士的共同感受。

文中，梁启超称赞《日本国志》“于日本之政事、人民、土地及维新变政之由，若如其闺闼而数米盐，别白黑而诵昭穆也”，认为虽然该书撰写于十年以前，但“其于今日之事，若烛照而数计也”。[128]

其后，梁启超将《后序》发表于光绪二十三年（1897）二月二十一日出版的《时务报》第21册中，为《日本国志》的传播起了极好的宣传作用。是年，黄遵宪在《日本国志》的改刻本中，撤去李鸿章的《禀批》及张之洞的《咨文》，而将梁吿超的《后序》补入。当时，《日本国志》刊印700部，其中500部是通过《时务报》馆发售。另外，梁启超在《西学书目表》及《读西学书法》中，将《日本国志》列为重点书目，推荐给维新派人士。后来任湖南时务学堂总教习时，又将《日本国志》指定为学员的必读书籍。由于梁启超的大力宣传，《日本国志》引起维新派人士的高度重视，对戊戌变法维新运动起了极夯的推动作用。

与那些走马观花式的日本闻见录不同，黄遵宪的《日本国志》是近代中国第一部对明治维新系统而深入地进行研究的著作，并对改革中国的现状提出了许多有益的意见。因此，维新运动中深受到维新派知识分子的欢迎。维新运动**的1898年，《日本国志》就曾三次刊刻，足见其影响之大之广。

不仅如此，《日本国志》还受到维新派领袖康有为以及光绪皇帝的高度重视，为戊戌变法提供了重要的理诺指导。据研究，康有为戊戌奏稿以及《日本变政考》中言及效法日本之论，不少地方就是直接取材于《日本国志》。[129]

康有为极力鼓吹效仿日本实行变法，引起了光绪皇帝对《日本国志》的极大兴趣。戊戌变法前夕，光绪皇帝两次催促翁同龢进呈《日本国志》，据翁戊戌年正月二十三日日记记载：“上向臣索黄遵宪《日本国志》，臣对未洽，颇致诘难”，次日又曰：“是日以《日本志》两部进呈”。[130]可见光绪皇帝对此书的高度重视。