二战后日本对苏“北方领土”问题的出现，绝不是孤立的问题，而是两国在历史上长期争夺领土所带来的后果。在近代西方殖民扩张史上，当俄国向东方扩展时，日本还处于闭关锁国中，俄国曾多次要求与日本建立通商贸易关系，但皆遭到拒绝。1853年美国以武力打开日本国门后，1855年2月7日，俄国迫使日本签订《日俄友好条约》，其主要为：“（1）以择捉岛与得抚岛之间为日俄两国边界，择捉岛属于日本，得抚岛及其以北的千岛群岛属于俄国。库页岛不划出特定边界，维持原状。（2）日本向俄国开放函馆、下田、长崎三港。”[2]其标志两国建立外交关系，又首次划定两国在千岛群岛（俄国称项链岛）两国界线。

1860年俄国强迫中国签订《中俄北京条约》，将包括库页岛在内的中国大片领土侵占。此后俄国从库页岛（俄方称哈萨林岛，日方称桦太岛）北部南下，对库页岛南部日本殖民点采取驱赶政策。日本在与俄国争夺库页岛上显然实力不足，因而转变以退出库页岛争夺来换取俄国对日本征服朝鲜的中立态度。日俄两国经过长期谈判，1875年5月7日签订《库页岛·千岛交换条约》。其主要为：“大日本国天皇陛下，至其后嗣，将现今所领库页岛一部分之权利及属于君主之一切权利让与全俄罗斯国皇帝陛下。自今而后，全库页岛悉属俄罗斯帝国，以拉彼鲁兹海峡为两国境界。”“全俄罗斯国皇帝陛下，至其后嗣，作为取得第一款所载库页岛权利之补偿，将现今所领有之千岛群岛，共计十八岛之权利及属于君主之一切权利，让与日本国天皇陛下。自今而后，千岛群岛全岛属于日本帝国。以堪察加地方之洛帕特卡角与占守岛之间的海峡为两国之国界。”[3]该条约的签订，第一次完整地划分了两国领土，结束了两国长期以来的划分领土问题的争论。这样就形成了日本完全控制千岛群岛，俄国完全控制库页岛的局面。

在上述两国领土问题争夺中，日本在综合国力上明显不如俄国而处于被动局面，也促使其在此后两国领土问题争夺中表现出要报仇雪耻的民族情绪。1868年日本爆发明治维新后，随着综合国力不断增强，日本终于在1904年2月发动了对俄战争，迫使俄国在1905年9月3日签订了《朴次茅斯条约》。其规定：“俄罗斯帝国政府，将库页岛南部及其附近一切岛屿，以及在该地方一切公共营造物及财产，与完全之主权一并让与日本国政府。其让与地区之北方边界，定为北纬五十度。”[4]该条约第一次改变了两国已经划定的国界线现状，迫使俄国将库页岛南部割让给日本。在这次两国领土问题争夺上，日方得到了完全满足，而俄方却感到了莫大耻辱，此后报仇雪耻也成为其对日政策核心。

1917年11月俄国爆发了社会主义革命后，帝国主义国家采取联合武力镇压政策。日本是武力镇压的最主要国家，1919年1月26日，日本内阁做出《对俄方针纲要》决议。要求苏俄政府“（1）发展西伯利亚的资本主义制度，俄国中央政府不得向远东地区扩展，为此要采取一定的抑制措施。（2）努力防止、消除在俄国远东地区上，除维持秩序之外的军事设施的发展”[5]。可以看出，日本要把俄国远东及西伯利亚地区从俄国版图上分离出来的野心。

帝国主义国家武装干涉并没有阻止俄国社会主义革命前进，因此各国也就此罢休，1920年4月美国撤军后，在苏俄领土上仅剩下日本军队赖着不走。此时日本不撤军就表明另有企图。日本不撤军必然引起苏俄人民更强烈的反抗，1920年5月27日，当地游击队与日军发生武力冲突后，并放火烧毁庙街城（尼古拉耶夫斯克），使日方人员共计384人在大火中烧死。[6]这就是“庙街事件”。其反映出苏俄人民对日军的愤怒心情，然而也为日军继续赖着不走制造了借口。7月3日，日本政府发表声明，宣称作为庙街事件报复措施，决定出兵占领俄国库页岛北部。在两国有关领土问题争夺上，日本再次做出公开改变两国领土现状的侵略行动。

为了收回库页岛北部，苏俄进行了艰苦努力。1925年1月24日，两国签订《日苏基本条约》，该条约一方面宣布日本从苏联领土撤军，两国建立外交关系，另一方面也宣布苏联承认《朴次茅斯条约》继续有效，承认因“庙街事件”的损失，日本人获取库页岛北部石油、煤炭及森林的开采利权为补偿。[7]这些都深深刺痛了苏联人的心，此后，收回利权及废除不平等条约就成为苏联人追求的对日目标。

1931年9月，日本发动“九一八”事变后，苏联为避战求和被迫放弃在中国东北的巨大利益。1939年9月，第二次世界大战爆发后，两国为了各自利益，在相互妥协下，1941年4月13日签订《日苏中立条约》。其规定：“缔约双方保证维持他们之间和平与友好关系，并相互尊重缔约另一方的领土完整和不可侵犯。”[8]该条约实质上也是两国综合国力由强弱不等转化为大体相等的反映。

1941年6月22日，苏德战争爆发后，7月2日，日本制订“关特演”计划，企图在苏联远东军西移半数时发动进攻[9]，但因条件不成熟而放弃该计划。1941年12月7日，日本发动太平洋战争后，为了维持两国的中立关系，1943年6月19日，日本决定：“将库页岛北部的石油及煤炭的利权有偿转让给苏联。”[10]不久双方签订协议书。尽管日本极力维持两国中立关系，但是苏联还是在1945年8月9日宣布对日开战，随即苏联出兵占领了库页岛南部以及包括北方四岛在内的千岛群岛地区。苏联出兵再次改变了两国之间的领土现状。

两国在历史上的领土争夺，不仅使两国间领土问题复杂化，而且也使两国人民增添了民族仇恨感。这就是其形成的历史原因与深刻心理因素。