日本人墓地是指因为战争、俘虏、滞留、卖身、侨居、移民、归化、失踪等各种原因，丧生海外的日本人的坟园、墓地或埋葬所；有时，一些因为旅行而意外逝世的日本人，也会葬在海外的日本人墓地。
由14世纪至18世纪开始，日本人就开始在海外聚居，由
山田长政掌管的泰国大城阿育陀耶日本人町是其中一个最早形成的海外日本人聚居地，阿育陀耶日本人町的遗址就设有一座“阿育陀耶日本人町迹”的纪念碑。
自1633年（永10年）开始，德川幕府多次颁布锁国令，严格限制日本人与外国通商，并禁止滞留海外五年以上的日本人回国，使无数日本人因无法归国，而被迫留在海外。锁国禁令直到1853年（嘉永6年）的“黑船来航”才告结束，前后历时超过两百年。
近现代开始，
日本积极推行培植产业及加强军力以为文明开化，使国力急速发展成为先进国家。在此时期的日本与欧美诸国缔结同盟，并向桦太、
朝鲜、满洲、蒙疆、
台湾省、南洋、
中南半岛等地扩张领土，开始有日本商人、船员、开拓移民和南洋姐远渡海外，这些平民有些因为归化、客死或自愿等原因而没有返国。
第二次世界大战期间，以
大日本帝国为首的
轴心国在
太平洋、
印度洋和东亚地区发动
太平洋战争，数以百万计的日本军人因此死于
菲律宾群岛、
新几内亚岛、太平洋诸岛等主要战场。二战结束以后，
日本领土被
同盟国军事占领，海外属地陆续移交或宣布独立，此后日本遗族在海外地区搜寻残留、战死和失踪者遗骸的活动从未有过间断。日本政府恢复主权以后，开始在海外为战死者修建慰灵塔、慰灵碑或纪念碑，以慰藉军人之亡魂。
在二战后的
东北亚地区，约有56－76万名日本平民、开拓者和军人成为
苏联红军的战俘，被流放到
远东、蒙古和西伯利亚等地区进行强制劳改，保守估计有6万人在恶劣环境下因饥寒交迫而死，实则死亡人数可能远超过此数。
1950年代，日本人口因为婴儿潮而出现大幅度提升的现象，土地不足的传言在农村地区引起恐慌，于是战后政府推行移住国策，将农村子弟送到中
南美洲国家开拓农田。这项国策在1960年代因
日本经济成长而放缓，延至1994年才正式废除，而这些在日本国内称为“弃民”的开拓者，有些仍被留在日本海外。