使馆为同治十一年设立，最初位于东四六条。光绪十二年建于东交民巷内日本兵营后面，为西式平房，砖木结构，正立面七开间，中启砖作拱券式大门。公使馆迁入后平房作为办公用房，又以平房为基础，扩建一座四合院。《辛丑条约》签订后，日本公使馆迁入正义路的新馆。保护范围系北至日本公使馆旧址后平房北院墙，南至东交民巷，西起原日本公使馆附属建筑西侧小甬路西侧，东至法国使馆旧址原围墙及向南延长线。