Com o Tratado de Amizade, de Comércio e de Navegação assinado em 5 de novembro de 1895, em Paris, iniciando oficialmente as relações diplomáticas entre as duas nações. Dois anos depois o tratado foi ratificado e assim foi instalada a Legação do Japão em Petrópolis, para que em 23 de agosto do mesmo ano fosse oficialmente aberta a legação no Brasil, marcando a primeira representação diplomática japonesa no país, na casa que fica na Avenida sete de abril n°609, em Petrópolis, RJ.
Diversos foram os fatores que levaram a Petrópolis ser escolhida para a instalação da legação japonesa. Dentre eles se destacam a proximidade com a capital (devida à facilidade de transporte através da antiga linha ferroviária Rio-Petrópolis), a baixa incidência de Febre Amarela e a presença de outras representações estrangeiras na Cidade Imperial.
O primeiro japonês a residir em Petrópolis foi o Sr. Elijiro Miyake, em 1906.
No dia 01 de maio de 1923, a Legação japonesa passa à condição de Embaixada, sendo o Embaixador o Sr. Akira Ariyoshi.
Em 1930, as famílias Akiba e Yamamoto se instalaram no Amazonas, mas desistiram de ficar lá devido à grande dificuldade da região e vieram para Petrópolis, com o objetivo de trabalharem na agricultura, tornando-se pioneiros no comércio de hortaliças de Município.
Em 1939, devido a Segunda Guerra Mundial, a relação diplomática entre Brasil-Japão fica suspensa até 1942, reiniciando-se o processo imigratório em 1953.
Em 1973, a indústria Mitsubishi Hevy Industries do Japão comprou a indústria ATA Combustão Técnica S.A., fabricante de caldeiras flamo tubular.
Em 1995, quatro entidades japonesas, localizadas no Rio de Janeiro, plantaram mais de 300 mudas de cerejeiras no Quitandinha, no Palácio Rio Negro e no Museu Imperial, em comemoração ao Tratado da Amizade, Comércio e Navegação, entre Brasil e Japão.