De två männen avfyrade flera skott mot Chongryons kontor tidigt på fredagsmorgonen, lokal tid, innan de greps på plats. Ingen skadades i attacken.
Chongryon, eller Föreningen för koreaner boende i Japan, tjänar som Nordkoreas informella ambassad eftersom länderna saknar diplomatiska relationer.
Chongryons vicedirektör Nam Sung-U kallar händelsen för ett "avskyvärt terrordåd" och anklagar den japanska regeringens för att genom "fientlig politik" mot Nordkorea elda på hatet mot koreaner bosatta i Japan.
Lokala medier skriver att männen har kopplingar till högerextrema rörelser.
Utrikes
23.2.2018
Skott mot Nordkoreas ambassad i Tokyo
Två män har gripits sedan de skjutit mot Nordkoreas de facto-ambassad Chongryon i Japans huvudstad Tokyo, enligt polisen.