Územie Japonska zahŕňa pás vyše 6000 ostrovov v Tichom oceáne. Patria k nim:

• Japonské ostrovy
  • Hokkaidó - najsevernejší ostrov, odlišný svojim chladnejším podnebím
  • Honšú - najväčší a najobývanejší ostrov, tvorí 65% územia krajiny
  • Šikoku
  • Kjúšú
  • stovky menších ostrovov
• ostrovy Rjúkjú - s tropickým podnebím, na juhozápad od Japonských ostrovov
• ostrovy Nanpó - rozptýlené v Tichom oceáne
• Kurilské ostrovy - nárokuje si ich aj Ruská federácia

Približne 75% územia hlavných ostrovov tvoria pohoria, z toho takmer polovica je vulkanického pôvodu. Okolo 580 vrchov presahuje výšku 2000 metrov nad morom a 21 je vyšších ako 3000 metrov. Tak ako ostrovy samotné, aj pohoria sa tiahnu v úzkom pásme od severu na juh, približne stredom súostrovia. Nížin je v krajine pochopiteľne málo, ležia hlavne v povodiach riek a na tichomorskom pobreží krajiny, zatiaľ čo západné pobrežie je strmé a skalnaté.

Kvôli veľmi členitému povrchu krajiny a množstvu silne zbrázdených horských masívov sú japonské rieky pomerne krátke a dravé. Pramenia v horách a s veľkým spádom a množstvom vodopádov a kaňonovitých úsekov stekajú po úpätiach hrebeňov smerom k pobrežiu. Na ostrove Honšú tečie 367 kilometrov dlhá rieka Šinano (tiež zvaná Čikuna), najväčšia a najdlhšia japonská rieka. Intenzívna vulkanická a tektonická činnosť vytvorila dokonalé podmienky na vytvorenie minerálnych a termálnych prameňov, ktorých sa v krajine nachádza vyše 1100.

Neďaleko Tókja (Tokia) stojí osamelá hora Fudžisan, so svojimi 3776 metrami najvyšší vrch krajiny. Je to aktívna sopka, ale s nízkou pravdepodobnosťou erupcie – naposledy vybuchla v roku 1707. Vďaka svojmu až nezvyčajne symetrickému tvaru, osamelej polohe, typickému vzhľadu a dobrej viditeľnosti aj zo širokého okolia je Fudžisan jedným z najznámejších symbolov Japonska.