New York sa nachádza na severovýchode Spojených štátov, na juhovýchode štátu New York, približne na polceste medzi Washingtonom D. C. a Bostonom. Mestom preteká rieka Hudson, ktorá tu ústi do malého prírodného zálivu a následne do Atlantického oceánu. Väčšina mesta sa nachádza na ostrovoch Manhattan, Staten Island a Long Island, vďaka čomu je rozsah dostupnej pôdy obmedzený a vedie k vysokej hustote obyvateľstva a zástavby.
Rieka Hudson preteká cez Hudson Valley do New York Bay. Medzi New Yorkom a mestom Troy má rieka charakter estuária. Rieka Hudson tvorí hranicu medzi štátmi New York a New Jersey. East River tečie z Long Island Sound a oddeľuje Bronx a Manhattan od Long Islandu. Harlem River spája rieku Hudson a East River.
Pevnina bola neustále upravovaná ľudskou činnosťou, najvýraznejšie vysušovaním pobrežia už od dôb holandskej kolonizácie a to najintenzívnejšie na dolnom Manhattane. Najtypickejším príkladom je Battery Park City, ktoré vzniklo navezením hliny a kameniva zo stavby World Trade Center v 70. a 80. rokoch. Predovšetkým na Manhattane boli ľudskou činnosťou zarovnané mnohé prírodne vzniknuté nerovnosti.
Rozloha New Yorku je 1 214,4 km2, pričom pevnina má rozlohu 789,5 km2 a vodné plochy rozlohu 428,8 km2. Najvyšším bodom mesta je Todt Hill na Staten Islande, ktorý dosahuje do 124,9 m n. m. Vrchol je pokrytý lesmi, ktoré sú súčasťou Staten Island Greenbelt.
