New York var beboet af indfødte amerikanere, da europæerne kom til i 1524. Europæisk besættelse begyndte, da hollænderne oprettede en handelsstation, senere kaldt New Amsterdam, på den sydlige del af Manhatten i 1614. I 1624 købte hollænderne Manhatten, i det der i dag kaldes verdens måske bedste handel, for 24$. I 1664 erobrede britterne Manhatten og gav byen navnet New York efter den engelske Duke of York and Albany.

New Yorks vigtighed voksede under det britiske styre som en handelshavn. I 1754 oprettedes Columbia Universitet og blev det kun 5. universitet i USA. Under Uafhængighedskrigen var New York centrum for slag mellem britterne under Sir William Howe og en amerikansk hær under George Washinton. Det var også her, at Kongressen mødtes i 1789 og indsatte den første amerikanske president George Washington. New York var USAs hovedstad indtil 1790.

Gennem det 19. århundrede blev New York forvandlet af immigration, hvoraf størstedelen var fra Europa. I 1835 overhalede New York Philadelphia som den største by i USA. I 1857 blev Central Park oprettet, og i dag står den som et åndehul i en ellers stresset hverdag. New York konsolidere med Brooklyn i 1898, der indtil da havde været en selvstændig by. New Yorks subway åbnede i 1904, og binder stadig byen sammen

New York blev i 1920'erne mål for en ny bølge af immigranter, denne gang fra den sydlige af USA. Det var "african americans", der flygtede fra rasicmen og søgte et bedre liv mod nord. New York blev hurtigt hjem for det største antal african americans i Nordamerika, der for manges vedkommende bosatte sig i Harlem. I 1925 overtog New York føresædet fra London og blev den største by i verden målt i antal indbyggere.

Efter 2. Verdenskrig oplevede New York endnu en bølge af tilflyttere, denne gang europæere der kom fra krigshærgede lande. New York var urørt og fremstod som verdens førende by. Med Wall Street på det finansielle plan, FNs hovedkvarter på det politiske og abstrat expressionisme på det kunstneriske plan gjorde New York til "verdens centrum".

Op gennem 1960'erne gennemgik New York lige som næsten alle andre storbyer i USA en dårlig periode med stigende kriminalitet, raceopgør og en "hvid flugt", hvor især mennesker med middelindkomst flygtede ud af centrum. Dog kom New York stærkt igen, og i 1970'erne fremstod New York som et sikkert sted at være. Nye immigranter, især fra Asien og Latin Amerika er siden kommet til, og New Yorks indbyggertal nåede nye højder i 2000. Siden da har byen især fået opmærksomhed pga. 11. september, hvor næsten 3000 mennesker døde i terrorangreben på World Trade Center.