Намира се в североизточната част на САЩ и граничи с Канада на север и Атлантическия океан на юг.
Щатът е с население от 19 490 297 жители (2008) и обща площ от 140 908 km², от които 121 940 km² са суша и 18 968 km² (13,46%) са заети от вътрешни водни басейни.
Най-високата надморска височина в Ню Йорк е връх Марси в планината Адирондакс, на 1629 m над морското равнище, а най-ниската точка на щата е на морско равнище при Атлантическия океан.
За разлика от градския пейзаж на града Ню Йорк, огромната част от територията на щата Ню Йорк е доминирана от ливади, гори, реки, ферми, планини и езера. По-голямата част от южната част на щата лежи на платото Алегхени, което се простира от югоизточната част на САЩ до планините Катскил. Частта, върху която е разположен Ню Йорк, е известна като Южния рид. Скалистите планини Адирондак се намират в северната част на щата, западно от долината на езерото Чамплейн. Източната част на щата се намира в Голямата долина и включва долината на езерото Чамплейн в северната ѝ половина и долината на река Хъдсън в южната половина. Поради голямото различие в географските характеристики, за разграничаване на градския регион на Ню Йорк от останалата част на щата, често се използват неофициалните имена Upstate New York (северна част) и Downstate New York (южна част).