Los Knicks es uno de los dos equipos que estuvo presente en la NBA inicial, y que aún permanece en la misma ciudad (el otro es Boston Celtics).

Primeros años

El primer partido de los Knicks (y de la BAA) fue disputado el 1 de noviembre de 1946 en contra de Toronto Huskies en el Maple Leaf Gardens, donde los Knicks ganaron 68-66. En los primeros años fueron consistentes en llegar a los playoffs, gracias a jugadores como los hermanos Eric y Alec Taitz. Durante la primera década de existencia de la NBA, los Knicks llegaron a las finales en tres años consecutivos (1951–53). En el resto de los años 1950, los Knicks tendrían decentes, si no grandes equipos y alcanzarían los playoffs en 1955, 1956 (perdieron en un playoff jugado a un solo partido con Syracuse Nationals), y 1959.

Campeonatos

Pasado un tiempo de la mala época, se empezaron a ver signos de mejores cosas por venir. En 1964, los Knicks eligieron a Willis Reed en el draft, quién se convertiría en el mejor novato del año 1965. En 1965, les fue dada por la NBA una opción extra de primera ronda en el draft por tener el peor récord del este (al igual que San Francisco Warriors, que tenía el peor récord de la liga en el oeste) y aprovecharon la oportunidad para seleccionar a Bill Bradley y Dave Stallworth. En 1967, apenas luego de haber alcanzado los playoffs por primera vez desde 1959, Red Holzman fue contratado con entrenador. Con Holzman a la cabeza, y jóvenes jugadores como Bill Bradley y Walt "Clyde" Frazier, los Knicks volvieron a ser un equipo competitivo en los playoffs de 1968. En la siguiente temporada, adquirieron a Dave DeBusschere, proveniente de Detroit Pistons, y finalizaron con un récord de 55-27. En el siguiente playoff, el equipo pasó la primera ronda por primera vez desde 1953, eliminando a Baltimore Bullets en tres partidos, para perder con Boston Celtics en las finales de conferencia.

En la temporada 1969–70, los lograrían un récord de 18 victorias consecutivas para finalizar el año 60-22, la que fue la mejor temporada regular en la historia de la franquicia. Luego de derrotar a los Bullets y Milwaukee Bucks en las semifinales y finales de la conferencia este respectivamente, los Knicks vencieron a Los Angeles Lakers en siete encuentros para obtener su primer título de la NBA. Sin lugar a dudas, el momento decisivo de la serie ocurrió en el séptimo juego, cuando un lesionado Reed entró rengueando a la cancha justo antes del inicio del partido. Marv Albert, el relator del estadio, describió la situación: "¡Aquí viene Willis! ¡El púlico está eufórico! Willis pasa por delante de la mesa de anotadores, toma una pelota. Los Lakers han dejado de lanzar, ¡ahora están observando a Willis!" Él anotó las dos primeras canastas del encuentro y luego se sentó por el resto del partido. A pesar de su ausencia durante la mayor parte del encuentro, el acto de Reed motivó al equipo, y ganaron el encuentro por 113-99. Los números de la formación inicial del 69-70 fueron retirados. Las camisetas de Frazier #10, Reed #19, DeBusschere #22, Bradley #24 y Dick Barnett #12 cuelgan de techo del Madison Square Garden.

El éxito continuó durante los años sucesivos. Luego de caer ante los Bullets en las finales de conferencia de 1971, y acompañado por las adquisiciones de Jerry Lucas y Earl "The Pearl" Monroe, regresaron a disputar las finales de 1972. Esta vez se verían superados por los Lakers en cinco juegos. Al año siguiente, el resultado se invertiría, ya que los Knicks derrotaron a los Lakers en en cinco encuentros para ganar su segundo título de la NBA. El equipo tendría otra buena campaña en la temporada 1973-74, alcanzando las finales de conferencia, donde serían vencidos en cinco juegos por los Celtics. Luego de esta temporada, Reed anunció su retiro, y el porvenir del equipo no sería muy bueno.

2000-2003

A pesar de haber perdido a Ewing, los Knicks tuvieron una buena temporada regular, con un récord de 48–34 que le permitió llegar a la postemporada. Sin embargo en esta etapa, cayeron en cinco juegos frente a Toronto Raptors, siendo la primer vez en la década que no alcanzaron la segunda ronda de los playoffs.

Pronto, empezaron a sufrir un declinamiento progresivo. Luego de un arranque de temporada con un récord de 10–9, el equipo se vio sorprendido por la repentina renuncia del entrenador Van Gundy. Don Chaney fue contratado como nuevo entrenador y llevó el equipo a un récord al final de la temporada de 30–52, provocando que por primera vez desde la temporada 1986–87, no clasificaran para los playoffs.

Intentaron armar un equipo competitivo en la temporada 2001–02 mediante una serie de contrataciones y cambios. Entre los jugadores contratados estaban Shandon Anderson y Howard Eisley, ambos con abultados contratos a largo plazo. Estos movimientos fueron criticados por diversos analistas y fanáticos del equipo, no solamente porque consideraban que estos jugadores estaban siendo sobrevalorados en relación con sus recientes actuaciones sino que además ocupaban gran parte del límite salarial. Se notó una leve mejoría en el equipo pero la temporada 2002–03 no fue exitosa y nuevamente se quedaron fuera de la postemporada.

2003-presente

Luego de un comienzo de 15–24 en la temporada 2003-04, el equipo entró en un profundo recambio, tanto en sus directivos como sus jugadores. Isiah Thomas fue nombrado como presidente el 22 de diciembre de 2003 en remplazo de Scott Layden, y contrató como entrenador a Lenny Wilkens en lugar de Don Chaney. Al mismo tiempo, Thomas realizó un gran recambio de jugadores, incluyendo la contratación del base estrella Stephon Marbury. Clasificaron a los playoffs ese año con un récord de 39–43, pero fueron barridos por los New Jersey Nets en la primera ronda.

La temporada 2004-05 fue menos exitosa que la anterior, logrando un récord de 33–49. Wilkens renunció en el transcurso de la temporada, y Herb Williams asumió como entrenador interino por el resto de la misma. Durante el receso, firmaron un contrato con Larry Brown por $50 millones a 5 años, con la esperanza de que los lideraría nuevamente a los playoffs.

La nómina de pago de los Knicks es actualmente la más alta en la liga con cerca de $130 millones, pero el equipo está entre los peores de la NBA, habiendo finalizado la temporada 2005-06 con un pobre récord de 23-59 y con la renuncia de Larry Brown que poseía una costosa compensación de $18.5 millones.

Los Knicks ganaron 10 encuentros más en la temporada 2006-07, y quedaron afuera de los playoffs en la última semana de la temporada.