1628年，荷兰人从印第安人手里抢占了曼哈顿岛，1658年，荷兰统治者皮特根据他家乡的名字把这里命名为“新哈林区”。哈林区和它周边的城市一样，也是一个移民地区，在18世纪和19世纪早期，一些名人，包括亚历山大·汉密尔顿，都在哈林区建造豪宅，这些建筑至今依然矗立着。 共5张 哈林区
19世纪后期，由于铁路运输的改善，使人们可以从曼哈顿最南端的市政厅一直坐火车到哈林区，于是许多上班族选择在这里居住。同时，新教徒贵族们在莫里斯山公园建造了联排别墅。此后迁居哈林区的人多与政治和宗教有关，有罗马的天主教徒，也有典型的犹太人家庭，《纽约时报》出版人的祖父苏兹贝格那时也在哈林区居住过。但自从非洲裔移民开始进入哈林区，白人就开始大量迁出了。
20世纪20年代，哈林区复兴的主要标志是爵士乐和文学，并逐渐出现了一些专职的黑人医生、律师和建筑师。虽然如此，非裔美国人在哈林区仍然受到限制，黑人一般都是给白人打工，取悦白人。
1913年建成的阿波罗剧院直到1934年才对黑人观众开放。棉花俱乐部是另一个著名的音乐演奏场所，那的一幅壁画上画着农场里劳作的黑奴，之所以挂这幅壁画，就是让白人观众有一种优越感，让他们觉得黑人在取悦他们。
哈林区的黑人在工作上也毫无选择权，他们在白人的杂货店里打杂。这些不平等待遇直到20世纪30年代亚当·鲍威尔发起了联合抵制运动才有所缓和，他们打出标语称“如果你不能在那工作，那么不要在那买东西”。直到1944年，鲍威尔当选为议员，哈林区的黑人才取得了国会代表的席位。1992年，克林顿签署了授权法案，该法案为哈林区地区投入了3亿美元的资金，用于发展商业、教育和文化项目。
哈林区虽是个地理坐标，但更确切的说是一种情感概念。从这种意义上讲，位于西160大街埃齐库姆大道的莫利斯大宅也可以说是哈林区的一部分，虽然严格上来讲它归155大街以北的行政区域管辖。它是这片殖民地的第一所八角形房子，也是曼哈顿现存最古老的建筑。在1765年独立战争时期，乔治·华盛顿曾把它作为指挥部。这所庄严的房子，在感觉上很像哈林区。如果你在星期日傍晚站在广场的橡树下，就会有一种身在哈林区的感觉。一栋三层楼的公寓里飘出的爵士乐弥漫整个街道，一位女士请来了爵士乐团正在公寓的草坪上演奏。
在哈林区第一次复兴时，夜总会就在这里消失了。在第七大道立了一块匾，以纪念从前的“乐足之家”俱乐部，那里现在是一个房地产开发项目，而著名的棉花俱乐部的原址却没有任何标记。现在的西125大街上仍然有一个棉花俱乐部，但那只是为了满足大批游客的缅怀需要，只播放礼拜日教堂里的赞美诗之类的音乐。
阿波罗剧院也在精神上衰败了，尽管每星期三晚上的业余演奏会依然很受欢迎。1992年，阿波罗剧院的翻修计划曾被取消，现在投资5300万的翻修工程正在进行。