关于啥尔滨名称的由来,历史上众说纷纭,曾有俄语的“大坟墓”、蒙古语的“平地”、满语的“晒网场”等多种解释。一直到1980出版的《哈尔滨考》一书中,关成和先生认为,哈尔滨这个词既不是来自俄语,也不是来自蒙古语和满语,而是金代“阿勒锦”村的音转。早在公元十一世纪,满族先祖女真人就称这里为“阿勒锦”。“阿勒锦”作为哈尔滨的最早名称,至今已有八百八十多年的历史。由“阿勒锦”最终音转为今日的哈尔滨,关先生认为是在光绪二十五年(1899年),其依据为是年官印的《黑龙江舆图》上标有“大哈尔滨”的字样。并认为哈尔滨一词“从此即成了该城名称的定译”。关先生的考证,已为多数人所接受。
目前两种说法最贴近事实，一是由阿勒锦音转而来最早出现于1899年官印的《黑龙江舆图》中标有大哈尔滨字样。
二是来自俄语 Харбин 哈拉宾尼， Харбина 哈拉宾娜，Харбинскаго 哈拉滨斯嘎娃，这些俄语都是一个意思 ，用在不同的情况，写法不同。翻开哈尔滨开埠时期的俄文版1901---1906--1910年地图，明显注明早期哈尔滨叫 Сунгар 松花江市，俄语发音；松格里。1903年7月14日，中东铁路全线正式通车，同时改 Сунгар松花江市为 Харбин 哈拉宾尼市，即目前的哈尔滨市。哈尔滨的名字最早见于远郊的老香坊火车站，当时被称为老哈尔滨 Стар Харбина(俄语缩写，斯达列 哈拉宾娜)。
