金山区源名于海中大小金山，明朝以前，这里称小官镇。明朝时为防倭寇骚扰，开始在这里筑建卫城，因卫城与海中的大小金山相对，故取名“金山卫”。
到了清朝雍正年间在这里设县时，便取用了“金山”之名。金山之名一直沿用至今。
