金山乡隶属呼玛县管辖。位于县境东部，黑龙江西岸，东与俄罗斯隔江相望，南与呼玛镇毗邻。乡政府驻地南距县城48公里。

于原驻地金山村名。金山村，原名“金山口”。清末，由于兴隆沟等金矿的大量开採，矿工、商民剧增，此地遂成为金矿出入的重要通道，故名“金山口”。为加强边防，1909年12月（清宣统元年十一月），于金山口（亦称库口）设定呼玛尔河总卡官，管辖上下卡伦，由瑷珲兵备道统辖。中华民国初年，划归呼玛厅设治局管辖，并为治城。1914年7月，呼玛“改局为县”，将金山口改为金山镇。1916年4月，将呼玛县署正式迁至古站新县城。东北沦陷时期，为金山镇保。1945年“九三”战争胜利后，1947年设定金山区，后改为第二区。1956年撤区划乡，设定金山乡。1958年9月，改称金山人民公社，翌年併入兴华公社。1961年从兴华公社划出，恢复金山公社。1966年公社驻地由金山大队迁至新街基。1984年初，改为金山乡。

金山乡全境为沿黑龙江岸的狭长形状，土壤肥沃，资源丰富。全乡总面积899．25平方公里。县属金山林场，生长着大片樟子松母树林，是樟子松种子主要产区之一。有耕地4．5万亩，主要种植小麦、大豆等。该乡是呼玛县的农牧渔业区，盛产鲤鱼和“三花五罗”。全乡共辖新街基、兴胜、前进、翻身屯、三间房、察哈彦、友谊、金山等8个村。1992年末全乡总人口2250人。乡政府驻地新街基。

2009年金山乡行政区划及城乡划分代码

232721 呼玛县

232721201 金山乡

232721201200 220 金山村

232721201201 220 翻身屯村

232721201202 220 三间房村 232721201203 220 友谊村

232721201204 220 察哈彦村

232721201205 210 新街基村