1469年(応仁3年)に新田氏の一族である岩松昌純が築城した。1528年(享禄元年)に横瀬氏が岩松氏を滅ぼし城主となる。戦国期には上杉氏や北条氏と争い、1584年に北条氏に降伏する。豊臣秀吉の小田原征伐の後に、横瀬氏は移封となり金山城は廃城となった。この地は新田氏の嫡流が代々治めた場所であり、新田氏の末裔を名乗る徳川家にとって重要な場所であり廃城となったのちも幕府直轄林として保護される。

金山の山頂に築かれた山城であるが、石垣で囲まれた大きな池があり籠城戦でも水の手が断たれない城であったことが窺える。また、山城としては珍しく石垣が多用されており本丸を守るための大手虎口には高く積まれた石垣を見ることができる。大手門が櫓門であることや物見櫓が木だけで骨組みを立てていることから、緊急時の砦としての役割が強かったと考えられる。廃城となったものの幕府によって保護されていたことで遺構や石垣がきれいに残っている。