克东县是全省较小的县份之一，建置较晚，但从远古时代开始就有人类活动，迄今已有四、五千年的历史（有1979年对二克山考古时采集到的文物为证）。金代在此设有相当于现在省一级建制的蒲峪路，管辖范围南至上京（今阿城市）670里，东南至胡里改路（今依兰县）1400里，北至北边界火鲁火疃谋克3 000里（今俄罗斯境内），西至嫩江（《金史·地理志》），总面积超过今天东北三省的总和，现存治所遗址在金城乡古城村，共有6位节度使（从三品官员）主持地方军政事务。清朝中期以前这里是荒僻边陲，人迹寥落星疏。光绪32年（1907年），黑龙江将军程德全派东布特哈总管陈福龄勘放招垦，从博尔多（今讷河市）至通肯城（今海伦市）设驿站数处，克东境内乌裕尔河北岸设有四站（今克东县宝泉镇永丰村）。中华民国元年（1912年）设克山镇（今克东镇），为讷河理事通判厅管辖的一个行政区，称农字段警察十二区。中华民国四年（1915年）设克山设治局（今克山县），据康德三年《克东县政概要》载，因民间认为二克山有风水，当时克东民间商界仁人志士遂到省府请愿，要求设治、修齐齐哈尔到二克山的铁路(也就是我们小时候所说的北城壕，其实是齐克铁路路基),故克山设置局改设于现克东镇位置（辖三站，即现在的克山县）。第一任县知事叫薛翘如，此人乃三站(现克山)人士，当年克东遭受自然灾害，无力捐建衙署，薛便到三站（今克山县）设署，于是，克山镇（今克东镇）划归克山设置局管辖，称克山第二区，也称二克山镇。这就是为什么现在的克山县无山却叫克山，原来，这个“山”是指克东境内的二克山。中华民国十八年（1929年），二克山镇由克山划出，成立克东设治局。伪满大同二年（1933年),日军侵占克东后，取消克东设治局改为克东县公署。伪满康德十二年（1945年）日本投降，成立克东地方维持会。是年11月7日中国共产党接收克东，成立克东县民主政府。中华人民共和国建立后，改称克东县人民政府，归黑龙江省直接管辖。1955年划归嫩江地区，1960年归属齐齐哈尔市，1961年重归嫩江地区，1985年再归齐齐哈尔市。