汉武帝元狩二年夏（公元前121年），19岁的骠骑将军霍去病与合骑侯公孙敖率领数万骑兵分两路进军陇西，直捣匈奴所在的祁连山腹地。出兵不久，公孙敖部迷路失去了联系，霍去病独自率数万精锐骑兵，孤军深入河西数千里，在祁连山歼灭匈奴主力三万余人，俘虏匈奴五王，五王母，单于阏氏、王子五十九人，相国、将军、当户、都尉六十三人，长期游牧在河西地区的匈奴浑邪王和休屠王投降汉朝，匈奴的势力受到了一次极大的打击，取得了第二次汉匈河西之战的胜利。《西河旧事》中记载当时背井离乡的匈奴人凄凉地唱道：“失我焉支山，使我妇女无颜色；失我祁连山，使我六畜不蕃息”。自此之后，河西走廊纳入了大汉版图，汉武帝随后设立了河西四郡，并在河西走廊西端分别设立了玉门关和阳关管辖丝路南北两线，史称“列四郡，据两关”。
据《汉书·卫青霍去病传》记载，汉武帝对第二次河西之战的战果非常满意，下诏称赞霍去病:“骠骑将军涉钧耆,济居延,遂臻小月氏,攻祁连山,扬武乎鱳得（音路得）。” 钧耆推测为今山丹县东乐镇的山丹河，居延应为张掖城西的黑水河，而鱳得则是当时附属于匈奴的小月氏聚集之地，位于现在张掖市城西10公里处，黑水河在其东侧静静流过，现在被称为“黑水国遗址”，因是张掖城的前身，也被称为“老甘州”（甘州为张掖旧称）。
黑水国遗址分为南北二城，两城均位于黑水河西岸，相距约2.5公里。除了城门略有差异之外，面积形制基本相同，但二城建筑年代相差较大，北城修筑时间较早，受黑河河道侵蚀以及风沙影响，保存状况较差；南城修筑时间较晚，因此保存得相对较好。
【北城】
【南城】
北城始建于秦汉时期，最早为归附了匈奴的小月氏聚集之地鱳得，霍去病取得第二次河西之战的胜利后，西汉政府在此设立鱳得县，随后成为张掖郡治所，推测北城即在此期间所筑。北城延用了约700年左右，隋朝时期隋炀帝击败吐谷浑收复河西之后，张掖郡治由此向东南移至今张掖市区，北城逐渐废弃。
北城遗址轮廓清晰，整体近似为方形，东西宽约240米，南北长约220米，四面墙体均未筑马面，城门位于南墙中部，无瓮城。
【北城】
【北城城墙】
【北城城门】
北城西南部已被一座巨大的沙丘吞噬，侵占了城内三分之一的面积，西墙南侧的城墙已被沙丘所掩埋，独留一座角墩傲然屹立在沙丘之上，像一个哨兵一样守护着古城两千余年。南、东、北三侧的城墙遗迹较为明显，高度在1-3米不等，从远处看，断断续续的城墙像是一列驼队在负重远行。城墙均为夯土板筑，层高约15cm，城墙外侧遍布黄沙，部分黄沙已与城墙持平。城内已被种上了胡杨树，无建筑物留存。因为毗邻黑水河，地下水丰富，虽然北城被沙丘侵蚀，但北城遗址周围遍布农田，地里现在都种着玉米，只不过由于蒸发量过大，都采取了覆膜滴灌的方式。这里也是中国最著名的玉米种子种植基地之一。
【北城沙丘】
【北城城墙】
【北城角墩】
【北城城门夯土层】
南城在北城南侧约2.5km处，以312国道为中轴，与北城近似相互对称。南城约建于唐朝，唐代在此设立了巩笔驿，是张掖通往河西走廊西部的第一座驿站；巩笔驿后被西夏和元朝沿用，元代在此设立过“巴剌哈孙驿”，民间称之“西城驿”，因此这里也被称作“西城驿沙窝”，沙窝就是风沙囤积之地。明朝在此设立“小沙河驿”，随着风沙的逐步侵蚀，南城周围被黄沙围困，明清后南城也最终被废弃。
【南城】
南城面积与北城相当，整体呈方形，东西宽约245米，南北长约220米，四面城墙均未筑马面，东北角则建有一座硕大的角墩，高约十米，与北城西南角的角墩遥遥相对。城门开在东墙中部，建有瓮城，这也是南城与北城在形制上最大的区别。
【南城东城墙、城门、瓮城、角墩】
【角墩】
瓮城是为了加强城池或关隘的防守，而在城门外修建的半圆形或方形的护门小城，属于城墙的一部分。瓮城两侧与城墙连在一起建立，常常设有箭楼、门闸、雉堞等防御设施。瓮城城门通常与所保护的城门不在同一直线上，以防攻城槌等武器的进攻。唐朝之前的古城一般不设瓮城，唐朝时开始在一些城池的城门处建造瓮城，到五代及宋以后，瓮城成为城门的常规建筑，因此瓮城也成为区分汉唐古城的一个重要的依据。
【南城城门及瓮城】
【南城】
角墩是古代城市的警报系统，一般建在城墙的四角，部分建在城墙外围（如建于明代晚期的永泰古城，角墩建于城外40米处）。除了居高临下可以远距离观察敌情之外，还可以兼作烽燧的功能，即“白天燃烟为烽，夜间点火为燧”，一旦发现敌情，士兵即可以通过烽火来传递敌人信息，与其他烽燧形成联动。
【永泰古城】
可能是因为修筑以及废弃时间较晚的原因，南城要比北城保存得完好许多，四面的城墙几乎没有间断。城墙残高约3-6米，也为夯土板筑，夯层较北城略厚。四围城墙内外均遍布黄沙，可能因为风向的原因，西墙和北墙外部堆积的沙层尤厚，平均高度达到了城墙的三分之二，有些地方的沙层甚至达到了城墙的顶端。
南城内部也无任何建筑物遗址留存，到处都是砖砾，砖砾形状并不规则，分不清是何年何月的遗存。砖砾被现代人摆了许多规则的图形，成为了古城废墟中一道独特的风景。
【南城内砖砾图案】
【南城内砖砾图案】
两座古城周边遍布约4平方千米的汉代墓葬群，多数墓葬已被黄沙湮没，凡未被黄沙掩埋者，大部分也在解放前被盗掘。
需要说明的是，在黑水河的下游内蒙古额济纳旗境内也有一个著名的遗址，叫黑水城遗址，属于西夏时期的遗址，至今有九百多年的历史，而黑水国则有两千多年的历史。详情参见：
一座古城掩埋着西夏历史，古塔中的女性骸骨究竟是谁——黑城遗址
参考资料：
《汉书·卫青霍去病传》
《西河旧事》张澍 辑本
《甘州府志》