基于Hadoop的表级监管

现状

大数据平台中，采用hadoop的方式存储数据，hdfs本质上是文件系统，而文件系统对数据的监管能力有限，但是数据安全领域问题日渐凸显，现目前，大数据平台一般以分层结构进行授权，但是对于一线开发人员而言，是能够接触到整个大数据平台中的所有表的，那么如何实现这样一个表的结构和数据的权限控制流程就显得尤为重要。

HDFS的数据节点

节点存储

对于每个hdfs存储节点而言，存储节点被称为数据节点（Data Node）。数据节点负责实际存储数据块并执行数据的读写操作。

1. 数据块存储： HDFS将大文件切分成固定大小的数据块（通常为128MB或256MB）。这些数据块会被分布存储在不同的数据节点上。

2. 数据冗余： HDFS使用数据冗余机制来保障数据的可靠性和容错性。每个数据块的多个副本会被存储在不同的数据节点上，通常是默认的3个副本。这些副本的分布有助于防止数据丢失。

3. 块的复制： 当客户端写入数据到HDFS时，数据首先会写入本地数据节点。然后，数据块的副本会被自动创建并复制到其他数据节点，通常是在不同的机架上，以减少机架级别的故障对数据的影响。

4. 心跳和报告： 数据节点会定期向HDFS的主节点（Name Node）发送心跳信号，以通知其存活状态。此外，数据节点会发送块报告，其中包含它所持有的所有数据块的信息。这些信息帮助主节点跟踪数据块的位置和复制状