默而识之者
默而识之者

How it works(20) Geotrellis是如何在Spark上计算的(A) 数据读取

1. 引入

我们会使用Geotrellis自然是因为它能利用spark进行高效的分布式计算,而分布式计算无论在数据读取还是计算上都与常规计算有许多不同.

我们就以计算一张影像的NDVI结果为例,看看Geotrellis是如何在spark上读取计算的:

package demo

import geotrellis.layer._
import geotrellis.util._
import geotrellis.spark._
import geotrellis.spark.store.hadoop.HadoopGeoTiffRDD
import geotrellis.raster._
import geotrellis.raster.io.geotiff._
import geotrellis.raster.ResampleMethods.NearestNeighbor
import org.apache.spark._
import org.apache.hadoop.fs.Path

object MyApp extends App {

    val sparkConf: SparkConf = new SparkConf().setMaster("local[4]").setAppName("ndvi")
    implicit val sc: SparkContext = new SparkContext(sparkConf)
    // 1. 数据读取
    val geoTiffRDD = HadoopGeoTiffRDD.spatialMultiband(new Path("/Users/temp/clip.tif"))
    // 2. 提取数据集的元数据并转换索引
    val (_, metadata) = geoTiffRDD.collectMetadata[SpatialKey](FloatingLayoutScheme())
    val tiledRDD = geoTiffRDD.tileToLayout[SpatialKey](metadata, NearestNeighbor)
    // 3. 计算NDVI
    val raster = tiledRDD.withContext { rdd =>
      rdd.mapValues { tile =>
        tile.convert(DoubleConstantNoDataCellType).combineDouble(0, 1) { (r, nir) =>
          (nir - r) / (nir + r)
        }
      }.reduceByKey(_.localMax(_))
    }.stitch
    // 4. 写入结果
    GeoTiff(raster, metadata.crs).write("/Users/temp/ndvi.tif")
}

代码分为四个步骤:

  1. 数据读取
  2. 提取元数据
  3. 计算NDVI
  4. 写入结果

按顺序我们先从数据读取开始.

这部分的主体是HadoopGeoTiffRDD.spatialMultiband方法,整理后代码如下:

[代码位于HadoopGeoTiffRDD.scala]

  def apply[ProjectedExtent, ProjectedExtent, MultibandTile](
    path: Path = new Path("/Users/temp/clip.tif"),
    uriToKey: (URI, I) => K = (_: URI, key: MultibandTile) => key,
    options: Options = Options.DEFAULT,
  )(implicit sc: SparkContext, rr: RasterReader[Options, (ProjectedExtent, MultibandTile)]): RDD[(ProjectedExtent, MultibandTile)] = {

    val conf = new SerializableConfiguration(configuration(path, options))
    val pathString = path.toString 
    
    // 初始化读取器(没有实际动作)
    val infoReader = HadoopGeoTiffInfoReader(pathString, conf, options.tiffExtensions)
    
    // 1. 读取影像数据地址
    val files: RDD[URI] =infoReader.geoTiffInfoRDD.map(new URI(_))
    
    // 2. 实际读取影像数据
    infoReader.readWindows(
      files,
      uriToKey,
      maxTileSize,
      options.partitionBytes.getOrElse(DefaultPartitionBytes),
      options,
      geometry)
  }

代码分为两个步骤:

  1. 读取影像数据地址:从HDFS中读取目录中全部影像文件的URI
  2. 实际读取影像数据:调用readWindows方法,将URI读取为RDD[(ProjectedExtent, MultibandTile)]

按顺序我们先从读取影像数据地址开始.

2. 读取影像数据地址

读取数据是计算的起点,而分布式计算往往需要分布式的存储介质.在本例中存储介质是默认的HDFS.

这部分的主体是infoReader.geoTiffInfoRDD方法,整理后代码如下:

[代码位于HadoopGeoTiffInfoReader.scala]

def geoTiffInfoRDD(implicit sc: SparkContext): RDD[String] = {
    // 4. 将数组转换为RDD数组
    sc.parallelize(
        // 1. 列出该目录下全部文件
        HdfsUtils.listFiles(new Path(path), config.value)
        // 2. 转换为字符串
        .map({ path => path.toString }) 
        // 3. 筛选影像文件
        .filter({ path => tiffExtensions.exists({ e => path.endsWith(e) }) })
    )
}

代码分为四个步骤:

  1. 利用HDFS提供的接口,获取某个目录下下全部文件.
  2. 因为HDFS接口返回的是Path类型对象,因而需要提取里面的字符串,方便后面使用.
  3. 根据后缀名筛选影像文件.
  4. 将数组并行化,转换为RDD数组.

我们可以提出两个问题:

  1. Geotrellis规划数据的思路为何?
    • 从代码中不难看出,Geotrellis从一开始就关注于数据集,在HDFS中,数据集就是特定的文件夹(尽管单个文件路径也支持),这样处理大量数据时,我们就无需将他们的文件名一一指明.
  2. 为何要先读取影像的地址,而不是直接读取数据?
    • 在这一阶段Geotrellis并没有进行分布式读取,获取需要处理的全部影像的实际路径是在单节点完成的低成本操作,无需也不应该并行化.
    • 先整理好要处理的影像,将其转换为RDD数组,有了RDD对象,Geotrellis就能使用Spark进行操作了.在后面我们也能看到这种思路.即先规划任务,再实际执行计算.

准备好待处理的影像地址,就可以实际读取影像数据了.

3. 实际读取影像数据

实际读取影像就是我们要了解的核心功能了.我们要尝试回答一个最根本的问题:Geotrellis如何实现分布式的数据读取的?

这部分的主体是infoReader.readWindows方法,整理后代码如下:

[代码位于GeoTiffInfoReader.scala]

def readWindows[O, I, K, V](
    files: RDD[URI],
    uriToKey: (URI, I) => K,
    maxSize: Int = 256,
    partitionBytes: Long = 128 * 1024 * 1024,
    rasterReaderOptions: O,
    geometry: Option[Geometry]
  )(
    implicit sc: SparkContext, rr: RasterReader[O, (I, V)]
  ): RDD[(K, V)] = {
    
    // 2. 规划读取窗口
    val windows: RDD[(URI, Array[GridBounds[Int]])] =
      files.flatMap({ uri =>
        windowsByPartition(
          info = getGeoTiffInfo(uri.toString),// 1. 读取影像信息
          maxSize = maxSize,
          partitionBytes = partitionBytes,
          geometry = geometry
        ).map { windows => (uri, windows) }
      })
    
    // 为了减少重复读取操作,进行持久化
    windows.persist()
    
    // 如有必要则重分区
    val repartition = {
      // 代码中的第一个action算子,实际计算从此开始
      val windowCount = windows.count.toInt
      // 如果规划的分区数大于实际的分区数,则按照我们规划的分区数来重分区
      if (windowCount > windows.partitions.length) {
        windows.repartition(windowCount)
      }
      else windows
    }
    
    // 3. 开始读取数据
    val result = repartition.flatMap { case (uri, windows) =>
      val info = getGeoTiffInfo(uri.toString)
      rr.readWindows(windows, info, rasterReaderOptions).map { case (k, v) =>
        uriToKey(uri, k) -> v
      }
    }
    
    // 取消持久化
    windows.unpersist()
    result
}

代码分为三个主要步骤:

  1. 读取影像信息.
  2. 规划读取窗口.
  3. 开始读取数据.

按照顺序,我们从读取影像信息开始.

3.1 读取影像信息

这部分的主体是getGeoTiffInfo方法,整理后代码如下:

[代码位于HadoopGeoTiffInfoReader.scala]

def getGeoTiffInfo(uri: String): GeoTiffInfo = {
    // 1. 创建HDFS块读取器,读取指定数据
    val rr = HdfsRangeReader(new Path(uri), config.value)
    
    // 准备ovr参数
    val ovrPath = new Path(s"${uri}.ovr")
    val ovrReader: Option[ByteReader] =
      if (HdfsUtils.pathExists(ovrPath, config.value)) Some(HdfsRangeReader(ovrPath, config.value)) else None
    
    // 2. 读取影像信息
    // HDFSRangeReader通过隐式转换,转换为所需的StreamingByteReader类型
    GeoTiffInfo.read(rr, streaming, true, ovrReader)
}

代码分为两个步骤:

  1. 创建HDFS块读取器(RangeReader).
    • 在分布式的存储机制中,一般都会采取块读取的方式,因为相比本地读取,有固定的时间成本花在了建立网络连接上下文上,因此应尽量减少读取频次,提高单词读取量,即以"块"为读取粒度.采用合适大小的块可以取得资源占用与效率的平衡.
  2. 调用GeoTiffInfo.read读取元数据.
    • 代码中存在将RangeReader(块读取)转换为ByteReader(Byte读取)的逻辑.其实现比较复杂,在此不展开,但核心思想较为简单:把块读取包装为具有缓冲区的流读取,底层读取一个块,上层读取该块中的字节,读完了底层就再读一个块,上层接着读取接下来的字节,这样对于上层的使用者来说其行为与标准Byte读取无异,只是读取速度时快时慢而已.
    • 值得一提的是,最终返回的GeoTiffInfo对象,其默认为streaming模式,即按需读取模式,这个配置使得后面读取影像实际值时效率更高.

准备好影像的元数据信息,就可以调用规划读取窗口的方法了.

3.2 规划读取窗口

实际读取的过程依然符合前述的先规划任务,再实际执行计算思路,因此要先规划读取任务.

这部分的主体是windowsByPartition方法,整理后代码如下:

[代码位于GeoTiffInfoReader.scala]

  private def windowsByPartition(
    info: GeoTiffInfo,
    maxSize: Int,
    partitionBytes: Long,
    geometry: Option[Geometry]
  ): Array[Array[GridBounds[Int]]] = {
    
    // 1. 列出全部的window
    val: Array[GridBounds[Int]] windows = info.segmentLayout.listWindows(maxSize)
    
    // 2. 对window分组
    info.segmentLayout.partitionWindowsBySegments(windows, partitionBytes / math.max(info.cellType.bytes, 1))
  }

代码分为两个步骤:

  1. 根据影像的元数据,列出全部的Window.
  2. 将这些Window对象进行分组,形成若干Window集合

按照顺序,我们先从列出全部Window开始

3.2.1 列出全部Window

这部分的主体是info.segmentLayout.listWindows方法,整理后代码如下:

[代码位于GeoTiffInfoReader.scala]

def listWindows(maxSize: Int): Array[GridBounds[Int]] = {
    // 回顾读取元数据的部分:
    // tileCols/Rows代表一个Segment的一列/行有多少个像素
    val segCols = tileLayout.tileCols
    val segRows = tileLayout.tileRows
    
    //1. 计算一个window的大小
    val colSize: Int =
      if (maxSize >= segCols * 2) { 
        // 如果实际的Segment的tilescol小于等于128,colsize取不大于256的tilecols的最大倍数.
        math.floor(maxSize.toDouble / segCols).toInt * segCols
      } else if (maxSize >= segCols) {
        // tilecols在128-256之间则取tilecols实际值
        segCols
      } else //tilecols大于256,则取tilecols不大于256的最大约数
      bestWindowSize(maxSize, segCols)

    val rowSize: Int =
      if (maxSize >= segRows * 2) {
        math.floor(maxSize.toDouble / segRows).toInt * segRows
      } else if (maxSize >= segRows) {
        segRows
      } else bestWindowSize(maxSize, segRows)
    
    // 2. 根据计算的大小生成window集合
    val windows = listWindows(colSize, rowSize)

    windows
}

def listWindows(cols: Int, rows: Int): Array[GridBounds[Int]] = {
    // 给全部window预留位置
    val result = scala.collection.mutable.ArrayBuilder.make[GridBounds[Int]]
    result.sizeHint((totalCols / cols) * (totalRows / rows))
    // 双层遍历生成全部的GridBounds
    // 这种先从上到下,再从左到右的window排布方式并不符合一般数据在Tiff文件中的实际排布
    // 但因为Tiff文件并没有限定通过何种排列方式,因此不能假定其实际顺序
    cfor(0)(_ < totalCols, _ + cols) { col =>
      cfor(0)(_ < totalRows, _ + rows) { row =>
        result +=
          GridBounds(
            col,
            row,
            math.min(col + cols - 1, totalCols - 1),
            math.min(row + rows - 1, totalRows - 1)
          )
      }
    }
    result.result
}

代码分为了两个主要部分:

  1. 根据元数据中的Segment信息计算一个Window的合适大小
    • 所谓Window,即一个GridBounds对象.GridBounds可以通过起始位置和结束位置描述Geotiff数据中一片特定的区域,也包含了一些常用的空间判断和空间交互方法,方便使用.

    • Window的尺寸是根据Segment尺寸计算而来的.理论上Window与Segment的尺寸关系会存在以下9种:


      • 红框为window,黑框为Segment
      • maxSize取默认值为256:
        • 112 代表maxSize >= seg * 2的情况
        • 192 代表 maxSize/2 < seg < maxSize的情况
        • 272 代表 maxSize < seg 的情况
      • 按对应关系,又可以分为以下4种:
        • 一个Segment只对应一个window(最理想,最简单的情况,表中192x192)
        • 一个Segment对应多个window(表中272x272/192x272/272x192)
        • 一个window对应多个Segment(表中112x112/112x192/192x112)
        • 多个window对应多个Segment(最复杂,表中112x272/272x112)
  2. 根据计算的大小生成全部Window,这些Window集合所描述的全部区域,就是整个影像的区域.

我们可以提出两个问题:

  1. 为什么Geotrellis要定义Window这样一个概念?
  2. Segment本身也可以描述Geotiff中一片特定区域.为何不直接使用Segment的尺寸,而是要按一定方法重新规划尺寸呢?

这两个问题的解答来自下面的小节.

3.2.2 按分区限制对window集合分组

为什么要分组?我们不能忘记我们的目的:我们要为实际分布式读取数据规划读取窗口.

在spark中如何高效的计算?我们需要保证spark中每个分区的计算量相似,即保证每个分区处理的数据量是相似的.这就是对Window集合分组的意义:给每个分区分配合适的读取任务.

我们可以提出一个问题:怎么样分配才算合适呢?

这部分的主体是info.segmentLayout.partitionWindowsBySegments方法,整理后代码如下:

[代码位于GeoTiffInfoReader.scala]

// 按spark分区尺寸限制划分window
// 本例中partitionBytes使用spark默认的单个分区最大字节数
info.segmentLayout.partitionWindowsBySegments(windows, partitionBytes / math.max(info.cellType.bytes, 1))

def partitionWindowsBySegments(windows: Seq[GridBounds[Int]], maxPartitionSize: Long): Array[Array[GridBounds[Int]]] = {
    val partition = mutable.ArrayBuilder.make[GridBounds[Int]]
    partition.sizeHintBounded(128, windows)
    var partitionSize: Long = 0l
    var partitionCount: Long = 0l
    val partitions = mutable.ArrayBuilder.make[Array[GridBounds[Int]]]

    def finalizePartition() {
      val res = partition.result
      if (res.nonEmpty) partitions += res
      partition.clear()
      partitionSize = 0l
      partitionCount = 0l
    }

    def addToPartition(window: GridBounds[Int]) {
      partition += window
      partitionSize += window.size
      partitionCount += 1
    }
    
    // 描述整个影像区域的GridBounds
    val sourceBounds = GridBounds(0, 0, totalCols - 1, totalRows - 1)

    // 1. 对window进行重新排序
    val sorted = windows
      .filter(sourceBounds.intersects) // 只筛选与影像相交的window
      .map { window =>
        // 反算与window对应的Segment的序号(SegmentIndex)
        window -> getSegmentIndex(col = window.colMin, row = window.rowMin) 
      } 
      .sortBy(_._2) 
    
    // 2. 根据分区限制对Window集合进行分组
    for ((window, _) <- sorted) {
      if ((partitionCount == 0) || (partitionSize + window.size) < maxPartitionSize) {
        addToPartition(window)
      } else {
        finalizePartition()
        addToPartition(window)
      }
    }

    finalizePartition()
    partitions.result
  }

代码分为两个步骤:

  1. 对筛选后的Window进行重新排序.
    • 根据window所代表的区域反算SegmentIndex,按SegmentIndex排序.
    • Window集合的默认顺序来自于listWindows,可能并非按SegmentIndex排序,SegmentIndex是数据存储的顺序,按这个顺序读取相当于顺序读取,理论上是最高效的.
  2. 根据分区限制为Window集合分组
    • 将全部window划分为连续的若干组,每一组内全部Window描述区域数据所占的体积都最接近spark分区尺寸极限.

现在我们可以回答上节提出的问题了:

  1. 为什么Geotrellis要定义Window这样一个概念?
    • Window是我们读取数据的粒度描述,它通过一定的策略保障了我们在每一个节点都处理接近分区上限的数据.没有这一中间概念,我们无法规划如何高效的分布式读取数据.
  2. 定义Window的时候为何不直接使用Segment的尺寸,而是要按一定方法重新规划尺寸呢?
    • 直接原因就是:如果使用Segment原本的尺寸,在保证安全的情况下可能会造成巨大的空间浪费.
    • 在listwindow方法中我们确定了window的尺寸,无论是长还是宽,都在128-256之间.这与我们使用的默认分区大小128MB(128 * 1024 * 1024)和Tiff6.0限定尺寸必须为16的倍数是相关的,由于Window是我们规划读取数据的粒度,只能完整读取整个Window的数据,合适的Window尺寸能保证我们能在不超过分区尺寸限制的情况下尽可能多的读取数据.
    • 如果我们按照Segment的实际尺寸设定window的尺寸,极端情况下会出现这种情况:一个巨大的Window所包含数据的体积恰好比分区限制的一半大一点,因为要保证不超限制,又不能读取不完整的window,只能让该分区浪费接近一半的空间,只读取一个window.
    • 采用特定的策略计算windwos的长宽尺寸,将其控制在128-256之间,能保证浪费的内存空间最小.

最终,通过flatMap和一些其他操作,Geotrellis得到了一个RDD[(URI, Array[GridBounds[Int]])]对象,其含义很明确:

  • 一个(URI,Array[GridBounds[Int]])元组描述某个影像的某一特定部分,这部分影像的体积能撑满一个分区空间.
  • 若干个具有相同URI的(URI, Array[GridBounds[Int]])元组描述了某个影像的全部数据
    • 最终,它们将通过spark在不同的分区并行读取特定的部分.
  • 全部(URI, Array[GridBounds[Int]])描述了全部影像及他们各自全部的分区.

至此,规划读取窗口的工作就做完了,可以进行实际读取了.

3.3 开始读取数据

我们再来回顾一下开始读取数据的代码:

val result = repartition.flatMap { case (uri, windows) =>
  // 因为发生了重分区,因此需要在每个分区重新读取影像信息
  val info = getGeoTiffInfo(uri.toString)
  // 读取数据的核心,rr是一个隐式的rasterReader对象
  rr.readWindows(windows, info, rasterReaderOptions).map { case (k, v) =>
    uriToKey(uri, k) -> v
  }
}

这部分的主体是rasterReader.readWindows方法,整理后代码如下:

[代码位于RasterReader.scala]

implicit def multibandGeoTiffReader = new RasterReader[Options, (ProjectedExtent, MultibandTile)] {
    def readWindows(gbs: Array[GridBounds[Int]], info: GeoTiffInfo, options: Options) = {
      // 创建一个多波段Geotiff对象,由于使用了惰性加载,因此此时没有实际读取任何数据
      val geoTiff = GeoTiffReader.geoTiffMultibandTile(info)
      val re = info.rasterExtent
      // 读取的核心:读取传入的一系列window对象所描述的区域的数据,存入内存
      geoTiff.crop(gbs.filter(_.intersects(geoTiff.dimensions))).map { case (gb, tile) =>
        (ProjectedExtent(re.extentFor(gb, clamp = false), options.crs.getOrElse(info.crs)), tile)
      }
    }
}

这部分的主体是geoTiff.crop方法,整理后代码如下:

[代码位于GeoTiffMultibandTile.scala]

 def crop(windows: Seq[GridBounds[Int]], bandIndices: Array[Int]): Iterator[(GridBounds[Int], ArrayMultibandTile)] = {
    
    val bandSubsetLength = bandIndices.length
    
    // 1. 准备阶段
    case class Chip(
      window: GridBounds[Int],
      bands: Array[MutableArrayTile],
      intersectingSegments: Int,
      var segmentsBurned: Int = 0
    )
    
    val chipsBySegment = mutable.Map.empty[Int, List[Chip]]
    val intersectingSegments = mutable.SortedSet.empty[(Int, Int)]
    
    for (window <- windows) {
      val segments: Array[(Int, Int)] =
        if (hasPixelInterleave)
          getIntersectingSegments(window).map(i => 0 -> i)
        else
          getIntersectingSegments(window, bandIndices)

      val bands = Array.fill(bandSubsetLength)(ArrayTile.empty(cellType, window.width, window.height))
      val chip = Chip(window, bands, segments.length)
      for (segment <- segments.map(_._2)) {
        val tail = chipsBySegment.getOrElse(segment, Nil)
        chipsBySegment.update(segment, chip :: tail)
      }
      intersectingSegments ++= segments
    }
    
    // 2. 实际读取数据
    val chips =
      if (hasPixelInterleave) {
        getSegments(intersectingSegments.map(_._2)).flatMap { case (segmentId, segment) =>
          burnPixelInterleave(segmentId, segment)
        }
      } else {
        val bandSegmentCount = segmentCount / bandCount
        val segmentBandMap = intersectingSegments.map { case (f, s) => (s, f) }.toMap
        val bandIndexToSubsetIndex = bandIndices.zipWithIndex.toMap

        getSegments(intersectingSegments.map(_._2)).flatMap { case (segmentId, segment) =>
          val bandIndex = segmentBandMap(segmentId)
          val subsetBandIndex = bandIndexToSubsetIndex(bandIndex)

          burnBandInterleave(segmentId, subsetBandIndex, segment)
        }
      }

    chips.map { chip =>
      chip.window -> ArrayMultibandTile(chip.bands)
    }
  }

代码分为两个步骤:

  1. 准备阶段
  2. 实际读取数据

按顺序我们先从准备阶段开始.

3.3.1 准备阶段

这里依旧延续了先规划任务,再实际执行计算的思路.我们传入的是Window对象,而根据上一篇的经验,实际要读取数据需要的是Segment对象.因此,我们需要先规划Window对象与Segment对象的映射关系.

代码分为两部分,我们首先看一下定义部分:

// 定义辅助对象/结构
case class Chip(
    window: GridBounds[Int],
    bands: Array[MutableArrayTile],
    intersectingSegments: Int,
    var segmentsBurned: Int = 0
)

val chipsBySegment = mutable.Map.empty[Int, List[Chip]]
val intersectingSegments = mutable.SortedSet.empty[(Int, Int)]

定义辅助对象/结构如下

  • Chip:数据结构,是一个关联辅助类型.用于最终的数据读取
  • chipsBySegment:映射表,记录与某一个SegmentIndex关联的全部Chip
  • intersectingSegments:非重复数据集,记录与整片区域相关联的全部SegmentIndex.

实际执行部分:

// 遍历Window集合,填充上述的对象
for (window <- windows) {
  // 1. 计算与该window所描述范围关联的每个波段的SegmentIndex
  // segments代表[(波段Index,SegmentIndex)]
  val segments: Array[(Int, Int)] =
    if (hasPixelInterleave) // 要处理间隔方式造成的波段差异
      getIntersectingSegments(window).map(i => 0 -> i)
    else
      getIntersectingSegments(window, bandIndices)
  
  // 2. 创建chip对象
  val bands = Array.fill(bandSubsetLength)(ArrayTile.empty(cellType, window.width, window.height))
  val chip = Chip(window, bands, segments.length)
  
  // 3. 将Chip与Segment关联起来    
  for (segment <- segments.map(_._2)) {
    val tail = chipsBySegment.getOrElse(segment, Nil)
    chipsBySegment.update(segment, chip :: tail)
  }
  
  // 4. 记录全部涉及的Segment
  intersectingSegments ++= segments
}

代码分为四个步骤:

  1. 计算与该Window所描述范围关联的每个波段的SegmentIndex.
    • 因为涉及到多波段数据读取,我们需要关注波段间隔带来的读取差异,可以在这里了解不同波段间隔的差异.
    • 该步骤有两个操作:
      • 计算与该Window相对应的全部SegmentIndex(根据上表,存在一个Window对应多个Segment的情况)
      • 因为计算出来的是第一个波段的SegmentIndex,还需要根据规律计算全部波段的SegmentIndex
    • 针对多波段,需要按对应的波段间隔规律计算每一个波段对应的SegmentIndex
  2. 创建一个Chip对象.
    • bands属性为全部波段都预留了写入数据的位置
    • intersectingSegments属性记录了该Window对应多少个Segment
  3. 将Chip与Segment关联起来
    • chipsBySegment以Segment为键,就需要解决多个Chip对应同一个Segment的情况.因此在这里要使用update方法,不断融合多个Chip,保证数据完整.
  4. 记录全部涉及到的Segment
    • intersectingSegments是一个Set,因此不会包含重复数据
    • 最终我们可以根据intersectingSegments,遍历出所有对应的Chip,也就能读取到全部的数据了.

一切准备就绪,可以开始真正的读取阶段了.

3.3.2 开始读取

val chips =
  if (hasPixelInterleave) {
  
    // 从不同数据类型的数据源中根据SegmentIndex读取Segment
    getSegments(intersectingSegments.map(_._2)).flatMap { case (segmentId, segment) =>
      burnPixelInterleave(segmentId, segment)
    }
  } else {
    val bandSegmentCount = segmentCount / bandCount
    val segmentBandMap = intersectingSegments.map { case (f, s) => (s, f) }.toMap
    val bandIndexToSubsetIndex = bandIndices.zipWithIndex.toMap

    getSegments(intersectingSegments.map(_._2)).flatMap { case (segmentId, segment) =>
      val bandIndex = segmentBandMap(segmentId)
      val subsetBandIndex = bandIndexToSubsetIndex(bandIndex)

      burnBandInterleave(segmentId, subsetBandIndex, segment)
    }
  }

// 结果为[(GridBounds[Int], ArrayMultibandTile)]类型的对象
// 在后面的过程中,GridBounds[Int]被转换为ProjectedExtent类型,即我们最终需要的类型
chips.map { chip =>
  chip.window -> ArrayMultibandTile(chip.bands)
}

可以看出,这部分的主体是针对不同波段间隔的burnPixelInterleave方法.整理后代码如下:

// BIP类型
def burnPixelInterleave(segmentId: Int, segment: GeoTiffSegment): List[Chip] = {
  var finished: List[Chip] = Nil
  val segmentBounds = getGridBounds(segmentId)
  val segmentTransform = getSegmentTransform(segmentId)

  // 遍历chip
  for (chip <- chipsBySegment(segmentId)) {
    val gridBounds = chip.window
    // 获取影像中该window对应的位置
    val overlap = gridBounds.intersection(segmentBounds).get
    if (cellType.isFloatingPoint) {
      cfor(overlap.colMin)(_ <= overlap.colMax, _ + 1) { col =>
        cfor(overlap.rowMin)(_ <= overlap.rowMax, _ + 1) { row =>
          cfor(0)(_ < bandSubsetLength, _ + 1) { bandIndex =>
            // 针对BIP类型读取不同波段的数据
            val i = segmentTransform.gridToIndex(col, row, bandIndices(bandIndex))
            // 读取数据,因为数据采用懒加载,只有在这里才真正读取了数据,即每个分区都中读取了自己应该读取的那部分
            val v = segment.getDouble(i)
            chip.bands(bandIndex).setDouble(col - gridBounds.colMin, row - gridBounds.rowMin, v)
          }
        }
      }
    } else {
      cfor(overlap.colMin)(_ <= overlap.colMax, _ + 1) { col =>
        cfor(overlap.rowMin)(_ <= overlap.rowMax, _ + 1) { row =>
          cfor(0)(_ < bandSubsetLength, _ + 1) { bandIndex =>
            val i = segmentTransform.gridToIndex(col, row, bandIndices(bandIndex))
            val v = segment.getInt(i)
            chip.bands(bandIndex).set(col - gridBounds.colMin, row - gridBounds.rowMin, v)
          }
        }
      }
    }
    // 因为存在Window比Segment大的情况,因此需要保证每一个Chip读取的都是完整的数据
    chip.segmentsBurned += 1
    // 因此一个Chip可能会被多个Segment引用,只有当该Chip对应的所有Segment都被读取后,才算整个Chip读取完整
    if (chip.segmentsBurned == chip.intersectingSegments)
      finished = chip :: finished
  }
  // 因为intersectingSegments是非重复的,因此一个Segment读取完毕就可以保证不再有其他的Chip需要该Sement的数据,所以可以删掉
  chipsBySegment.remove(segmentId)
  // 返回的一定是完整读取数据的Chip
  finished
}

// BIL/BSQ类型
def burnBandInterleave(segmentId: Int, subsetBandIndex: Int, segment: GeoTiffSegment): List[Chip] = {
  var finished: List[Chip] = Nil
  val segmentBounds = getGridBounds(segmentId)
  val segmentTransform = getSegmentTransform(segmentId)

  for (chip <- chipsBySegment(segmentId)) {
    val gridBounds = chip.window
    val overlap = gridBounds.intersection(segmentBounds).get

    if (cellType.isFloatingPoint) {
      cfor(overlap.colMin)(_ <= overlap.colMax, _ + 1) { col =>
        cfor(overlap.rowMin)(_ <= overlap.rowMax, _ + 1) { row =>
          val i = segmentTransform.gridToIndex(col, row)
          val v = segment.getDouble(i)
          chip.bands(subsetBandIndex).setDouble(col - gridBounds.colMin, row - gridBounds.rowMin, v)
        }
      }
    } else {
      cfor(overlap.colMin)(_ <= overlap.colMax, _ + 1) { col =>
        cfor(overlap.rowMin)(_ <= overlap.rowMax, _ + 1) { row =>
          val i = segmentTransform.gridToIndex(col, row)
          val v = segment.getInt(i)
          chip.bands(subsetBandIndex).set(col - gridBounds.colMin, row - gridBounds.rowMin, v)
        }
      }
    }

    chip.segmentsBurned += 1
    if (chip.segmentsBurned == chip.intersectingSegments)
      finished = chip :: finished
  }

  chipsBySegment.remove(segmentId)
  finished
}

至此,Geotiff中的数据,就在每个分区中按一定的规则读取到内存中去了

4. 回顾与总结

如果从目的反推行动,将会是这样:

  1. 为了要分布式的读取数据,就要规划每个节点应该读取哪些数据.
  2. 为了规划每个节点应该读取哪些数据,我们需要对需要处理的数据进行分组.
  3. 为了进行分组,我们要知道如何更好的分组.
  4. 为了知道最合理的分组策略,我们需要从影像的元数据获取相关信息
  5. 为了读取影像的元数据,我们需要知道有哪些影像.
  6. 因此我们首先获取了全部待处理影像的路径.

回顾一下整个读取流程,可以说都是在践行先规划任务,再实际执行计算的思路,合理的任务规划与分配对分布式计算最终效率影像极大.

你可能感兴趣的:(How it works(20) Geotrellis是如何在Spark上计算的(A) 数据读取)

  • 斤斤计较的婚姻到底有多难？ 白心之岂必有为
    很多人私聊我会问到在哪个人群当中斤斤计较的人最多？我都会回答他，一般婚姻出现问题的斤斤计较的人士会非常多，以我多年经验，在婚姻落的一塌糊涂的人当中，斤斤计较的人数占比在20～30%以上，也就是说10个婚姻出现问题的斤斤计较的人有2-3个有多不减。在婚姻出问题当中，有大量的心理不平衡的、尖酸刻薄的怨妇。在婚姻中仅斤斤计较有两种类型：第一种是物质上的，另一种是精神上的。在物质与精神上抠门已经严重的影响
  • 情绪觉察日记第37天 露露_e800
    今天是家庭关系规划师的第二阶最后一天，慧萍老师帮我做了个案，帮我处理了埋在心底好多年的一份恐惧，并给了我深深的力量！这几天出来学习，爸妈过来婆家帮我带小孩，妈妈出于爱帮我收拾东西，并跟我先生和婆婆产生矛盾，妈妈觉得他们没有照顾好我…。今晚回家见到妈妈，我很欣赏她并赞扬她，妈妈说今晚要跟我睡我说好，当我们俩躺在床上准备睡觉的时候，我握着妈妈的手对她说:妈妈这几天辛苦你了，你看你多利害把我们的家收拾得
  • 芦花鞋一四 许叶晗
    又是在一个寒冷的夏日里，青铜和葵花决定今天一起去卖芦花鞋，奶奶亲手给他们做了一碗热乎乎的粥对他们说:“就靠你们两挣生活费了这碗粥赶紧趁热喝了吧！”于是青铜和葵花喝完了奶奶给她们做的粥，就准备去镇上卖卢花鞋，这回青铜和葵花穿着新的芦花鞋来到了镇上。青铜这回看到了很多人都在卖，用手势表达对葵花说:“这回有好多人在抢我们生意呢！我们必须得吆喝起来。”葵花点了点头。可是谁知他们也大声的叫，卖芦花喽！卖芦花
  • QQ群采集助手，精准引流必备神器 2401_87347160 其他经验分享
    功能概述微信群查找与筛选工具是一款专为微信用户设计的辅助工具，它通过关键词搜索功能，帮助用户快速找到相关的微信群，并提供筛选是否需要验证的群组的功能。主要功能关键词搜索：用户可以输入关键词，工具将自动查找包含该关键词的微信群。筛选功能：工具提供筛选机制，用户可以选择是否只显示需要验证或不需要验证的群组。精准引流：通过上述功能，用户可以更精准地找到目标群组，进行有效的引流操作。3.设备需求该工具可以
  • 关于沟通这件事，项目经理不需要每次都面对面进行 流程大师兄
    很多项目经理都会遇到这样的问题，项目中由于事情太多，根本没有足够的时间去召开会议，那在这种情况下如何去有效地管理项目中的利益相关者？当然，不建议电子邮件也不需要开会的话，建议可以采取下面几种方式来形成有效的沟通，这几种方式可以帮助你努力的通过各种办法来保持和各方面的联系。项目经理首先要问自己几个问题，项目中哪些利益相关者是必须要进行沟通的？可以列出项目中所有的利益相关者清单，同时也整理出项目中哪些
  • 机器学习与深度学习间关系与区别 ℒℴѵℯ心·动ꦿ໊ོ꫞ 人工智能学习深度学习python
    一、机器学习概述定义机器学习（MachineLearning,ML）是一种通过数据驱动的方法，利用统计学和计算算法来训练模型，使计算机能够从数据中学习并自动进行预测或决策。机器学习通过分析大量数据样本，识别其中的模式和规律，从而对新的数据进行判断。其核心在于通过训练过程，让模型不断优化和提升其预测准确性。主要类型1.监督学习（SupervisedLearning）监督学习是指在训练数据集中包含输入
  • 铭刻于星（四十二） 随风至
    69夜晚，绍敏同学做完功课后，看了眼房外，没听到动静才敢从书包的夹层里拿出那个心形纸团。折痕压得很深，都有些旧了，想来是已经写好很久了。绍敏同学慢慢地、轻轻地捏开折叠处，待到全部拆开后，又反复抚平纸张，然后仔细地一字字默看。只是开头的三个字是第一次看到，让她心漏跳了几拍。“亲爱的绍敏：从四年级的时候，我就喜欢你了，但是我一直不敢说，怕影响你学习。六年级的时候听说有人跟你表白，你接受了，我很难过，但
  • 底层逆袭到底有多难，不甘平凡的你准备好了吗？让吴起给你说说 造命者说
    底层逆袭到底有多难，不甘平凡的你准备好了吗？让吴起给你说说我叫吴起，生于公元前440年的战国初期，正是群雄并起、天下纷争不断的时候。后人说我是军事家、政治家、改革家，是兵家代表人物。评价我一生历仕鲁、魏、楚三国，通晓兵家、法家、儒家三家思想，在内政军事上都有极高的成就。周安王二十一年（公元前381年），因变法得罪守旧贵族，被人乱箭射死。我出生在卫国一个“家累万金”的富有家庭，从年轻时候起就不甘平凡
  • 2020-01-25 晴岚85
    郑海燕坚持分享590天2020.1.24在生活中只存在两个问题。一个问题是：你知道想要达成的目标是什么，但却不知道如何才能达成；另一个问题是：你不知道你的目标是什么。前一个是行动的问题，后一个是结果的问题。通过制定具体的下一步行动，可以解决不知道如何开始行动的问题。而通过去想象结果，对结果做预估，可以解决找不着目标的问题。对于所有吸引我们注意力，想要完成的任务，你可以先想象一下，预期的结果究竟是什
  • 随笔 | 仙一般的灵气 海思沧海
    仙岛今天，我看了你全部，似乎已经进入你的世界我不知道，这是否是梦幻，还是你仙一般的灵气吸引了我也许每一个人都要有一份属于自己的追求，这样才能够符合人生的梦想，生活才能够充满着阳光与快乐我不知道，我为什么会这样的感叹，是在感叹自己的人生，还是感叹自己一直没有孜孜不倦的追求只感觉虚度了光阴，每天活在自己的梦中，活在一个不真实的世界是在逃避自己，还是在逃避周围的一切有时候我嘲笑自己，嘲笑自己如此的虚无，
  • 想家 爆米花机
    也许不同于大家对家乡的思念，我对家乡甚至是疯狂的不舍。还未踏出车站就感觉到幸福，我享受这里的夕阳、这里的浓烈柴火味、这里每一口家常菜。我是宅女，我贪恋家的安逸。刚刚踏出大学校门，初出茅庐，无法适应每年只能国庆和春节回家。我焦虑、失眠、无端发脾气，是无法适应工作的节奏，是无法接受我将一步步离开家乡的事实。我不想承认自己胸无大志，选择再次踏上征程。图片发自App
  • 【iOS】MVC设计模式 Magnetic_h iosmvc设计模式objective-c学习ui
    MVC前言如何设计一个程序的结构，这是一门专门的学问，叫做"架构模式"（architecturalpattern），属于编程的方法论。MVC模式就是架构模式的一种。它是Apple官方推荐的App开发架构，也是一般开发者最先遇到、最经典的架构。MVC各层controller层Controller/ViewController/VC（控制器）负责协调Model和View，处理大部分逻辑它将数据从Mod
  • OC语言多界面传值五大方式 Magnetic_h iosui学习objective-c开发语言
    前言在完成暑假仿写项目时，遇到了许多需要用到多界面传值的地方，这篇博客来总结一下比较常用的五种多界面传值的方式。属性传值属性传值一般用前一个界面向后一个界面传值，简单地说就是通过访问后一个视图控制器的属性来为它赋值，通过这个属性来做到从前一个界面向后一个界面传值。首先在后一个界面中定义属性@interfaceBViewController:UIViewController@propertyNSSt
  • 一百九十四章. 自相矛盾 巨木擎天
    唉！就这么一夜，林子感觉就像过了很多天似的，先是回了阳间家里，遇到了那么多不可思议的事情儿。特别是小伙伴们，第二次与自己见面时，僵硬的表情和恐怖的气氛，让自己如坐针毡，打从心眼里难受！还有东子，他现在还好吗？有没有被人欺负？护城河里的小鱼小虾们，还都在吗？水不会真的干枯了吧？那对相亲相爱漂亮的太平鸟儿，还好吧！春天了，到了做窝、下蛋、喂养小鸟宝宝的时候了，希望它们都能够平安啊！虽然没有看见家人，也
  • UI学习——cell的复用和自定义cell Magnetic_h ui学习
    目录cell的复用手动（非注册）自动（注册）自定义cellcell的复用在iOS开发中，单元格复用是一种提高表格（UITableView）和集合视图（UICollectionView）滚动性能的技术。当一个UITableViewCell或UICollectionViewCell首次需要显示时，如果没有可复用的单元格，则视图会创建一个新的单元格。一旦这个单元格滚动出屏幕，它就不会被销毁。相反，它被添
  • element实现动态路由+面包屑 软件技术NINI vue案例vue.js前端
    el-breadcrumb是ElementUI组件库中的一个面包屑导航组件，它用于显示当前页面的路径，帮助用户快速理解和导航到应用的各个部分。在Vue.js项目中，如果你已经安装了ElementUI，就可以很方便地使用el-breadcrumb组件。以下是一个基本的使用示例：安装ElementUI（如果你还没有安装的话）:你可以通过npm或yarn来安装ElementUI。bash复制代码npmi
  • 10月|愿你的青春不负梦想-读书笔记-01 Tracy的小书斋
    本书的作者是俞敏洪，大家都很熟悉他了吧。俞敏洪老师是我行业的领头羊吧，也是我事业上的偶像。本日摘录他书中第一章中的金句：『一个人如果什么目标都没有，就会浑浑噩噩，感觉生命中缺少能量。能给我们能量的，是对未来的期待。第一件事，我始终为了进步而努力。与其追寻全世界的骏马，不如种植丰美的草原，到时骏马自然会来。第二件事，我始终有阶段性的目标。什么东西能给我能量？答案是对未来的期待。』读到这里的时候，我便
  • C语言宏函数 南林yan C语言c语言
    一、什么是宏函数？通过宏定义的函数是宏函数。如下，编译器在预处理阶段会将Add(x,y)替换为((x)*(y))#defineAdd(x,y)((x)*(y))#defineAdd(x,y)((x)*(y))intmain(){inta=10;intb=20;intd=10;intc=Add(a+d,b)*2;cout<
  • 地推话术，如何应对地推过程中家长的拒绝 校师学
    相信校长们在做地推的时候经常遇到这种情况：市场专员反馈家长不接单，咨询师反馈难以邀约这些家长上门，校区地推疲软，招生难。为什么？仅从地推层面分析，一方面因为家长受到的信息轰炸越来越多，对信息越来越“免疫”；而另一方面地推人员的专业能力和营销话术没有提高，无法应对家长的拒绝，对有意向的家长也不知如何跟进，眼睁睁看着家长走远；对于家长的疑问，更不知道如何有技巧地回答，机会白白流失。由于回答没技巧和专业
  • 谢谢你们，爱你们！ 鹿游儿
    昨天家人去泡温泉，二个孩子也带着去，出发前一晚，匆匆下班，赶回家和孩子一起收拾。饭后，我拿出笔和本子（上次去澳门时做手帐的本子）写下了1\2\3\4\5\6\7\8\9,让后让小壹去思考，带什么出发去旅游呢？她在对应的数字旁边画上了，泳衣、泳圈、肖恩、内衣内裤、tapuy、拖鞋……画完后，就让她自己对着这个本子，将要带的，一一带上，没想到这次带的书还是这本《便便工厂》(晚上姑婆发照片过来，妹妹累得
  • C语言如何定义宏函数？ 小九格物 c语言
    在C语言中，宏函数是通过预处理器定义的，它在编译之前替换代码中的宏调用。宏函数可以模拟函数的行为，但它们不是真正的函数，因为它们在编译时不会进行类型检查，也不会分配存储空间。宏函数的定义通常使用#define指令，后面跟着宏的名称和参数列表，以及宏展开后的代码。宏函数的定义方式：1.基本宏函数：这是最简单的宏函数形式，它直接定义一个表达式。#defineSQUARE(x)((x)*(x))2.带参
  • 微服务下功能权限与数据权限的设计与实现 nbsaas-boot 微服务java架构
    在微服务架构下，系统的功能权限和数据权限控制显得尤为重要。随着系统规模的扩大和微服务数量的增加，如何保证不同用户和服务之间的访问权限准确、细粒度地控制，成为设计安全策略的关键。本文将讨论如何在微服务体系中设计和实现功能权限与数据权限控制。1.功能权限与数据权限的定义功能权限：指用户或系统角色对特定功能的访问权限。通常是某个用户角色能否执行某个操作，比如查看订单、创建订单、修改用户资料等。数据权限：
  • 理解Gunicorn：Python WSGI服务器的基石 范范0825 ipythonlinux运维
    理解Gunicorn：PythonWSGI服务器的基石介绍Gunicorn，全称GreenUnicorn，是一个为PythonWSGI（WebServerGatewayInterface）应用设计的高效、轻量级HTTP服务器。作为PythonWeb应用部署的常用工具，Gunicorn以其高性能和易用性著称。本文将介绍Gunicorn的基本概念、安装和配置，帮助初学者快速上手。1.什么是Gunico
  • 小丽成长记（四十三） 玲玲54321
    小丽发现，即使她好不容易调整好自己的心态下一秒总会有不确定的伤脑筋的事出现，一个接一个的问题，人生就没有停下的时候，小问题不断出现。不过她今天看的书，她接受了人生就是不确定的，厉害的人就是不断创造确定性，在Ta的领域比别人多的确定性就能让自己脱颖而出，显示价值从而获得的比别人多的利益。正是这样的原因，因为从前修炼自己太少，使得她现在在人生道路上打怪起来困难重重，她似乎永远摆脱不了那种无力感，有种习
  • 学点心理知识，呵护孩子健康 静候花开_7090
    昨天听了华中师范大学教育管理学系副教授张玲老师的《哪里才是学生心理健康的最后庇护所，超越教育与技术的思考》的讲座。今天又重新学习了一遍，收获匪浅。张玲博士也注意到了当今社会上的孩子由于心理问题导致的自残、自杀及伤害他人等恶性事件。她向我们普及了一个重要的命题，她说心理健康的一些基本命题，我们与我们通常的一些教育命题是不同的，她还举了几个例子，让我们明白我们原来以为的健康并非心理学上的健康。比如如果
  • 2021年12月19日，春蕾教育集团团建活动感受——黄晓丹 黄错错加油
    感受:1.从陌生到熟悉的过程。游戏环节让我们在轻松的氛围中得到了锻炼，也增长了不少知识。2.游戏过程中，我们贡献的是个人力量，展现的是团队的力量。它磨合的往往不止是工作的熟悉，更是观念上契合度的贴近。3.这和工作是一样的道理。在各自的岗位上，每个人摆正自己的位置、各司其职充分发挥才能，并团结一致劲往一处使，才能实现最大的成功。新知:1.团队精神需要不断地创新。过去，人们把创新看作是冒风险，现在人们
  • Cell Insight | 单细胞测序技术又一新发现，可用于HIV-1和Mtb共感染个体诊断 尐尐呅
    结核病是艾滋病合并其他疾病中导致患者死亡的主要原因。其中结核病由结核分枝杆菌（Mycobacteriumtuberculosis,Mtb）感染引起，获得性免疫缺陷综合症（艾滋病）由人免疫缺陷病毒（Humanimmunodeficiencyvirustype1,HIV-1）感染引起。国家感染性疾病临床医学研究中心/深圳市第三人民医院张国良团队携手深圳华大生命科学研究院吴靓团队，共同研究得出单细胞测序
  • c++ 的iostream 和 c++的stdio的区别和联系 黄卷青灯77 c++算法开发语言iostreamstdio
    在C++中，iostream和C语言的stdio.h都是用于处理输入输出的库，但它们在设计、用法和功能上有许多不同。以下是两者的区别和联系：区别1.编程风格iostream（C++风格）：C++标准库中的输入输出流类库，支持面向对象的输入输出操作。典型用法是cin（输入）和cout（输出），使用>操作符来处理数据。更加类型安全，支持用户自定义类型的输入输出。#includeintmain(){in
  • 瑶池防线 谜影梦蝶
    冥华虽然逃过了影梦的军队，但他是一个忠臣，他选择上报战况。败给影梦后成逃兵，高层亡尔还活着，七重天失守......随便一条，即可处死冥华。冥华自然是知道以仙界高层的习性此信一发自己必死无疑，但他还选择上报实情，因为责任。同样此信送到仙宫后，知道此事的人，大多数人都认定冥华要完了，所以上到仙界高层，下到扫大街的，包括冥华自己，全都准备好迎接冥华之死。如果仙界现在还属于两方之争的话，冥华必死无疑。然而
  • 爬山后遗症 璃绛
    爬山，攀登，一步一步走向制高点，是一种挑战。成功抵达是一种无法言语的快乐，在山顶吹吹风，看看风景，这是从未有过的体验。然而，爬山一时爽，下山腿打颤，颠簸的路，一路向下走，腿部力量不够，走起来抖到不行，停不下来了！第二天必定腿疼，浑身酸痛，坐立难安！
  • java解析APK 3213213333332132 javaapklinux解析APK
    解析apk有两种方法 1、结合安卓提供apktool工具，用java执行cmd解析命令获取apk信息 2、利用相关jar包里的集成方法解析apk 这里只给出第二种方法，因为第一种方法在linux服务器下会出现不在控制范围之内的结果。 public class ApkUtil { /** * 日志对象 */ private static Logger
  • nginx自定义ip访问N种方法 ronin47 nginx 禁止ip访问
    　　　因业务需要，禁止一部分内网访问接口，　由于前端架了F5，直接用deny或allow是不行的，这是因为直接获取的前端Ｆ５的地址。 　　　所以开始思考有哪些主案可以实现这样的需求，目前可实施的是三种： 　　　一：把ip段放在redis里，写一段lua           二：利用geo传递变量，写一段
  • mysql timestamp类型字段的CURRENT_TIMESTAMP与ON UPDATE CURRENT_TIMESTAMP属性 dcj3sjt126com mysql
    timestamp有两个属性，分别是CURRENT_TIMESTAMP 和ON UPDATE CURRENT_TIMESTAMP两种，使用情况分别如下：   1.   CURRENT_TIMESTAMP    当要向数据库执行insert操作时，如果有个timestamp字段属性设为   CURRENT_TIMESTAMP，则无论这
  • struts2+spring+hibernate分页显示 171815164 Hibernate
    分页显示一直是web开发中一大烦琐的难题，传统的网页设计只在一个JSP或者ASP页面中书写所有关于数据库操作的代码，那样做分页可能简单一点，但当把网站分层开发后，分页就比较困难了，下面是我做Spring+Hibernate+Struts2项目时设计的分页代码，与大家分享交流。 　　1、DAO层接口的设计，在MemberDao接口中定义了如下两个方法： public in
  • 构建自己的Wrapper应用 g21121 rap
            我们已经了解Wrapper的目录结构，下面可是正式利用Wrapper来包装我们自己的应用，这里假设Wrapper的安装目录为:/usr/local/wrapper。           首先，创建项目应用   &nb
  • [简单]工作记录_多线程相关 53873039oycg 多线程
         最近遇到多线程的问题,原来使用异步请求多个接口(n*3次请求)     方案一 使用多线程一次返回数据,最开始是使用5个线程,一个线程顺序请求3个接口,超时终止返回     缺点       测试发现必须3个接
  • 调试jdk中的源码，查看jdk局部变量 程序员是怎么炼成的 jdk 源码
    转自：http://www.douban.com/note/211369821/    学习jdk源码时使用--   学习java最好的办法就是看jdk源代码，面对浩瀚的jdk（光源码就有40M多，比一个大型网站的源码都多）从何入手呢，要是能单步调试跟进到jdk源码里并且能查看其中的局部变量最好了。 可惜的是sun提供的jdk并不能查看运行中的局部变量
  • Oracle RAC Failover 详解 aijuans oracle
    Oracle RAC 同时具备HA(High Availiablity) 和LB(LoadBalance). 而其高可用性的基础就是Failover(故障转移). 它指集群中任何一个节点的故障都不会影响用户的使用，连接到故障节点的用户会被自动转移到健康节点，从用户感受而言， 是感觉不到这种切换。 Oracle 10g RAC 的Failover 可以分为3种： 1. Client-Si
  • form表单提交数据编码方式及tomcat的接受编码方式 antonyup_2006 JavaScripttomcat浏览器互联网servlet
    原帖地址：http://www.iteye.com/topic/266705 form有2中方法把数据提交给服务器，get和post,分别说下吧。 （一）get提交 1.首先说下客户端（浏览器）的form表单用get方法是如何将数据编码后提交给服务器端的吧。    对于get方法来说，都是把数据串联在请求的url后面作为参数，如：http://localhost:
  • JS初学者必知的基础 百合不是茶 js函数js入门基础
    JavaScript是网页的交互语言,实现网页的各种效果, JavaScript 是世界上最流行的脚本语言。 JavaScript 是属于 web 的语言，它适用于 PC、笔记本电脑、平板电脑和移动电话。 JavaScript 被设计为向 HTML 页面增加交互性。 许多 HTML 开发者都不是程序员，但是 JavaScript 却拥有非常简单的语法。几乎每个人都有能力将小的
  • iBatis的分页分析与详解 bijian1013 javaibatis
            分页是操作数据库型系统常遇到的问题。分页实现方法很多，但效率的差异就很大了。iBatis是通过什么方式来实现这个分页的了。查看它的实现部分，发现返回的PaginatedList实际上是个接口，实现这个接口的是PaginatedDataList类的对象，查看PaginatedDataList类发现，每次翻页的时候最
  • 精通Oracle10编程SQL(15)使用对象类型 bijian1013 oracle数据库plsql
    /* *使用对象类型 */ --建立和使用简单对象类型 --对象类型包括对象类型规范和对象类型体两部分。 --建立和使用不包含任何方法的对象类型 CREATE OR REPLACE TYPE person_typ1 as OBJECT( name varchar2(10),gender varchar2(4),birthdate date ); drop type p
  • 【Linux命令二】文本处理命令awk bit1129 linux命令
    awk是Linux用来进行文本处理的命令，在日常工作中，广泛应用于日志分析。awk是一门解释型编程语言，包含变量，数组，循环控制结构，条件控制结构等。它的语法采用类C语言的语法。   awk命令用来做什么？ 1.awk适用于具有一定结构的文本行，对其中的列进行提取信息 2.awk可以把当前正在处理的文本行提交给Linux的其它命令处理，然后把直接结构返回给awk 3.awk实际工
  • JAVA(ssh2框架)+Flex实现权限控制方案分析 白糖_ java
      目前项目使用的是Struts2+Hibernate+Spring的架构模式，目前已经有一套针对SSH2的权限系统，运行良好。但是项目有了新需求：在目前系统的基础上使用Flex逐步取代JSP，在取代JSP过程中可能存在Flex与JSP并存的情况，所以权限系统需要进行修改。 【SSH2权限系统的实现机制】 权限控制分为页面和后台两块：不同类型用户的帐号分配的访问权限是不同的，用户使
  • angular.forEach boyitech AngularJSAngularJS APIangular.forEach
    angular.forEach 描述: 循环对obj对象的每个元素调用iterator, obj对象可以是一个Object或一个Array. Iterator函数调用方法: iterator(value, key, obj), 其中obj是被迭代对象，key是obj的property key或者是数组的index，value就是相应的值啦. (此函数不能够迭代继承的属性.)
  • java-谷歌面试题-给定一个排序数组，如何构造一个二叉排序树 bylijinnan 二叉排序树
    import java.util.LinkedList; public class CreateBSTfromSortedArray { /** * 题目:给定一个排序数组，如何构造一个二叉排序树 * 递归 */ public static void main(String[] args) { int[] data = { 1, 2, 3, 4,
  • action执行2次 Chen.H JavaScriptjspXHTMLcssWebwork
    xwork 写道 <action name="userTypeAction" class="com.ekangcount.website.system.view.action.UserTypeAction"> <result name="ssss" type="dispatcher">
  • [时空与能量]逆转时空需要消耗大量能源 comsci 能源
            无论如何,人类始终都想摆脱时间和空间的限制....但是受到质量与能量关系的限制,我们人类在目前和今后很长一段时间内,都无法获得大量廉价的能源来进行时空跨越.....         在进行时空穿梭的实验中,消耗超大规模的能源是必然
  • oracle的正则表达式(regular expression)详细介绍 daizj oracle正则表达式
        正则表达式是很多编程语言中都有的。可惜oracle8i、oracle9i中一直迟迟不肯加入，好在oracle10g中终于增加了期盼已久的正则表达式功能。你可以在oracle10g中使用正则表达式肆意地匹配你想匹配的任何字符串了。 正则表达式中常用到的元数据(metacharacter)如下： ^ 匹配字符串的开头位置。 $ 匹配支付传的结尾位置。 *
  • 报表工具与报表性能的关系 datamachine 报表工具birt报表性能润乾报表
    在选择报表工具时，性能一直是用户关心的指标，但是，报表工具的性能和整个报表系统的性能有多大关系呢？ 要回答这个问题，首先要分析一下报表的处理过程包含哪些环节，哪些环节容易出现性能瓶颈，如何优化这些环节。   一、报表处理的一般过程分析 1、用户选择报表输入参数后，报表引擎会根据报表模板和输入参数来解析报表，并将数据计算和读取请求以SQL的方式发送给数据库。   2、
  • 初一上学期难记忆单词背诵第一课 dcj3sjt126com wordenglish
    what 什么  your 你 name 名字 my 我的 am 是 one 一 two 二 three 三 four 四 five 五 class 班级，课   six 六 seven 七 eight 八 nince 九 ten 十 zero 零 how 怎样 old 老的 eleven 十一 twelve 十二 thirteen
  • 我学过和准备学的各种技术 dcj3sjt126com 技术
    语言VB https://msdn.microsoft.com/zh-cn/library/2x7h1hfk.aspxJava http://docs.oracle.com/javase/8/C# https://msdn.microsoft.com/library/vstudioPHP http://php.net/manual/en/Html 
  • struts2中token防止重复提交表单 蕃薯耀 重复提交表单struts2中token
    struts2中token防止重复提交表单   >>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>> 蕃薯耀 2015年7月12日 11:52:32 星期日 ht
  • 线性查找二维数组 hao3100590 二维数组
    1.算法描述 有序（行有序，列有序，且每行从左至右递增，列从上至下递增）二维数组查找，要求复杂度O(n)   2.使用到的相关知识： 结构体定义和使用，二维数组传递（http://blog.csdn.net/yzhhmhm/article/details/2045816）   3.使用数组名传递 这个的不便之处很明显，一旦确定就是不能设置列值 //使
  • spring security 3中推荐使用BCrypt算法加密密码 jackyrong Spring Security
    spring security 3中推荐使用BCrypt算法加密密码了，以前使用的是md5， Md5PasswordEncoder 和 ShaPasswordEncoder，现在不推荐了，推荐用bcrpt Bcrpt中的salt可以是随机的，比如： int i = 0; while (i < 10) { String password = "1234
  • 学习编程并不难,做到以下几点即可! lampcy javahtml编程语言
    不论你是想自己设计游戏，还是开发iPhone或安卓手机上的应用，还是仅仅为了娱乐，学习编程语言都是一条必经之路。编程语言种类繁多，用途各 异，然而一旦掌握其中之一，其他的也就迎刃而解。作为初学者，你可能要先从Java或HTML开始学，一旦掌握了一门编程语言，你就发挥无穷的想象，开发 各种神奇的软件啦。 1、确定目标 学习编程语言既充满乐趣，又充满挑战。有些花费多年时间学习一门编程语言的大学生到
  • 架构师之mysql----------------用group+inner join,left join ,right join 查重复数据（替代in) nannan408 right join
    1.前言。   如题。 2.代码 (1)单表查重复数据,根据a分组   SELECT m.a,m.b, INNER JOIN （select a,b,COUNT(*) AS rank FROM test.`A` A GROUP BY a HAVING rank>1 )k ON m.a=k.a （2）多表查询 ， 使用改为le
  • jQuery选择器小结 VS 节点查找（附css的一些东西） Everyday都不同 jquerycssname选择器追加元素查找节点
    最近做前端页面，频繁用到一些jQuery的选择器，所以特意来总结一下：   测试页面： <html> <head> <script src="jquery-1.7.2.min.js"></script> <script> /*$(function() { $(documen
  • 关于EXT tntxia ext
      ExtJS是一个很不错的Ajax框架，可以用来开发带有华丽外观的富客户端应用，使得我们的b/s应用更加具有活力及生命力。ExtJS是一个用 javascript编写，与后台技术无关的前端ajax框架。因此，可以把ExtJS用在.Net、Java、Php等各种开发语言开发的应用中。       ExtJs最开始基于YUI技术，由开发人员Jack
  • 一个MIT计算机博士对数学的思考 xjnine Math
     在过去的一年中，我一直在数学的海洋中游荡，research进展不多，对于数学世界的阅历算是有了一些长进。为什么要深入数学的世界？作为计算机的学生，我没有任何企图要成为一个数学家。我学习数学的目的，是要想爬上巨人的肩膀，希望站在更高的高度，能把我自己研究的东西看得更深广一些。说起来，我在刚来这个学校的时候，并没有预料到我将会有一个深入数学的旅程。我的导师最初希望我去做的题目，是对appe
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他