踏莎行hyx

spark部署standalone集群

spark官网文档：http://spark.apache.org/docs/latest/spark-standalone.html

环境

linux centos
spark-1.3.1-bin-hadoop2.6
jdk1.7
python2.6
可以用tar.gz这种离线包解压后再配置环境变量，修改/etc/profile或者~/.bashrc文件并使用source命令使之生效。（本次仅仅是测试standalone模式集群，不配置貌似也没事）

步骤

1.准备master主机和worker分机

cluster1机器：10.35.20.238 启动master、worker和-application
cluster2机器：10.35.57.10 启动worker（本机是运行于windows上的linux虚拟机，用NAT网络地址转换了，实际IP是10.0.2.15）

确保这两台机器互相之间可以联网，局域网和广域网均可。

2.启动master

在cluster1机器上，切换到spark安装目录,进入sbin目录

[root@localhost spark-1.3.1-bin-hadoop2.6]#cd sbin

该目录下有很多用于脚本用于启动或者停止集群节点。此处启动master

[root@localhost sbin]# ./start-master.sh

出现如下提示，部署成功

starting org.apache.spark.deploy.master.Master, logging to /opt/spark-1.3.1-bin-hadoop2.6/sbin/../logs/spark-root-org.apache.spark.deploy.master.Master-1-BEJL-SCTSRCH14B.out

log打印到了制定文件夹，可以查看输出信息。

Spark Command: /usr/java/jdk1.7.0_21//bin/java -cp /opt/spark-1.3.1-bin-hadoop2.6/sbin/../conf:/opt/spark-1.3.1-bin-hadoop2.6/lib/spark-assembly-1.3.1-hadoop2.6.0.jar:/opt/spark-1.3.1-bin-hadoop2.6/lib/datanucleus-api-jdo-3.2.6.jar:/opt/spark-1.3.1-bin-hadoop2.6/lib/datanucleus-rdbms-3.2.9.jar:/opt/spark-1.3.1-bin-hadoop2.6/lib/datanucleus-core-3.2.10.jar -XX:MaxPermSize=128m -Dspark.akka.logLifecycleEvents=true -Xms512m -Xmx512m org.apache.spark.deploy.master.Master --ip BEJL-SCTSRCH14B --port 7077 --webui-port 8080
========================================

Using Spark's default log4j profile: org/apache/spark/log4j-defaults.properties
15/05/06 04:46:30 INFO Master: Registered signal handlers for [TERM, HUP, INT]
15/05/06 04:46:31 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
15/05/06 04:46:31 INFO SecurityManager: Changing view acls to: root
15/05/06 04:46:31 INFO SecurityManager: Changing modify acls to: root
15/05/06 04:46:31 INFO SecurityManager: SecurityManager: authentication disabled; ui acls disabled; users with view permissions: Set(root); users with modify permissions: Set(root)
15/05/06 04:46:31 INFO Slf4jLogger: Slf4jLogger started
15/05/06 04:46:31 INFO Remoting: Starting remoting
15/05/06 04:46:31 INFO Remoting: Remoting started; listening on addresses :[akka.tcp://sparkMaster@BEJL-SCTSRCH14B:7077]
15/05/06 04:46:31 INFO Remoting: Remoting now listens on addresses: [akka.tcp://sparkMaster@BEJL-SCTSRCH14B:7077]
15/05/06 04:46:31 INFO Utils: Successfully started service 'sparkMaster' on port 7077.
15/05/06 04:46:32 INFO Server: jetty-8.y.z-SNAPSHOT
15/05/06 04:46:32 INFO AbstractConnector: Started SelectChannelConnector@BEJL-SCTSRCH14B:6066
15/05/06 04:46:32 INFO Utils: Successfully started service on port 6066.
15/05/06 04:46:32 INFO StandaloneRestServer: Started REST server for submitting applications on port 6066
15/05/06 04:46:32 INFO Master: Starting Spark master at spark://BEJL-SCTSRCH14B:7077
15/05/06 04:46:32 INFO Master: Running Spark version 1.3.1
15/05/06 04:46:32 INFO Server: jetty-8.y.z-SNAPSHOT
15/05/06 04:46:32 INFO AbstractConnector: Started SelectChannelConnector@0.0.0.0:8080
15/05/06 04:46:32 INFO Utils: Successfully started service 'MasterUI' on port 8080.
15/05/06 04:46:32 INFO MasterWebUI: Started MasterWebUI at http://BEJL-SCTSRCH14B:8080
15/05/06 04:46:32 INFO Master: I have been elected leader! New state: ALIVE

成功启动了master，日志显示该master的URL为spark://BEJL-SCTSRCH14B:7077，对应的webUI的地址：端口是http://BEJL-SCTSRCH14B:8080，我们可以直接用任何一台主机的浏览器查看这个web界面，输入http://10.35.20.238:8080，注意如果用主机地址的话要改hosts文件做ip和主机名的映射，所以这里直接用http://IP:port的形式访问。

可以看到web页面中显示，当前master的状态，还没有任何worker节点，也没有运行的任务。

3.连接worker

在启动之前要做意见很重要的事：改hosts文件
在cluster2机器上，/etc/hosts文件里面添加一行

10.35.20.238 BEJL-SCTSRCH14B

然后在cluster2机器上，同样切换到spark安装目录下

[root@localhost spark-1.3.1-bin-hadoop2.6]# ./bin/spark-class org.apache.spark.deploy.worker.Worker spark://BEJL-SCTSRCH14B:7077

（此处的主机名就是master的主机名并且已经在hosts文件里面做了ip映射，此处不可以用IP地址）
terminal里出现如下信息则连接正常。

Using Spark's default log4j profile: org/apache/spark/log4j-defaults.properties
15/05/06 12:14:30 INFO Worker: Registered signal handlers for [TERM, HUP, INT]
15/05/06 12:14:30 WARN Utils: Your hostname, localhost resolves to a loopback address: 127.0.0.1; using 10.0.2.15 instead (on interface eth0)
15/05/06 12:14:30 WARN Utils: Set SPARK_LOCAL_IP if you need to bind to another address
15/05/06 12:14:31 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
15/05/06 12:14:32 INFO SecurityManager: Changing view acls to: root
15/05/06 12:14:32 INFO SecurityManager: Changing modify acls to: root
15/05/06 12:14:32 INFO SecurityManager: SecurityManager: authentication disabled; ui acls disabled; users with view permissions: Set(root); users with modify permissions: Set(root)
15/05/06 12:14:33 INFO Slf4jLogger: Slf4jLogger started
15/05/06 12:14:33 INFO Remoting: Starting remoting
15/05/06 12:14:33 INFO Remoting: Remoting started; listening on addresses :[akka.tcp://sparkWorker@10.0.2.15:54446]
15/05/06 12:14:33 INFO Remoting: Remoting now listens on addresses: [akka.tcp://sparkWorker@10.0.2.15:54446]
15/05/06 12:14:33 INFO Utils: Successfully started service 'sparkWorker' on port 54446.
15/05/06 12:14:33 INFO Worker: Starting Spark worker 10.0.2.15:54446 with 1 cores, 722.0 MB RAM
15/05/06 12:14:33 INFO Worker: Running Spark version 1.3.1
15/05/06 12:14:33 INFO Worker: Spark home: /opt/spark-1.3.1-bin-hadoop2.6
15/05/06 12:14:34 INFO Server: jetty-8.y.z-SNAPSHOT
15/05/06 12:14:34 INFO AbstractConnector: Started SelectChannelConnector@0.0.0.0:8081
15/05/06 12:14:34 INFO Utils: Successfully started service 'WorkerUI' on port 8081.
15/05/06 12:14:34 INFO WorkerWebUI: Started WorkerWebUI at http://10.0.2.15:8081
15/05/06 12:14:34 INFO Worker: Connecting to master akka.tcp://sparkMaster@BEJL-SCTSRCH14B:7077/user/Master...
15/05/06 12:14:35 INFO Worker: Successfully registered with master spark://BEJL-SCTSRCH14B:7077

同理，在cluster1的机器上还可以启动worker节点。
此时查看master的webui发现多了两个worker节点

至此，standalone模式的集群部署完毕。
如果需要停掉这个集群，在master所在的主机里运行sbin目录下的stop-master.sh就可以了。

应用测试

1.集成shell环境测试

在master所在的主机里，切换到spark的bin目录

[root@localhost spark-1.3.1-bin-hadoop2.6]#./pyspark --master spark://BEJL-SCTSRCH14B:7077

进入运行在集群上的spark的python集成调试环境。

Welcome to
      ____              __
     / __/__  ___ _____/ /__
    _\ \/ _ \/ _ `/ __/  '_/
   /__ / .__/\_,_/_/ /_/\_\   version 1.3.1
      /_/

Using Python version 2.7.6 (default, Dec  3 2014 09:12:42)
SparkContext available as sc, HiveContext available as sqlContext.
>>> 15/05/06 07:11:18 INFO SparkDeploySchedulerBackend: Registered executor: Actor[akka.tcp://sparkExecutor@BEJL-SCTSRCH14B:40308/user/Executor#2142464266] with ID 0
15/05/06 07:11:18 INFO BlockManagerMasterActor: Registering block manager BEJL-SCTSRCH14B:57537 with 265.0 MB RAM, BlockManagerId(0, BEJL-SCTSRCH14B, 57537)
15/05/06 07:11:21 INFO SparkDeploySchedulerBackend: Registered executor: Actor[akka.tcp://[email protected]:44494/user/Executor#2004585778] with ID 1
15/05/06 07:11:22 INFO BlockManagerMasterActor: Registering block manager 10.0.2.15:53011 with 267.3 MB RAM, BlockManagerId(1, 10.0.2.15, 53011)

下达任务，此处以统计文本行数为例：

>>> textFile=sc.textFile("../README.md")
15/05/06 14:51:04 INFO AppClient$ClientActor: Executor updated: app-20150506075245-0001/0 is now EXITED (Command exited with code 1)
15/05/06 14:51:04 INFO SparkDeploySchedulerBackend: Executor app-20150506075245-0001/0 removed: Command exited with code 1
15/05/06 14:51:04 ERROR SparkDeploySchedulerBackend: Asked to remove non-existent executor 0
15/05/06 14:51:04 INFO AppClient$ClientActor: Executor added: app-20150506075245-0001/2 on worker-20150506074818-BEJL-SCTSRCH14B-55279 (BEJL-SCTSRCH14B:55279) with 8 cores
15/05/06 14:51:04 INFO SparkDeploySchedulerBackend: Granted executor ID app-20150506075245-0001/2 on hostPort BEJL-SCTSRCH14B:55279 with 8 cores, 512.0 MB RAM
15/05/06 14:51:04 INFO AppClient$ClientActor: Executor updated: app-20150506075245-0001/2 is now LOADING
15/05/06 14:51:04 INFO AppClient$ClientActor: Executor updated: app-20150506075245-0001/2 is now RUNNING
15/05/06 14:51:04 INFO MemoryStore: ensureFreeSpace(182921) called with curMem=0, maxMem=280248975
15/05/06 14:51:04 INFO MemoryStore: Block broadcast_0 stored as values in memory (estimated size 178.6 KB, free 267.1 MB)
15/05/06 14:51:04 INFO MemoryStore: ensureFreeSpace(25432) called with curMem=182921, maxMem=280248975
15/05/06 14:51:04 INFO MemoryStore: Block broadcast_0_piece0 stored as bytes in memory (estimated size 24.8 KB, free 267.1 MB)
15/05/06 14:51:04 INFO BlockManagerInfo: Added broadcast_0_piece0 in memory on 10.0.2.15:42206 (size: 24.8 KB, free: 267.2 MB)
15/05/06 14:51:04 INFO BlockManagerMaster: Updated info of block broadcast_0_piece0
15/05/06 14:51:04 INFO SparkContext: Created broadcast 0 from textFile at NativeMethodAccessorImpl.java:-2
>>> textFile.count()
15/05/06 14:51:11 INFO FileInputFormat: Total input paths to process : 1
15/05/06 14:51:11 INFO SparkContext: Starting job: count at :1
15/05/06 14:51:11 INFO DAGScheduler: Got job 0 (count at :1) with 2 output partitions (allowLocal=false)
15/05/06 14:51:11 INFO DAGScheduler: Final stage: Stage 0(count at :1)
15/05/06 14:51:11 INFO DAGScheduler: Parents of final stage: List()
15/05/06 14:51:11 INFO DAGScheduler: Missing parents: List()
15/05/06 14:51:11 INFO DAGScheduler: Submitting Stage 0 (PythonRDD[2] at count at :1), which has no missing parents
15/05/06 14:51:11 INFO MemoryStore: ensureFreeSpace(5568) called with curMem=208353, maxMem=280248975
15/05/06 14:51:11 INFO MemoryStore: Block broadcast_1 stored as values in memory (estimated size 5.4 KB, free 267.1 MB)
15/05/06 14:51:11 INFO MemoryStore: ensureFreeSpace(4089) called with curMem=213921, maxMem=280248975
15/05/06 14:51:11 INFO MemoryStore: Block broadcast_1_piece0 stored as bytes in memory (estimated size 4.0 KB, free 267.1 MB)
15/05/06 14:51:11 INFO BlockManagerInfo: Added broadcast_1_piece0 in memory on 10.0.2.15:42206 (size: 4.0 KB, free: 267.2 MB)
15/05/06 14:51:11 INFO BlockManagerMaster: Updated info of block broadcast_1_piece0
15/05/06 14:51:11 INFO SparkContext: Created broadcast 1 from broadcast at DAGScheduler.scala:839
15/05/06 14:51:11 INFO DAGScheduler: Submitting 2 missing tasks from Stage 0 (PythonRDD[2] at count at :1)
15/05/06 14:51:11 INFO TaskSchedulerImpl: Adding task set 0.0 with 2 tasks
15/05/06 14:51:11 INFO TaskSetManager: Starting task 0.0 in stage 0.0 (TID 0, 10.0.2.15, PROCESS_LOCAL, 1309 bytes)
15/05/06 14:51:12 INFO BlockManagerInfo: Added broadcast_1_piece0 in memory on 10.0.2.15:36887 (size: 4.0 KB, free: 267.3 MB)
15/05/06 14:51:14 INFO BlockManagerInfo: Added broadcast_0_piece0 in memory on 10.0.2.15:36887 (size: 24.8 KB, free: 267.2 MB)
15/05/06 14:51:15 INFO TaskSetManager: Starting task 1.0 in stage 0.0 (TID 1, 10.0.2.15, PROCESS_LOCAL, 1309 bytes)
15/05/06 14:51:15 INFO TaskSetManager: Finished task 0.0 in stage 0.0 (TID 0) in 4445 ms on 10.0.2.15 (1/2)
15/05/06 14:51:16 INFO DAGScheduler: Stage 0 (count at :1) finished in 5.151 s
15/05/06 14:51:16 INFO TaskSetManager: Finished task 1.0 in stage 0.0 (TID 1) in 834 ms on 10.0.2.15 (2/2)
15/05/06 14:51:16 INFO TaskSchedulerImpl: Removed TaskSet 0.0, whose tasks have all completed, from pool
15/05/06 14:51:16 INFO DAGScheduler: Job 0 finished: count at :1, took 5.335692 s
98

可以在master的web界面里面看到任务执行情况

也可以在worker的web界面里面看单个worker的情况

2.提交application测试

在任意一个master机器或者worker机器，切换到spark的bin目录下
新建一个python文件

./spark-submit --master spark://10.35.20.238:7077 simpleApp.py

其中python文件为

"""SimpleApp.py"""
#count the 'a' and 'b' in README.md file
from pyspark import SparkContext

logFile = "../README.md"  # Should be some file on your system
sc = SparkContext("local", "Simple App")
logData = sc.textFile(logFile).cache()

numAs = logData.filter(lambda s: 'a' in s).count()
numBs = logData.filter(lambda s: 'b' in s).count()

print "Lines with a: %i, lines with b: %i" % (numAs, numBs)

执行结果

[root@localhost bin]# ./spark-submit --master spark://10.35.20.238:7077 simpleApp.py
Using Spark's default log4j profile: org/apache/spark/log4j-defaults.properties
15/05/06 15:00:55 INFO SparkContext: Running Spark version 1.3.1
15/05/06 15:00:55 WARN Utils: Your hostname, localhost resolves to a loopback address: 127.0.0.1; using 10.0.2.15 instead (on interface eth0)
15/05/06 15:00:55 WARN Utils: Set SPARK_LOCAL_IP if you need to bind to another address
15/05/06 15:00:56 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
15/05/06 15:00:56 INFO SecurityManager: Changing view acls to: root
15/05/06 15:00:56 INFO SecurityManager: Changing modify acls to: root
15/05/06 15:00:56 INFO SecurityManager: SecurityManager: authentication disabled; ui acls disabled; users with view permissions: Set(root); users with modify permissions: Set(root)
15/05/06 15:00:57 INFO Slf4jLogger: Slf4jLogger started
15/05/06 15:00:57 INFO Remoting: Starting remoting
15/05/06 15:00:58 INFO Remoting: Remoting started; listening on addresses :[akka.tcp://sparkDriver@10.0.2.15:37369]
15/05/06 15:00:58 INFO Utils: Successfully started service 'sparkDriver' on port 37369.
15/05/06 15:00:58 INFO SparkEnv: Registering MapOutputTracker
15/05/06 15:00:58 INFO SparkEnv: Registering BlockManagerMaster
15/05/06 15:00:58 INFO DiskBlockManager: Created local directory at /tmp/spark-9c9e78c2-c830-4144-a693-da4766fe85c4/blockmgr-859a9f63-dfca-4fd3-9729-00583951fd2e
15/05/06 15:00:58 INFO MemoryStore: MemoryStore started with capacity 267.3 MB
15/05/06 15:00:58 INFO HttpFileServer: HTTP File server directory is /tmp/spark-327ddcd4-3580-4afa-9788-a68adce50321/httpd-247ee4a8-38fe-4312-ad9a-9f2abb81cb62
15/05/06 15:00:58 INFO HttpServer: Starting HTTP Server
15/05/06 15:00:58 INFO Server: jetty-8.y.z-SNAPSHOT
15/05/06 15:00:58 INFO AbstractConnector: Started SocketConnector@0.0.0.0:56614
15/05/06 15:00:58 INFO Utils: Successfully started service 'HTTP file server' on port 56614.
15/05/06 15:00:58 INFO SparkEnv: Registering OutputCommitCoordinator
15/05/06 15:00:59 INFO Server: jetty-8.y.z-SNAPSHOT
15/05/06 15:00:59 INFO AbstractConnector: Started SelectChannelConnector@0.0.0.0:4040
15/05/06 15:00:59 INFO Utils: Successfully started service 'SparkUI' on port 4040.
15/05/06 15:00:59 INFO SparkUI: Started SparkUI at http://10.0.2.15:4040
15/05/06 15:01:00 INFO Utils: Copying /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py to /tmp/spark-d7776b2b-7e51-416a-8775-75e6dd402ebf/userFiles-312cdc31-f56f-4a43-b904-e3a9630666a9/simpleApp.py
15/05/06 15:01:00 INFO SparkContext: Added file file:/opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py at file:/opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py with timestamp 1430895660185
15/05/06 15:01:00 INFO Executor: Starting executor ID  on host localhost
15/05/06 15:01:00 INFO AkkaUtils: Connecting to HeartbeatReceiver: akka.tcp://sparkDriver@10.0.2.15:37369/user/HeartbeatReceiver
15/05/06 15:01:01 INFO NettyBlockTransferService: Server created on 43240
15/05/06 15:01:01 INFO BlockManagerMaster: Trying to register BlockManager
15/05/06 15:01:01 INFO BlockManagerMasterActor: Registering block manager localhost:43240 with 267.3 MB RAM, BlockManagerId(, localhost, 43240)
15/05/06 15:01:01 INFO BlockManagerMaster: Registered BlockManager
15/05/06 15:01:02 INFO MemoryStore: ensureFreeSpace(255188) called with curMem=0, maxMem=280248975
15/05/06 15:01:02 INFO MemoryStore: Block broadcast_0 stored as values in memory (estimated size 249.2 KB, free 267.0 MB)
15/05/06 15:01:02 INFO MemoryStore: ensureFreeSpace(36168) called with curMem=255188, maxMem=280248975
15/05/06 15:01:02 INFO MemoryStore: Block broadcast_0_piece0 stored as bytes in memory (estimated size 35.3 KB, free 267.0 MB)
15/05/06 15:01:02 INFO BlockManagerInfo: Added broadcast_0_piece0 in memory on localhost:43240 (size: 35.3 KB, free: 267.2 MB)
15/05/06 15:01:02 INFO BlockManagerMaster: Updated info of block broadcast_0_piece0
15/05/06 15:01:02 INFO SparkContext: Created broadcast 0 from textFile at NativeMethodAccessorImpl.java:-2
15/05/06 15:01:02 INFO FileInputFormat: Total input paths to process : 1
15/05/06 15:01:02 INFO SparkContext: Starting job: count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:8
15/05/06 15:01:03 INFO DAGScheduler: Got job 0 (count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:8) with 1 output partitions (allowLocal=false)
15/05/06 15:01:03 INFO DAGScheduler: Final stage: Stage 0(count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:8)
15/05/06 15:01:03 INFO DAGScheduler: Parents of final stage: List()
15/05/06 15:01:03 INFO DAGScheduler: Missing parents: List()
15/05/06 15:01:03 INFO DAGScheduler: Submitting Stage 0 (PythonRDD[2] at count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:8), which has no missing parents
15/05/06 15:01:03 INFO MemoryStore: ensureFreeSpace(5992) called with curMem=291356, maxMem=280248975
15/05/06 15:01:03 INFO MemoryStore: Block broadcast_1 stored as values in memory (estimated size 5.9 KB, free 267.0 MB)
15/05/06 15:01:03 INFO MemoryStore: ensureFreeSpace(4422) called with curMem=297348, maxMem=280248975
15/05/06 15:01:03 INFO MemoryStore: Block broadcast_1_piece0 stored as bytes in memory (estimated size 4.3 KB, free 267.0 MB)
15/05/06 15:01:03 INFO BlockManagerInfo: Added broadcast_1_piece0 in memory on localhost:43240 (size: 4.3 KB, free: 267.2 MB)
15/05/06 15:01:03 INFO BlockManagerMaster: Updated info of block broadcast_1_piece0
15/05/06 15:01:03 INFO SparkContext: Created broadcast 1 from broadcast at DAGScheduler.scala:839
15/05/06 15:01:03 INFO DAGScheduler: Submitting 1 missing tasks from Stage 0 (PythonRDD[2] at count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:8)
15/05/06 15:01:03 INFO TaskSchedulerImpl: Adding task set 0.0 with 1 tasks
15/05/06 15:01:03 INFO TaskSetManager: Starting task 0.0 in stage 0.0 (TID 0, localhost, PROCESS_LOCAL, 1371 bytes)
15/05/06 15:01:03 INFO Executor: Running task 0.0 in stage 0.0 (TID 0)
15/05/06 15:01:03 INFO Executor: Fetching file:/opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py with timestamp 1430895660185
15/05/06 15:01:03 INFO Utils: /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py has been previously copied to /tmp/spark-d7776b2b-7e51-416a-8775-75e6dd402ebf/userFiles-312cdc31-f56f-4a43-b904-e3a9630666a9/simpleApp.py
15/05/06 15:01:04 INFO CacheManager: Partition rdd_1_0 not found, computing it
15/05/06 15:01:04 INFO HadoopRDD: Input split: file:/opt/spark-1.3.1-bin-hadoop2.6/README.md:0+3629
15/05/06 15:01:04 INFO deprecation: mapred.tip.id is deprecated. Instead, use mapreduce.task.id
15/05/06 15:01:04 INFO deprecation: mapred.task.id is deprecated. Instead, use mapreduce.task.attempt.id
15/05/06 15:01:04 INFO deprecation: mapred.task.is.map is deprecated. Instead, use mapreduce.task.ismap
15/05/06 15:01:04 INFO deprecation: mapred.task.partition is deprecated. Instead, use mapreduce.task.partition
15/05/06 15:01:04 INFO deprecation: mapred.job.id is deprecated. Instead, use mapreduce.job.id
15/05/06 15:01:04 INFO MemoryStore: ensureFreeSpace(3021) called with curMem=301770, maxMem=280248975
15/05/06 15:01:04 INFO MemoryStore: Block rdd_1_0 stored as bytes in memory (estimated size 3.0 KB, free 267.0 MB)
15/05/06 15:01:04 INFO BlockManagerInfo: Added rdd_1_0 in memory on localhost:43240 (size: 3.0 KB, free: 267.2 MB)
15/05/06 15:01:04 INFO BlockManagerMaster: Updated info of block rdd_1_0
15/05/06 15:01:05 INFO PythonRDD: Times: total = 1596, boot = 1227, init = 364, finish = 5
15/05/06 15:01:05 INFO Executor: Finished task 0.0 in stage 0.0 (TID 0). 2439 bytes result sent to driver
15/05/06 15:01:05 INFO TaskSetManager: Finished task 0.0 in stage 0.0 (TID 0) in 2029 ms on localhost (1/1)
15/05/06 15:01:05 INFO TaskSchedulerImpl: Removed TaskSet 0.0, whose tasks have all completed, from pool
15/05/06 15:01:05 INFO DAGScheduler: Stage 0 (count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:8) finished in 2.096 s
15/05/06 15:01:05 INFO DAGScheduler: Job 0 finished: count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:8, took 2.255150 s
15/05/06 15:01:05 INFO SparkContext: Starting job: count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:9
15/05/06 15:01:05 INFO DAGScheduler: Got job 1 (count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:9) with 1 output partitions (allowLocal=false)
15/05/06 15:01:05 INFO DAGScheduler: Final stage: Stage 1(count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:9)
15/05/06 15:01:05 INFO DAGScheduler: Parents of final stage: List()
15/05/06 15:01:05 INFO DAGScheduler: Missing parents: List()
15/05/06 15:01:05 INFO DAGScheduler: Submitting Stage 1 (PythonRDD[3] at count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:9), which has no missing parents
15/05/06 15:01:05 INFO MemoryStore: ensureFreeSpace(5992) called with curMem=304791, maxMem=280248975
15/05/06 15:01:05 INFO MemoryStore: Block broadcast_2 stored as values in memory (estimated size 5.9 KB, free 267.0 MB)
15/05/06 15:01:05 INFO MemoryStore: ensureFreeSpace(4422) called with curMem=310783, maxMem=280248975
15/05/06 15:01:05 INFO MemoryStore: Block broadcast_2_piece0 stored as bytes in memory (estimated size 4.3 KB, free 267.0 MB)
15/05/06 15:01:05 INFO BlockManagerInfo: Added broadcast_2_piece0 in memory on localhost:43240 (size: 4.3 KB, free: 267.2 MB)
15/05/06 15:01:05 INFO BlockManagerMaster: Updated info of block broadcast_2_piece0
15/05/06 15:01:05 INFO SparkContext: Created broadcast 2 from broadcast at DAGScheduler.scala:839
15/05/06 15:01:05 INFO DAGScheduler: Submitting 1 missing tasks from Stage 1 (PythonRDD[3] at count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:9)
15/05/06 15:01:05 INFO TaskSchedulerImpl: Adding task set 1.0 with 1 tasks
15/05/06 15:01:05 INFO TaskSetManager: Starting task 0.0 in stage 1.0 (TID 1, localhost, PROCESS_LOCAL, 1371 bytes)
15/05/06 15:01:05 INFO Executor: Running task 0.0 in stage 1.0 (TID 1)
15/05/06 15:01:05 INFO BlockManager: Found block rdd_1_0 locally
15/05/06 15:01:05 INFO PythonRDD: Times: total = 374, boot = 372, init = 1, finish = 1
15/05/06 15:01:05 INFO Executor: Finished task 0.0 in stage 1.0 (TID 1). 1870 bytes result sent to driver
15/05/06 15:01:05 INFO DAGScheduler: Stage 1 (count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:9) finished in 0.433 s
15/05/06 15:01:05 INFO DAGScheduler: Job 1 finished: count at /opt/spark-1.3.1-bin-hadoop2.6/bin/simpleApp.py:9, took 0.524992 s
15/05/06 15:01:05 INFO TaskSetManager: Finished task 0.0 in stage 1.0 (TID 1) in 426 ms on localhost (1/1)
15/05/06 15:01:05 INFO TaskSchedulerImpl: Removed TaskSet 1.0, whose tasks have all completed, from pool
Lines with a: 60, lines with b: 29

理论上是把任务分片到不同的节点上分布式执行，如果是从HDFS上面读取文件，一个地址是可以被不同机器的worker读取到的。如果是读本地local path的话，那么你要自己把文件内容分派到不同的worker机器上去，这样效果就大打折扣。

最后，其实standalone也可以写一个脚本，一次启动整个集群所有节点。太懒，以后弄~

你可能感兴趣的:(python)

理解Gunicorn：Python WSGI服务器的基石范范0825 ipython linux 运维
理解Gunicorn：PythonWSGI服务器的基石介绍Gunicorn，全称GreenUnicorn，是一个为PythonWSGI（WebServerGatewayInterface）应用设计的高效、轻量级HTTP服务器。作为PythonWeb应用部署的常用工具，Gunicorn以其高性能和易用性著称。本文将介绍Gunicorn的基本概念、安装和配置，帮助初学者快速上手。1.什么是Gunico
Python数据分析与可视化实战指南 William数据分析 python python 数据
在数据驱动的时代，Python因其简洁的语法、强大的库生态系统以及活跃的社区，成为了数据分析与可视化的首选语言。本文将通过一个详细的案例，带领大家学习如何使用Python进行数据分析，并通过可视化来直观呈现分析结果。一、环境准备1.1安装必要库在开始数据分析和可视化之前，我们需要安装一些常用的库。主要包括pandas、numpy、matplotlib和seaborn等。这些库分别用于数据处理、数学
python os.environ 江湖偌大 python 深度学习
os.environ['TF_CPP_MIN_LOG_LEVEL']='0'#默认值，输出所有信息os.environ['TF_CPP_MIN_LOG_LEVEL']='1'#屏蔽通知信息（INFO）os.environ['TF_CPP_MIN_LOG_LEVEL']='2'#屏蔽通知信息和警告信息（INFO\WARNING）os.environ['TF_CPP_MIN_LOG_LEVEL']='
Python中os.environ基本介绍及使用方法鹤冲天Pro #Python python 服务器开发语言
文章目录python中os.environos.environ简介os.environ进行环境变量的增删改查python中os.environ的使用详解1.简介2.key字段详解2.1常见key字段3.os.environ.get()用法4.环境变量的增删改查和判断是否存在4.1新增环境变量4.2更新环境变量4.3获取环境变量4.4删除环境变量4.5判断环境变量是否存在python中os.envi
Pyecharts数据可视化大屏：打造沉浸式数据分析体验我的运维人生信息可视化数据分析数据挖掘运维开发技术共享
Pyecharts数据可视化大屏：打造沉浸式数据分析体验在当今这个数据驱动的时代，如何将海量数据以直观、生动的方式展现出来，成为了数据分析师和企业决策者关注的焦点。Pyecharts，作为一款基于Python的开源数据可视化库，凭借其丰富的图表类型、灵活的配置选项以及高度的定制化能力，成为了构建数据可视化大屏的理想选择。本文将深入探讨如何利用Pyecharts打造数据可视化大屏，并通过实际代码案例
Python教程：一文了解使用Python处理XPath 旦莫 Python进阶 python 开发语言
目录1.环境准备1.1安装lxml1.2验证安装2.XPath基础2.1什么是XPath？2.2XPath语法2.3示例XML文档3.使用lxml解析XML3.1解析XML文档3.2查看解析结果4.XPath查询4.1基本路径查询4.2使用属性查询4.3查询多个节点5.XPath的高级用法5.1使用逻辑运算符5.2使用函数6.实战案例6.1从网页抓取数据6.1.1安装Requests库6.1.2代
python os.environ_python os.environ 读取和设置环境变量 weixin_39605414 python os.environ
>>>importos>>>os.environ.keys()['LC_NUMERIC','GOPATH','GOROOT','GOBIN','LESSOPEN','SSH_CLIENT','LOGNAME','USER','HOME','LC_PAPER','PATH','DISPLAY','LANG','TERM','SHELL','J2REDIR','LC_MONETARY','QT_QPA
使用Faiss进行高效相似度搜索 llzwxh888 faiss python
在现代AI应用中，快速和高效的相似度搜索是至关重要的。Faiss（FacebookAISimilaritySearch）是一个专门用于快速相似度搜索和聚类的库，特别适用于高维向量。本文将介绍如何使用Faiss来进行相似度搜索，并结合Python代码演示其基本用法。什么是Faiss？Faiss是一个由FacebookAIResearch团队开发的开源库，主要用于高维向量的相似性搜索和聚类。Faiss
python是什么意思中文-在python中%是什么意思编程大乐趣
Python中%有两种：1、数值运算：%代表取模，返回除法的余数。如：>>>7%212、%操作符（字符串格式化，stringformatting），说明如下：%[(name)][flags][width].[precision]typecode(name)为命名flags可以有+，-，''或0。+表示右对齐。-表示左对齐。''为一个空格，表示在正数的左侧填充一个空格，从而与负数对齐。0表示使用0填
Day1笔记-Python简介&标识符和关键字&输入输出 ~在杰难逃~ Python python 开发语言大数据数据分析数据挖掘
大家好，从今天开始呢，杰哥开展一个新的专栏，当然，数据分析部分也会不定时更新的，这个新的专栏主要是讲解一些Python的基础语法和知识，帮助0基础的小伙伴入门和学习Python，感兴趣的小伙伴可以开始认真学习啦！一、Python简介【了解】1.计算机工作原理编程语言就是用来定义计算机程序的形式语言。我们通过编程语言来编写程序代码，再通过语言处理程序执行向计算机发送指令，让计算机完成对应的工作，编程
python八股文面试题分享及解析(1) Shawn________ python
#1.'''a=1b=2不用中间变量交换a和b'''#1.a=1b=2a,b=b,aprint(a)print(b)结果：21#2.ll=[]foriinrange(3):ll.append({'num':i})print(11)结果:#[{'num':0},{'num':1},{'num':2}]#3.kk=[]a={'num':0}foriinrange(3):#0,12#可变类型，不仅仅改变
每日算法&面试题，大厂特训二十八天——第二十天（树）肥学 ⚡算法题⚡面试题每日精进 java 算法数据结构
目录标题导读算法特训二十八天面试题点击直接资料领取导读肥友们为了更好的去帮助新同学适应算法和面试题，最近我们开始进行专项突击一步一步来。上一期我们完成了动态规划二十一天现在我们进行下一项对各类算法进行二十八天的一个小总结。还在等什么快来一起肥学进行二十八天挑战吧！！特别介绍小白练手专栏，适合刚入手的新人欢迎订阅编程小白进阶python有趣练手项目里面包括了像《机器人尬聊》《恶搞程序》这样的有趣文章
Python快速入门 —— 第三节：类与对象孤华暗香 Python快速入门 python 开发语言
第三节：类与对象目标：了解面向对象编程的基础概念，并学会如何定义类和创建对象。内容：类与对象：定义类：class关键字。类的构造函数：__init__()。类的属性和方法。对象的创建与使用。示例：classStudent:def__init__(self,name,age,major):self.name&#
pyecharts——绘制柱形图折线图 2224070247 信息可视化 python java 数据可视化
一、pyecharts概述自2013年6月百度EFE(ExcellentFrontEnd）数据可视化团队研发的ECharts1.0发布到GitHub网站以来，ECharts一直备受业界权威的关注并获得广泛好评，成为目前成熟且流行的数据可视化图表工具，被应用到诸多数据可视化的开发领域。Python作为数据分析领域最受欢迎的语言，也加入ECharts的使用行列，并研发出方便Python开发者使用的数据
Python 实现图片裁剪（附代码） | Python工具剑客阿良_ALiang
前言本文提供将图片按照自定义尺寸进行裁剪的工具方法，一如既往的实用主义。环境依赖ffmpeg环境安装，可以参考我的另一篇文章：windowsffmpeg安装部署_阿良的博客-CSDN博客本文主要使用到的不是ffmpeg，而是ffprobe也在上面这篇文章中的zip包中。ffmpy安装：pipinstallffmpy-ihttps://pypi.douban.com/simple代码不废话了，上代码
【华为OD技术面试真题 - 技术面】- python八股文真题题库（4) 算法大师华为od 面试 python
华为OD面试真题精选专栏：华为OD面试真题精选目录:2024华为OD面试手撕代码真题目录以及八股文真题目录文章目录华为OD面试真题精选**1.Python中的`with`**用途和功能自动资源管理示例：文件操作上下文管理协议示例代码工作流程解析优点2.\_\_new\_\_和**\_\_init\_\_**区别__new____init__区别总结3.**切片（Slicing）操作**基本切片语法
python os 环境变量 CV矿工 python 开发语言 numpy
环境变量：环境变量是程序和操作系统之间的通信方式。有些字符不宜明文写进代码里，比如数据库密码，个人账户密码，如果写进自己本机的环境变量里，程序用的时候通过os.environ.get（）取出来就行了。os.environ是一个环境变量的字典。环境变量的相关操作importos"""设置/修改环境变量：os.environ[‘环境变量名称’]=‘环境变量值’#其中key和value均为string类
Python爬虫解析工具之xpath使用详解 eqa11 python 爬虫开发语言
文章目录Python爬虫解析工具之xpath使用详解一、引言二、环境准备1、插件安装2、依赖库安装三、xpath语法详解1、路径表达式2、通配符3、谓语4、常用函数四、xpath在Python代码中的使用1、文档树的创建2、使用xpath表达式3、获取元素内容和属性五、总结Python爬虫解析工具之xpath使用详解一、引言在Python爬虫开发中，数据提取是一个至关重要的环节。xpath作为一门
【华为OD技术面试真题 - 技术面】- python八股文真题题库（1）算法大师华为od 面试 python
华为OD面试真题精选专栏：华为OD面试真题精选目录:2024华为OD面试手撕代码真题目录以及八股文真题目录文章目录华为OD面试真题精选1.数据预处理流程数据预处理的主要步骤工具和库2.介绍线性回归、逻辑回归模型线性回归（LinearRegression）模型形式：关键点：逻辑回归（LogisticRegression）模型形式：关键点：参数估计与评估：3.python浅拷贝及深拷贝浅拷贝（Shal
nosql数据库技术与应用知识点皆过客，揽星河 NoSQL nosql 数据库大数据数据分析数据结构非关系型数据库
Nosql知识回顾大数据处理流程数据采集(flume、爬虫、传感器)数据存储(本门课程NoSQL所处的阶段)Hdfs、MongoDB、HBase等数据清洗(入仓)Hive等数据处理、分析(Spark、Flink等)数据可视化数据挖掘、机器学习应用(Python、SparkMLlib等)大数据时代存储的挑战(三高)高并发(同一时间很多人访问)高扩展(要求随时根据需求扩展存储)高效率(要求读写速度快)
《Python数据分析实战终极指南》 xjt921122 python 数据分析开发语言
对于分析师来说，大家在学习Python数据分析的路上，多多少少都遇到过很多大坑**，有关于技能和思维的**：Excel已经没办法处理现有的数据量了，应该学Python吗？找了一大堆Python和Pandas的资料来学习，为什么自己动手就懵了？跟着比赛类公开数据分析案例练了很久，为什么当自己面对数据需求还是只会数据处理而没有分析思路？学了对比、细分、聚类分析，也会用PEST、波特五力这类分析法，为啥
Python中深拷贝与浅拷贝的区别 yuxiaoyu.
转自：http://blog.csdn.net/u014745194/article/details/70271868定义：在Python中对象的赋值其实就是对象的引用。当创建一个对象，把它赋值给另一个变量的时候，python并没有拷贝这个对象，只是拷贝了这个对象的引用而已。浅拷贝：拷贝了最外围的对象本身，内部的元素都只是拷贝了一个引用而已。也就是，把对象复制一遍，但是该对象中引用的其他对象我不复
Python开发常用的三方模块如下：换个网名有点难 python 开发语言
Python是一门功能强大的编程语言，拥有丰富的第三方库，这些库为开发者提供了极大的便利。以下是100个常用的Python库，涵盖了多个领域：1、NumPy，用于科学计算的基础库。2、Pandas，提供数据结构和数据分析工具。3、Matplotlib，一个绘图库。4、Scikit-learn，机器学习库。5、SciPy，用于数学、科学和工程的库。6、TensorFlow，由Google开发的开源机
Python编译器鹿鹿~ Python编译器 Python python 开发语言后端
嘿嘿嘿我又来了啊有些小盆友可能不知道Python其实是有编译器的，也就是PyCharm。你们可能会问到这个是干嘛的又不可以吃也不可以穿好像没有什么用，其实你还说对了这个还真的不可以吃也不可以穿，但是它用来干嘛的呢。用来编译你所打出的代码进行运行（可能这里说的有点不对但是只是个人认为）现在我们来说说PyCharm是用来干嘛的。PyCharm是一种PythonIDE，带有一整套可以帮助用户在使用Pyt
一文掌握python面向对象魔术方法（二）程序员neil python python 开发语言
接上篇：一文掌握python面向对象魔术方法（一）-CSDN博客目录六、迭代和序列化：1、__iter__(self):定义迭代器，使得类可以被for循环迭代。2、__getitem__(self,key):定义索引操作，如obj[key]。3、__setitem__(self,key,value):定义赋值操作，如obj[key]=value。4、__delitem__(self,key):定义
一文掌握python常用的list（列表）操作程序员neil python python 开发语言
目录一、创建列表1.直接创建列表：2.使用list()构造器3.使用列表推导式4.创建空列表二、访问列表元素1.列表支持通过索引访问元素，索引从0开始：2.还可以使用切片操作访问列表的一部分：三、修改列表元素四、添加元素1.append()：在末尾添加元素2.insert()：在指定位置插入元素五、删除元素1.del：删除指定位置的元素2.remove()：删除指定值的第一个匹配项3.pop()：
Python实现简单的机器学习算法 master_chenchengg python python 办公效率 python开发 IT
Python实现简单的机器学习算法开篇：初探机器学习的奇妙之旅搭建环境：一切从安装开始必备工具箱第一步：安装Anaconda和JupyterNotebook小贴士：如何配置Python环境变量算法初体验：从零开始的Python机器学习线性回归：让数据说话数据准备：从哪里找数据编码实战：Python实现线性回归模型评估：如何判断模型好坏逻辑回归：从分类开始理论入门：什么是逻辑回归代码实现：使用skl
python中的深拷贝与浅拷贝 anshejd70787 python
深拷贝和浅拷贝浅拷贝的时候，修改原来的对象，浅拷贝的对象不会发生改变。1、对象的赋值对象的赋值实际上是对象之间的引用：当创建一个对象，然后将这个对象赋值给另外一个变量的时候，python并没有拷贝这个对象，而只是拷贝了这个对象的引用。当对对象做赋值或者是参数传递或者作为返回值的时候，总是传递原始对象的引用，而不是一个副本。如下所示：>>>aList=["kel","abc",123]>>>bLis
用Python实现简单的猜数字游戏程序媛了了 python 游戏 java
猜数字游戏代码：importrandomdefpythonit():a=random.randint(1,100)n=int(input("输入你猜想的数字："))whilen!=a:ifn>a:print("很遗憾，猜大了")n=int(input("请再次输入你猜想的数字："))elifna::如果玩家猜的数字n大于随机数字a，则输出"很遗憾，猜大了"，并提示玩家再次输入。elifn
用Python实现读取统计单词个数程序媛了了 python 游戏 java
完整实例代码：fromcollectionsimportCounterdefpythonit():danci={}withopen("pythonit.txt","r",encoding="utf-8")asf:foriinf:words=i.strip().split()forwordinwords:ifwordnotindanci:danci[word]=1else:danci[word]+=
scala的option和some 矮蛋蛋编程 scala
原文地址： http://blog.sina.com.cn/s/blog_68af3f090100qkt8.html 对于学习 Scala 的 Java™ 开发人员来说，对象是一个比较自然、简单的入口点。在本系列前几期文章中，我介绍了 Scala 中一些面向对象的编程方法，这些方法实际上与 Java 编程的区别不是很大。我还向您展示了 Scala 如何重新应用传统的面向对象概念，找到其缺点
NullPointerException Cb123456 android BaseAdapter
java.lang.NullPointerException: Attempt to invoke virtual method 'int android.view.View.getImportantForAccessibility()' on a null object reference 出现以上异常.然后就在baidu上
PHP使用文件和目录天子之骄 php文件和目录读取和写入 php验证文件 php锁定文件
PHP使用文件和目录 1.使用include()包含文件 (1)：使用include()从一个被包含文档返回一个值 (2)：在控制结构中使用include() include_once()函数需要一个包含文件的路径，此外，第一次调用它的情况和include()一样，如果在脚本执行中再次对同一个文件调用，那么这个文件不会再次包含。在php.ini文件中设置
SQL SELECT DISTINCT 语句何必如此 sql
SELECT DISTINCT 语句用于返回唯一不同的值。 SQL SELECT DISTINCT 语句在表中，一个列可能会包含多个重复值，有时您也许希望仅仅列出不同（distinct）的值。 DISTINCT 关键词用于返回唯一不同的值。 SQL SELECT DISTINCT 语法 SELECT DISTINCT column_name,column_name F
java冒泡排序 3213213333332132 java 冒泡排序
package com.algorithm; /** * @Description 冒泡 * @author FuJianyong * 2015-1-22上午09:58:39 */ public class MaoPao { public static void main(String[] args) { int[] mao = {17,50,26,18,9,10
struts2.18 +json,struts2-json-plugin-2.1.8.1.jar配置及问题！ 7454103 DAO spring Ajax json qq
struts2.18 出来有段时间了！（貌似是稳定版）闲时研究下下！貌似 sruts2 搭配 json 做 ajax 很吃香！实践了下下！不当之处请绕过！呵呵网上一大堆 struts2+json 不过大多的json 插件都是 jsonplugin.34.jar strut
struts2 数据标签说明 darkranger jsp bean struts servlet Scheme
数据标签主要用于提供各种数据访问相关的功能，包括显示一个Action里的属性，以及生成国际化输出等功能数据标签主要包括： action ：该标签用于在JSP页面中直接调用一个Action，通过指定executeResult参数，还可将该Action的处理结果包含到本页面来。 bean ：该标签用于创建一个javabean实例。如果指定了id属性，则可以将创建的javabean实例放入Sta
链表.简单的链表节点构建 aijuans 编程技巧
/*编程环境WIN-TC*/ #include "stdio.h" #include "conio.h" #define NODE(name, key_word, help) \ Node name[1]={{NULL, NULL, NULL, key_word, help}} typedef struct node { &nbs
tomcat下jndi的三种配置方式 avords tomcat
jndi(Java Naming and Directory Interface，Java命名和目录接口)是一组在Java应用中访问命名和目录服务的API。命名服务将名称和对象联系起来，使得我们可以用名称访问对象。目录服务是一种命名服务，在这种服务里，对象不但有名称，还有属性。 tomcat配置
关于敏捷的一些想法 houxinyou 敏捷
从网上看到这样一句话：“敏捷开发的最重要目标就是：满足用户多变的需求，说白了就是最大程度的让客户满意。” 感觉表达的不太清楚。感觉容易被人误解的地方主要在“用户多变的需求”上。第一种多变，实际上就是没有从根本上了解了用户的需求。用户的需求实际是稳定的，只是比较多，也比较混乱，用户一般只能了解自己的那一小部分，所以没有用户能清楚的表达出整体需求。而由于各种条件的，用户表达自己那一部分时也有
富养还是穷养，决定孩子的一生 bijian1013 教育人生
是什么决定孩子未来物质能否丰盛？为什么说寒门很难出贵子，三代才能出贵族？真的是父母必须有钱，才能大概率保证孩子未来富有吗？-----作者：@李雪爱与自由事实并非由物质决定，而是由心灵决定。一朋友富有而且修养气质很好，兄弟姐妹也都如此。她的童年时代，物质上大家都很贫乏，但妈妈总是保持生活中的美感，时不时给孩子们带回一些美好小玩意，从来不对孩子传递生活艰辛、金钱来之不易、要懂得珍惜
oracle 日期时间格式转化征客丶 oracle
oracle 系统时间有 SYSDATE 与 SYSTIMESTAMP； SYSDATE：不支持毫秒，取的是系统时间； SYSTIMESTAMP：支持毫秒，日期，时间是给时区转换的，秒和毫秒是取的系统的。日期转字符窜：一、不取毫秒： TO_CHAR(SYSDATE, 'YYYY-MM-DD HH24:MI:SS') 简要说明， YYYY 年 MM 月
【Scala六】分析Spark源代码总结的Scala语法四 bit1129 scala
1. apply语法 FileShuffleBlockManager中定义的类ShuffleFileGroup，定义： private class ShuffleFileGroup(val shuffleId: Int, val fileId: Int, val files: Array[File]) { ... def apply(bucketId
Erlang中有意思的bug bookjovi erlang
代码中常有一些很搞笑的bug，如下面的一行代码被调用两次（Erlang beam） commit f667e4a47b07b07ed035073b94d699ff5fe0ba9b Author: Jovi Zhang <[email protected]> Date: Fri Dec 2 16:19:22 2011 +0100 erts:
移位打印10进制数转16进制-2008-08-18 ljy325 java 基础
/** * Description 移位打印10进制的16进制形式 * Creation Date 15-08-2008 9:00 * @author 卢俊宇 * @version 1.0 * */ public class PrintHex { // 备选字符 static final char di
读《研磨设计模式》-代码笔记-组合模式 bylijinnan java 设计模式
声明：本文只为方便我个人查阅和理解，详细的分析以及源代码请移步原作者的博客http://chjavach.iteye.com/ import java.util.ArrayList; import java.util.List; abstract class Component { public abstract void printStruct(Str
利用cmd命令将.class文件打包成jar chenyu19891124 cmd jar
cmd命令打jar是如下实现：在运行里输入cmd，利用cmd命令进入到本地的工作盘符。(如我的是D盘下的文件有此路径 D:\workspace\prpall\WEB-INF\classes) 现在是想把D:\workspace\prpall\WEB-INF\classes路径下所有的文件打包成prpall.jar。然后继续如下操作： cd D: 回车 cd workspace/prpal
[原创]JWFD v0.96 工作流系统二次开发包 for Eclipse 简要说明 comsci eclipse 设计模式算法工作 swing
JWFD v0.96 工作流系统二次开发包 for Eclipse 简要说明 &nb
SecureCRT右键粘贴的设置 daizj secureCRT 右键粘贴
一般都习惯鼠标右键自动粘贴的功能，对于SecureCRT6.7.5 ，这个功能也已经是默认配置了。老版本的SecureCRT其实也有这个功能，只是不是默认设置，很多人不知道罢了。菜单： Options->Global Options ...->Terminal 右边有个Mouse的选项块。 Copy on Select Paste on Right/Middle
Linux 软链接和硬链接 dongwei_6688 linux
1.Linux链接概念Linux链接分两种，一种被称为硬链接（Hard Link），另一种被称为符号链接（Symbolic Link）。默认情况下，ln命令产生硬链接。【硬连接】硬连接指通过索引节点来进行连接。在Linux的文件系统中，保存在磁盘分区中的文件不管是什么类型都给它分配一个编号，称为索引节点号(Inode Index)。在Linux中，多个文件名指向同一索引节点是存在的。一般这种连
DIV底部自适应 dcj3sjt126com JavaScript
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <html xmlns="http://www.w3.org/1999/xhtml&q
Centos6.5使用yum安装mysql——快速上手必备 dcj3sjt126com mysql
第1步、yum安装mysql [root@stonex ~]# yum -y install mysql-server 安装结果： Installed: mysql-server.x86_64 0:5.1.73-3.el6_5 &nb
如何调试JDK源码 frank1234 jdk
相信各位小伙伴们跟我一样，想通过JDK源码来学习Java，比如collections包，java.util.concurrent包。可惜的是sun提供的jdk并不能查看运行中的局部变量，需要重新编译一下rt.jar。下面是编译jdk的具体步骤： 1.把C:\java\jdk1.6.0_26\sr
Maximal Rectangle hcx2013 max
Given a 2D binary matrix filled with 0's and 1's, find the largest rectangle containing all ones and return its area. public class Solution { public int maximalRectangle(char[][] matrix)
Spring MVC测试框架详解——服务端测试 jinnianshilongnian spring mvc test
随着RESTful Web Service的流行，测试对外的Service是否满足期望也变的必要的。从Spring 3.2开始Spring了Spring Web测试框架，如果版本低于3.2，请使用spring-test-mvc项目（合并到spring3.2中了）。 Spring MVC测试框架提供了对服务器端和客户端（基于RestTemplate的客户端）提供了支持。 &nbs
Linux64位操作系统（CentOS6.6）上如何编译hadoop2.4.0 liyong0802 hadoop
一、准备编译软件 1.在官网下载jdk1.7、maven3.2.1、ant1.9.4，解压设置好环境变量就可以用。环境变量设置如下：（1）执行vim /etc/profile （2）在文件尾部加入: export JAVA_HOME=/home/spark/jdk1.7 export MAVEN_HOME=/ho
StatusBar 字体白色 pangyulei status
[[UIApplication sharedApplication] setStatusBarStyle:UIStatusBarStyleLightContent]; /*you'll also need to set UIViewControllerBasedStatusBarAppearance to NO in the plist file if you use this method
如何分析Java虚拟机死锁 sesame java thread oracle 虚拟机 jdbc
英文资料： Thread Dump and Concurrency Locks Thread dumps are very useful for diagnosing synchronization related problems such as deadlocks on object monitors. Ctrl-\ on Solaris/Linux or Ctrl-B
位运算简介及实用技巧（一）：基础篇 tw_wangzhengquan 位运算
http://www.matrix67.com/blog/archives/263 去年年底写的关于位运算的日志是这个Blog里少数大受欢迎的文章之一，很多人都希望我能不断完善那篇文章。后来我看到了不少其它的资料，学习到了更多关于位运算的知识，有了重新整理位运算技巧的想法。从今天起我就开始写这一系列位运算讲解文章，与其说是原来那篇文章的follow-up，不如说是一个r
jsearch的索引文件结构 yangshangchuan 搜索引擎 jsearch 全文检索信息检索 word分词
jsearch是一个高性能的全文检索工具包，基于倒排索引，基于java8，类似于lucene，但更轻量级。 jsearch的索引文件结构定义如下： 1、一个词的索引由=分割的三部分组成：第一部分是词第二部分是这个词在多少