R语言数据处理 dplyr&reshape2&tidyr 包详解
dplyr:轻松地处理data.frame, data.table以及多种数据库为基础的数据,实现选择、变换、分组等
plry:轻松地在vector, list, data.frame之间做分组变换,实现拆分、变换、合并的操作
reshpae2:横向、纵向做数据变换
非特别标注,默认为dplyr包
准备工作
tbl_df(iris) :数据类型转化
将数据转化为tbl类型,更易于查看
glimpse(iris):tbl数据的信息密集概括
View(iris):以电子表格的样式显示数据集
%>% :管道函数,将左边对象的第一个参数传递到右边的函数中
summary():数据统计摘要;区别对待不同类型的数据变量- (1)数值型:相关极值等信息;(2)名义型/有序型:显示的是各水平的频数值
重组数据
改变数据集的布局
布局转换 - reshpae2 (数据透视)
melt(data, id.vars, measure.vars, factorsAsStrings = TRUE):以id.vars为基准,转为长格式形式
melt(data, id=c(""), measure=c("") )
id=c("","") 或 id.vars=c() 以该变量为 [基准] 进行重构;其他的列均摞起来
measure=c("") 或 measure.vars=c() :组合进id列的变量;若measure缺失,表示所有字段
varaiable.name ,表示将 各个变量的列名 放在这个列下面;
value.name,表示对应观测值的具体数值
na.rm = FALSE,
factorsAsStrings = TRUE,将因子转化为字符串
names(airquality) <- tolower(names(airquality))
View(airquality)
airquality_1 <- head(airquality,3)
aqm <- melt(airquality_1, id=c(“month”,“day”)) # 以该变量为 [基准] 进行重构;其他的列均 [摞起来]
melt(airquality_1, id=c(“month”,“day”)) # measure缺失时,默认选择所有的列
month day variable value
1 5 1 ozone 41.0
2 5 2 ozone 36.0
3 5 3 ozone 12.0
4 5 1 solar.r 190.0
5 5 2 solar.r 118.0
6 5 3 solar.r 149.0
7 5 1 wind 7.4
8 5 2 wind 8.0
9 5 3 wind 12.6
10 5 1 temp 67.0
11 5 2 temp 72.0
12 5 3 temp 74.0
melt(airquality_1, id.vars =c(“month”,“day”), measure=c(“wind”,“temp”))
month day variable value
1 5 1 wind 7.4
2 5 2 wind 8.0
3 5 3 wind 12.6
4 5 1 temp 67.0
5 5 2 temp 72.0
6 5 3 temp 74.0
dcast(data, formula, fun.aggregate = NULL):以formula中的rowvar为基准列,重铸为宽格式 [excel统计表单的格式];若加上FUN,则为 [数据透视表] 的格式
dcast(data, ID~variable, mean)
dcast的功能相当于 group_by + summarise 的功能
formula , rowvar1+rowvar2 ~ colvar1+colvar2的格式;
rowvar :以此为基准的id列;
colvar :需要重构的变量列;将该变量中的元素 [分类] 映射到 [列] 上去
运行后的结果:出现的变量,原本为变量的列名,融合后是不参与计算的;参与的是对应的value列
**若整个formula表达是中,均没有出现 variable列,默认即对其他所有的列默认做 [统计计数length] **
除非指定具体的FUN函数
fun.aggregate(聚合函数):直接列出聚合函数的名称;默认为计数 [length]
margins = NULL;向量形式的变量名字;
若为TRUE,则计算所有的合计
margins= “colname” / “rowname” 即表达式中出现的变量名
subset = NULL;针对特定的变量类别做重铸;但需要加载plyr包去接收函数
选择 行中分类值 或者 variable列中的分类 “length” 进行重铸
subset = .(variable==“length”) 或者 subset = .(month == 5 )
subset = .(time < 10 & chick < 20)
fill = NULL; 填充NA的值
drop = TRUE;对缺失值的处理;drop or Not
names(airquality) <- tolower(names(airquality))
View(airquality)
aqm <- melt(airquality, id=c(“month”, “day”), na.rm=TRUE) # 除了month和day两列,其他列摞起来,为了等长,m和d列循环对齐
dcast(aqm, day + variable ~ month) # 保持day和variable不变,按month中的元素 [分类] 映射到列上去(若month有5、6两个月,则分别有2列)
dcast(aqm, variable + day ~ month) # 换一下顺序,重复的variable连在一起,对应不一样的day,这样的方式排列
dcast(aqm, day ~ variable + month) # 只保留day列
dcast(aqm, day+month ~ variable) # 还原为原本的样子
dcast(aqm, day ~ month) # 当整个formula表达是中,均没有出现 variable列,即对其他所有的列默认做长度计算length
day 5 6
1 1 4 3 # 表示day为1,month为5时,共有4个变量
2 2 4 3
3 3 4 3
4 4 4 3
dcast(aqm, day ~ month, mean) # 对所有没有出现的变量做函数mean
day 5 6
1 1 76.35000 124.20000
2 2 58.50000 123.56667
3 3 61.90000 108.36667
4 4 101.12500 93.06667
dcast(aqm , month~variable)
Aggregation function missing: defaulting to length # 默认为计数
month ozone solar.r wind temp
1 5 26 27 31 31
2 6 9 29 29 29
dcast(aqm , month~variable, mean)
month ozone solar.r wind temp
1 5 23.61538 181.2963 11.62258 65.54839
2 6 29.44444 191.9655 10.34483 78.96552
dcast(aqm , month~variable,sum, margins = T)
month ozone solar.r wind temp (all)
1 5 614 4895 360.3 2032 7901.3
2 6 265 5567 300.0 2290 8422.0
3 (all) 879 10462 660.3 4322 16323.3
dcast(aqm , month~variable,sum, margins = “month”)
library(plyr) # needed to access . function
dcast(aqm, variable ~ month, mean, subset = .(variable == “ozone”))
dcast(aqm, variable ~ month, mean, subset = .(month == 5))
names(ChickWeight) <- tolower(names(ChickWeight))
chick_m <- melt(ChickWeight, id=2:4, na.rm=TRUE)
dcast(chick_m, chick ~ time, mean, subset = .(time < 10 & chick < 20)) # 多条件选取
dcast 和 acast区别
dcast(aqm, variable + month ~ day)
acast(aqm, variable + month ~ day) # acast和dcast的功能基本上相同,只是dcast会把 [分组信息] 作为一列或几列显示,而acast会将其作为行名
acast(aqm, day ~ month, mean) # 保留的列作为合并在一起作为列名(少了day列,不建议使用)
acast(aqm, variable ~ month ~ day) # acast 多出来的功能,生成一个三维数组,按照day的值分成31个矩阵
t(x) :转置
mtcars <- mtacrs[, c(12,1:11) ] :列重新排序
排序
arrange(mtcars, desc(mpg),var) :根据变量进行排序
arrange(flights, desc(dep_delay - arr_delay)):对计算的数据进行计算
默认为升序,aes
返回行/列名 - Basic
colnames(object):返回所有列的名称
names(object)
rownames(object):返回所有行的名称 [二维以上的任何对象]
row.names(object)
重命名列变量
rename(tbl, y=year):将变量名year变更为y
rename(data, newname=oldname) # 新的列名在前
select(df2tbl, x1 = x, y1 = y):选择变量时,重命名;x1为新的列名
fix(object):可以同时改变格式 numeric / character 【Basic】
data_frame(a=1:3, b=3:5):将向量合并为数据框
合并 & 分割 - Tidyr
separate(data, col, into, sep="[1]+", remove=TRUE, convert=FALSE, extra=“warm”, fill=“warm”):将一列分隔为几列
data:
col :待分隔的列
into=c("",""):新的列名
sep:分隔符;
若为字符串,作为正则表达式进行匹配(默认)
若为数值型,则根据位置进行匹配(-1代表最后一位)
remove =TRUE,移除原来的待分隔的列
convert=FALSE, 若为TRUE,则进行格式转换
separate_rows(data, …, sep="", convert=FASLE):把一列分隔为若干行
unite(data, col, …, sep="_", remove=TRUE):把几列合并为一列
… : 指定需要合并的列名
col="" :合并后新增的列名
unite(table, century, year, col=“year”, sep="")
重编码&排名 - 参见 [创建新变量]
合并数据集
合并联接 - Join
等价于SQL中的join联接
inner_join(a, b,by=“x1”) :内联接 合并数据,仅保留匹配的数据
left_join(a, b, by=“x1”) :以a表为基准表,加入与a表中x1列匹配的数据集b的记录
right_join(a, b, by=“x1”) :以b表为基准表,加入与b表中x1列匹配的数据集b的记录
outer_join(a,b, by=“x1”):保留所有数据,所有行
by = NUll(默认);表示为 自联接,自动选取 [相同的列] 作为索引
by=c(‘col1’, ‘col2’):两个表中相同名称列的匹配
by=c(‘col1’ = ‘col2’) :两个表中不同名称列之间的匹配
copy=False(默认); 若为True, 当a与b不为同一张表,会自动创建一个y的表
集处理 - 行
intersect(y, z):均出现在数据集y和z中的记录行
union(y, z):出现在y或者z中的记录,自动删除重复的值
setdiff(y, z):仅出现在数据集y 而不在z中的记录行
合并与筛选
仅返回匹配列的记录
semi_join(a, b, by=“x1”): 数据集a中能与b匹配的记录,以a表中"x1"列的值为索引
anti_join(a, b, by=“x1”) :数据集a中能与b不能匹配的记录,以a表中"x1"列的值为索引
插入行/列
bind_rows(y, z) :插入新行;把数据集 z 作为新的行添加到y中
bind_cols(y, z): 添加新列;把数据集 z 作为新的行添加到y中(注意:数据按所在位置匹配)
数据选取
子集观测值 - 行
filter(tbl_df, cond & cond) :根据逻辑条件选取,使用 &或者| 来进行设置
filter(hflights_df, Month == 1, DayofMonth == 1)
filter(tbl_df, x %in% c(“a”,“b”)) :表示x中包含"a"或者"b"的值,返回为逻辑为真
filter(iris,Species!=“setosa”) / filter(iris,!Species %in% c(“setosa”)):排除某些行 !
filter() %>% select(., var):选中子集中的特定列
对于多条件的选择,需要完整条件的,然后使用集合运算符将条件拼接起来。
& 、|
==、 >=、<>、!=
%in%
sample_frac(iris, 0.5, replace=False):按比例进行随机选取
sample_n(iris, 10, replace=True) :按数量进行随机选取
slice(mtcars, n:n): 通过行数的位置进行选取, 等价于data[n:n, ]
top_n(mtcars, 1, desc(carb) ):选取并排列前n条记录;相当于先按某变量进行排序,然后选择前n条记录。
top_n(tbl_df, n [,wt])
若为分组数据,则按组排序
子集变量 - 列
Selection drops variables that are not in the selection while renaming retains them
select(mtcars, hp) :通过列名或帮助函数选取列变量
select(tbl_df, mpg:hp):;选取在mpg和hp之间的连续多个变量 (包含mpg&hp;用:连接
select(tbl_df, -var) / select(tbl_df, -(var1:var4)):通过-来排除某个变量列
select(tbl, xxx ):通过帮助函数进行选择
starts_with(“x”):列名中以元素x为首的列
ends_with(“x”):列名中以元素x结尾的列
contains(“x”):包含元素x的列
matches(".t"):符合指定匹配正则表达式的列
one_of(c("mpg,“hp”) ):名字在指定组中的列,等价于 select(tbl, mpg, hp)
everything():所有列,一般调整数据集中变量顺序时使用
select(df2tbl,y,everything()) #将变量y放到最前
num_range(“x”, 1:5):选取名为x1、x2、x3、x4、x5的列
select_if():选取不同条件的列
hflights %>% select_if(is.factor):选取hflights数据中为因子的列 / is.numeric
hflights %>% select_if(function(col) is.numeric(col) && mean(col) > 3.5):选取hflights数据中某一变量列 ??
唯一值
distinct(iris):删除重复记录
distinct(hflights_df, Month, .keep_all = TRUE)
指各个变量列均相同的记录
unique(x):只对向量可用;或对各行中各变量完全相同的行取一行
!duplicated(x): 返回逻辑值;若完全相同则为TRUE,可对data.frame使用
x[!duplicated(x)] :选取不重复值的值
返回data中所有不相同的值,然后在进行行选取data[x, ]
data <- data[!duplicated(data), ] --# 返回各列所有相同的值 data[duplicated(test),]
data <- data[!duplicated(test[, “var”]), ]
data <- data[!duplicated(test[, c(“var1”,“var2”)], ]
创建新变量
根据是否删除原列进行区分
计算并添加新列
若要将多个单元格中的值合并,用stringr包中的str_c()
运用 直 接 创 建 m t c a r s 直接创建 mtcars 直接创建mtcarsnew <- sqtr(mtcars$carb)
mutate(tbl_df, var3=var1+var2, var4=var3+…):优势在于可对刚添加的列进行变换
mutate_each(iris, funs(min_rank), [var1,var2]):对每一列运行窗口函数
mutate_all():对每一列运行窗口函数
mutate_at():对指定的列运行窗口函数
mutate_if():对指定类型的列运行窗口函数
窗口函数:
min_rank # 排序,并列时,其他序号延号
dense_rank #无缝排序
row_number # 排序。并列时将并列数在前的序号在前
percent_rank # 把数据在[0,1]中重组,并排序
lead # 把除第一个值以外的所有元素提前,最后一位为NA
lag # 把除最后一位以外的所有数据延后,第一个元素为NA
between() # 数据在a、b之间
ntile # 把数据分为n分
cute_dist # 累计分布
cummean # 累积mean函数
cumsum # 累积sum函数
cusmax # 累积max函数
cusmin # 累积min函数
cumall # 累积all函数
cumany # 累积any函数
cumprod # 累计prod函数
pmax # 针对元素的max函数;返回输入中最大的值,并将其长度自动扩大到输入中长度最大的那个向量
pmin # 针对元素的min函数
计算并删除其他列
transmute(df, var3=var1+var2):该函数扩展新变量的同时,将删除原始变量 ;常伴有na.rm=T
na.rm= True 计算时排除NA值
mutate(head(airquality),Temp=Temp - 32)
Ozone Solar.R Wind Temp Month Day
1 41 190 7.4 35 5 1
2 36 118 8.0 40 5 2
3 12 149 12.6 42 5 3
4 18 313 11.5 30 5 4
5 NA NA 14.3 24 5 5
6 28 NA 14.9 34 5 6
transmute(head(airquality),Temp=Temp - 32)
Temp
1 35
2 40
3 42
4 30
5 24
6 34
排名
row_number():对于相同的值,位置在前的排名在前。
min_rank():对于相同的值,均显示排名较前的值。
dense_rank():对于相同的值,类似于min_rank(),均显示排名较小的值;但与后一位之间没有间隔;
percent_rank():将排名缩放为[0,1]之间的值
cume_dist():累计的分布函数
ntile(x,n):将x划分为n个组块
x <- c(5, 1, 3, 2, 2, NA)
row_number(x)
[1] 5 1 4 2 3 NA
min_rank(x) # 相同的值,排名较前的值
[1] 5 1 4 2 2 NA
dense_rank(x) # 相同的值,排名较前的值,但与后一位没有间隔
[1] 4 1 3 2 2 NA
percent_rank(x)
[1] 1.00 0.00 0.75 0.25 0.25 NA
cume_dist(x)
[1] 1.0 0.2 0.8 0.6 0.6 NA
ntile(x, 2)
[1] 2 1 2 1 1 NA
重编码
if_else() & case_when() 适合进行重编码,但缺少对象的输入,可结合within()
因为recode是**面向 [向量] **的函数
常规编码 - within / $
within(x, {}) :对x中的对象做运算
within:能对原始数据进行修改
with():不能对原始数据进行修改,创建的变量只能在花括号之内有效(即使进行赋值也是如此)
aq<-with(head(airquality), {
aq
NULL # 显示为NULL,即aq不存在
aq<-within(head(airquality), { # Notice that multiple vars can be changed
aq
Ozone Solar.R Wind Month S.cT cTemp lOzone
1 41 190 7.4 May 9.793814 19.4 3.713572
2 36 118 8.0 May 5.315315 22.2 3.583519
3 12 149 12.6 May 6.394850 23.3 2.484907
4 18 313 11.5 May 18.742515 16.7 2.890372
5 NA NA 14.3 May NA 13.3 NA
6 28 NA 14.9 May NA 18.9 3.332205
**Recode(var, recodes, as.factor.result, as.numeric.result=TRUE, levels) **:car包中的Recode函数,用法与car包中的recode函数相同;无需通过指定car包来运行;
var:字符型、数值型、因子型 向量
recodes:字符串格式的重编码方式;即编码内容需用 引号" "包括起来,多个条件之间用分号;分隔
单个变量:“0=NA”
一组向量:“c(7,8,9)=‘high’”
一组序列变量:“7:9=‘C’”
未匹配的值: “else=NA”
字符串变量:"‘a’=‘b’ " 若编码的内容为字符串格式,需要用引号括起来;而最外面的引号也是必不可少的
as.factor.result = T/F;当输入的var为因子格式时,默认为TRUE,否则默认为FALSE
as.numeric.result=T/F;当输入的var为数值格式时,默认为TRUE,否则默认为FALSE
levels:可选的,默认为原本的顺序
recode(.x, a= ‘apple’, .default = NULL, .missing = NULL):保持原有的顺序水平;
recode_factor(.x, …, .default = NULL, .missing = NULL, .ordered = FALSE):
.x : 进行处理的向量
对于数值型向量,你可以基于位置替换它
对于字符串,你可以基于字符串的名称来替换它
指定替换的变量为字符串 a = ‘apple’ : a为对象中要变更的值;'apple’为变更后的值
.default=NULL: 对未匹配的值不做变更;
.default=NA_character_ :用NA替换未匹配的值
.default= ‘others’ : 可以指定替换的值
.default = level(x) :支持对默认的顺序进行因子化
指定替换的变量为数值 2
=20 或 20L
若对象x为向量is.vector() ,若不加L,则对于未匹配的值默认用NA替换;加L,对其他未匹配的值不做变更; ???
.missing = NULL(默认) :对缺失值NA不做处理,默认为NA;
.missing = “missing”:指定具体的值对NA进行替换
若不指定替换的变量,默认按照位置顺序进行重编码;但对未匹配的值默认用NA替换
.order=FALSE(默认):若为TRUE,则创建有序的因子
当输入的向量是可比较的,它的因子会被重新定义为默认的
x <- sample(c(“a”, “b”, “c”), 10, replace = TRUE)
x
[1] “a” “a” “b” “b” “a” “b” “a” “a” “a” “c”
recode(x, a = “Apple”)
[1] “Apple” “Apple” “b” “b” “Apple” “b” “Apple” “Apple” “Apple” “c”
recode(x, a = “Apple”, .default = NA_character_)
[1] “Apple” “Apple” NA NA “Apple” NA “Apple” “Apple” “Apple” NA
x <- c(1:5)
recode(x, ‘2’= 20L, ‘4’ = 40L) # 加上L之后,对未匹配的值不做变更
[1] 1 20 3 40 5
recode(x, ‘2’= 20, ‘4’ = 40)
[1] NA 20 NA 40 NA
recode(x, “a”, “b”, “c”) # 但对未匹配的值默认用NA替换
[1] “a” “b” “c” NA NA NA
#--------recode_factor------------------------------------------#
recode_factor(factor(letters[1:3]), b = “z”, c = “y”) # 当输入的向量是可比较的,它的因子会被重新定义为默认的
[1] a z y
Levels: z y a
条件编码
if_else(cond, true_value, false_value, missing=NULL):对于逻辑值的重编码
cond : 条件
missing = NULL(默认); 若对缺失值替换为某个值,需指定 “x”
leadership<-within(leadership,{
agecat<-NA
agecat[age>75] <- “Elder”
agecat[age>=55 & age<=75] <- “Middle aged”
agecat[age<55]<-“young”
})
y n e w < − i f e l s e ( y new<- if_else(y new<−ifelse(ynew<=1, 10, y$new)
within(y,{
carb <- if_else(carb<=2,20,carb)
})
case_when(cond ~ “”, TRUE ~ “”):多条件的重编码
类同于SQL的case when;多条件之间按顺序进行执行。
~ :表示赋值
TRUE :类同于 Else的功能
配合list() 与 !!!,将语句进行拼接,然后执行
x <- 1:10
case_when(
x %% 3 == 0 ~ “fizz buzz”,
x %% 5 == 0 ~ “fizz”,
x %% 7 == 0 ~ “buzz”,
TRUE ~ as.character(x)
)
starwars %>%
select(name:mass, gender, species) %>%
mutate(
type = case_when(
height > 200 | mass > 200 ~ “large”,
species == “Droid” ~ “robot”,
TRUE ~ “other”
)
)
patterns <- list( # 先将语句拼接
TRUE ~ as.character(x),
x %% 5 == 0 ~ “fizz”,
x %% 7 == 0 ~ “buzz”,
x %% 35 == 0 ~ “fizz buzz”
)
case_when(!!! patterns) # 用 !!! 执行
缺失值
检查与判断
is.na(x):逻辑判断
colSums(is.na(x)):求该列缺失值的数量
mean(is.na(x)):求该列缺失值的比例
is.nan(x):判断不可能值
is.infinite(x) :判断无穷值
移除
na.rm=T:在计算之前将缺失值移除,可用在函数内部
na.omit(x): 移除所有含缺失值所在的行 [删除整行]
newdata <- na.omit(mydata)
缺失值重编码
na_if(x, y):把对象x中的y替换为NA
x <- c(1, -1, 0, 10)
[1] 1 -1 0 10
na_if(x,0)
[1] 1 -1 NA 10
coalesce(x,y):把对象x中的NA替换为y
x, y :均为向量
x <- sample(c(1:5, NA, NA, NA)); x
[1] 5 3 NA 4 2 NA 1 NA
coalesce(x, 0L)
[1] 5 3 0 4 2 0 1 0
y <- c(1, 2, NA, NA, 5)
z <- c(NA, NA, 3, 4, 5)
coalesce(y, z)
[1] 1 2 3 4 5
vecs <- list(
c(1, 2, NA, NA, 5),
c(NA, NA, 3, 4, 5)
)
coalesce(!!! vecs)
其他
pmin/pmax(…, na.rm=FALSE):返回输入中最小/最大值的向量组合,并将其长度自动扩大到输入中长度最大的那个向量
min/max():只返回单一长度的值
pmax(5:1,10)
[1] 10 10 10 10 10
概述函数 - summairse
summarise(iris, avg=mean(Sepal.Length)) :对数据进行概述,并创建新的子集 (将数据概括为单行数值)
summarise_all(.tbl, .funs, …):对每一列运行概述概述
summarise_each(iris, funs(mean)) :对每一列运行概述函数
summarise_at(.tbl, .vars, .funs, …, .cols=NULL):对指定的列运行概述函数
summarise_at(mtcars, vars(hp,mpg), mean, …, .cols=NULL)
vars() : 表示需要进行概述的列
.funs的用法
直接在函数中写明需要运行的函数 summarise(., vars(), mean)
结合funs写出调用的函数 summarise(., vars(), funs(mean))
summarise_if(.tbl, .predicate, .funs):对指令类型的列运行概述函数
funs的用法
summarise_all(df1[,-1],funs(mean,sum)) # 若出现两个及以上的函数,列名中自动添加后缀
summarise_all(df1[,-1],funs(sum(.*2))) # 所有数据用.表示
summarise_all(df1[,-1],funs(medi=median)) # 指定得到的列后缀名
summarise_all(df1[,-1],funs(“in”=median)) # 或者加引号 (因为in在R中表示其他含义)
mutate_all(df1[,-1],funs(.^2))
min / max / mean / median / sd / var / sum / IQR (向量的四分位距离)
n (向量中元素的个数)/ n_distinct (不同元素的个数)
first / last / nth (向量的第n个值)
name1 <- c(“Bob”,“Mary”,“Jane”,“Kim”)
weight <- c(60,65,45,55)
height <- c(170,165,140,135)
weta <- 1:4
df1 <- data.frame(name1,weight,height,weta);df1
summarise(df1,avg_weight=mean(weight),avg_height=mean(height))
summarise_all(select(df1,-1), mean)
summarise_at(df1,vars(weight,height,weta),mean)
summarise_at(df1,vars(weight:weta),mean)
u <- c(“weight”,“height”)
summarise_at(df1,vars(one_of(u)),mean) # 可以接字符串向量
summarise_at(df1,u,mean) # 也可以直接接字符串向量
summarise_at(df1,u,mean,trim=1) # mean的参数可以接在后面
summarise_at(df1,vars(contains(“eig”)),mean) # 匹配含有的
summarise_at(df1,vars(matches(".t.")),mean) # 使用正则表达式
summarise_at(df1,vars(starts_with(“w”)),mean) # 匹配以此为开头的
summarise_at(df1,vars(ends_with(“ht”)),mean) # 匹配以此为结尾的
summarise_at(df1[,-1],vars(everything()),mean) # 选择所有列
summarise_if(df1,is.numeric,mean)
count(iris, Species [, wt=Sepal.Length]) :计算变量中每一个特定值的行数/频率/求和 (带或不带权重)
若出现wt,表示进行 [求和] ;
count(iris, Species) # 分组计算Species列中各类别的频量;类似于基本函数包中的table函数
count(iris, Species, wt=Sepal.Length) # 即按Species分组后,求对应Sepal.Length中的值的总和
–等价于 iris %>% group_by(., Species) %>% summarize(., sum(Sepal.Length))
计数
length(x):返回一组向量(包括列表)或因子的长度
length(object/data$col)
length(na.omit(object/data$col))
length(unique(data$col/object)) # 等价于 n_distinct()
nrow() / ncol():总行数/总列数
n():返回观测行的行数,不能单独使用(可被用于 summarise()、mutate()、filter() )
n_distinct(x, na.rm=FALSE):返回不重复的行数
sum(!is.na()):计算非空值的行数
分布
mean(x, na.rm=FALSE) :返回均值;
mean(!is.na()) :非空值的均值
median(x, na.rm=FASLE):返回中位数
sum(x, na.rm=FALSE):返回求和
range(object):值域
colSums(x) / rowSums(x):各列/行求和
colMeans(x) / rowMeans(x):各列/行求均值
位置与序列
first(x)/last(x):最前/后的值
nth(x, n):从开始数的第n个值
quantile(x, probs=seq(0, 1, 0.25), na.rm=FALSE):显示x中处于[0,0.25,0.5,0.75,1]的值
probs = seq(0,1, 0.25) 或者 = c(0.25,0.5) :指定要显示的所处位置的值
min/max(x, na.rm=FALSE):返回最大/最小值
趋势
IQR():四分位距离
var():方差
sd():标准差
mad():绝对均方差
数字处理
options(digits=7) :默认有效位数为7位
trunc(x):取整 trunc(3.531) [1] 3
floor(x):向下取整
ceiling(x):向上取整
sigif(x, digits=n):指定最小值的有效位数
abs(x):绝对值
x %% y :求余数
x^n:幂次方
exp(x):指数
ln(x) / log(x, y):对数
sqrt(x):平方根
分组
group_by(.data, …, add=FALSE):根据Species进行分组
group_by(mtacrs, cyl,vs )
… : 表示用于分组的列名;
add= FALSE(默认)
FALSE,表示会覆盖原来的分组,相当于对源数据重新分组;
若为TRUE,则不覆盖,相当于在原来的基础上在进行分组;
by_cyl <- mtcars %>% groupby(cyl)
by_cyl %>% group_by(vs, am) %>% # add默认为FALSE,即对 mtcars进行 vs,am 两个变量进行分组;
summarise_at(.,vars(new),funs(mean) )
vs am new
1 0 0 1.737751
2 0 1 2.115355
3 1 0 1.404061
4 1 1 1.177520
group_by(mtcars, vs,am) %>% summarise_at(.,vars(new),funs(mean) )
vs am new
1 0 0 1.737751
2 0 1 2.115355
3 1 0 1.404061
4 1 1 1.177520
by_cyl %>% group_by(vs, am, add=TRUE) %>%
cyl vs am new
1 4 0 1 1.414214
2 4 1 0 1.276142
3 4 1 1 1.177520
4 6 0 1 2.149830
5 6 1 0 1.500000
6 8 0 0 1.737751
7 8 0 1 2.414214
group_by(mtcars, cyl,vs,am) %>% summarise_at(.,vars(new),funs(mean) )
cyl vs am new
1 4 0 1 1.414214
2 4 1 0 1.276142
3 4 1 1 1.177520
4 6 0 1 2.149830
5 6 1 0 1.500000
6 8 0 0 1.737751
7 8 0 1 2.414214
ungroup(iris):移除数据框的分组信息
group_by_all():
group_by_at(.tbl, .vars, .funs = list(), …, .add = FALSE):
group_by_at(df, vars(accept,weight)) %>% summarise(., var=mean(height),count=n())
group_by_at() 与 group_by 的区别,仅在与at中将分组的变量用 vars() 包含起来,利于查看
group_by_if():
iris %>% group_by(., Species) %>% summarize(., sum(Sepal.Length)):对每一个分组分别进行概述计算
iris %>% group_by(., Species) %>% mutate(., …):按组计算新变量
分组&概述函数
plyr - 分隔-操作-合并
用来切割、计算、合并数据的包
在一个函数内同时解决spilt-apply-combine的三个步骤
Spilt:把要处理的数据分割成小的片段
Apply:对每个小片段进行操作
Combine:把片段重新组合
aplyr(.data, .margins, .fun, …, .progress = “none”)*
dplyr(.data, .variables, .fun, …, .progress = “none”)*
lplyr(.data, .fun, …, .progress = “none”)*
首字母代表输入的待处理的数据格式,第二个字母-输出的数据格式;
ddply(.data, .variables, .fun = NULL, …, .progress = “none”, .inform = FALSE, .drop = TRUE, .parallel = FALSE, .paropts = NULL):以ddplyr为例
ddply()函数会自动的将分割后的每一小部分的计算结果汇总,以data.frame的格式保存。
控制流
重复和循环
for结构 :for (var in seq) statement
循环执行某语句statement,直到某个变量var的值不在包含在序列seq中为止
for (i in 1:10) print(“hello”)
while结构 :while (cond) statment
必须确保cond中的条件语句能【被改变】(即它在某个时刻不在为真),否则循环将永不停止
条件执行
if-else结构:if (cond) statement 或者 for (cond) statement1 else statement2
if (!is.factor(grade)) gerade <- as.factor(grade) else print(“Grade already is a factor”)
ifelse结构:ifelse(cond, statement1, statement2)
ifelse(sorce>0.5, print(“Passed”), print(“Failed”))
outcome <- ifelse(socre>0.5, “Passed”, “Failed”)
switch结构:根据一个表达式的值选择语句执行switch(expr,…)
feelings <- c(“sad”, “afraid”)
for (i in feelings)
print(
switch(i,
happy = “I am glad you are happpy”, # 用逗号分隔
afraid = “There is nothing to fear”,
sad = “Cheer Up”,
angry = “Calm down now”
)
)
逻辑判断
which(): 返回为真的逻辑对象,允许对数组array使用
自编函数
结构
myfunction <- function(arg1, arg2, …){
statements
return(object)
}
数据拆分
pretty(x, n) :将连续型变量x分给为n个区间;
cut(x, n,[order_result=TRUE]):将连续型变量x分割成有n个水平的因子
:alnum: ↩︎