教你3种方法下载NCBI GEO数据

1.常规下载方式：prefetch

    对于常规下载sra数据来说，NCBI提供了它自己的一套工具(SRA-Toolkit)，其中用prefetch来下载数据，用fastq-dump来解压数据。

1.1 首先需要获取数据信息

    一般来说，我们需要下载的数据都是来自于文献已经发表的，在文献中都会给一个GEO号，它长这个样子GSE106826。 然后我们就可以直接到GEO DataSets中去搜索该数据集中的数据了。如下图所示，直接点击Search：

然后我们就可以转到这个有文章title的界面，如下所示：

点击进去就可以进入该GEO号对应的数据集了：

那么我们的sra文件在哪里呢？可以看到下边有一个 SRA SRP124852,没错，就是它了！点进去：

然后选择任意一个连接点进去，进入到一个像这样的界面：

点击里边的 All run, 最终，终于找到了我们所有sra信息所在的位置：

在这个页面里，我们需要下载两个table，就是Download下边的两个： RunInfo Table 和 Accession List. 其中 RunInfo Table会告诉你sample的信息，比如是什么细胞类型，来自什么组织；而 Accession List则是储存里我们sra文件的获取序列号：

$ cat SRR_Acc_List.txt
SRR6283792
SRR6283793

1.2 然后用prefetch下载数据

  有了以上的sra Accession number，就可以直接用脚本命令下载数据了。

# 切换到SRR_Acc_List.txt所在的文件夹
$ ls 
SRR_Acc_List.txt
# 然后用以下命令下载
$ prefetch `less SRR_Acc_List.txt`
#如果想要后台运行可以使用nohup加&
#这样即使退出终端也不会断掉的
$ nohup prefetch `less SRR_Acc_List.txt` &

2. sacp ，飞一般的下载速度

2.1 安装ascp

wget http://download.asperasoft.com/download/sw/connect/3.7.4/aspera-connect-3.7.4.147727-linux-64.tar.gz

tar zxvf aspera-connect-3.7.4.147727-linux-64.tar.gz

# install
bash aspera-connect-3.7.4.147727-linux-64.sh

# check the .aspera directory
cd # go to root directory
ls -a # if you could see .aspera, the installation is OK

# add environment variable
echo 'export PATH=~/.aspera/connect/bin:$PATH' >> ~/.bashrc
source ~/.bashrc

# check help file
ascp --help

2.2 了解数据储存结构

注意！最近突然发现以下这个路径找不到文件了，可能NCBI储存结构已经改变，请看后边ENA部分！

  NCBI的ftp网站上可以找到我们想要的sra文件，如果你比较一下就会发现，这些储存的连接是有规律可循的，如下两个文件：

ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/SRR690/SRR6904179/SRR6904179.sra
ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/SRR690/SRR6904180/SRR6904180.sra

你会发现它们前半部分都是一样的，都以ftp://ftp.ncbi.nlm.nih.gov/sra/sra-instant/reads/ByRun/sra/SRR/开头，而后边紧跟的是SRR 序列号SRR6904179的前6位SRR690,然后就是序列号SRR6904179，再后边就是序列号加一个后缀.sraSRR6904179.sra.

   由于最近NCBI的sra数据找不到具体储存路径了，所以就从ENA数据库下载吧，ENA和NCBI存储的数据是一样的，所以不用担心数据问题，而且ENA储存的是fastq格式，更是省去了下载后从sra到fastq转化这一步骤，简直完美！

• ENA 的数据结构是这样的：

http://ftp.sra.ebi.ac.uk/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz
http://ftp.sra.ebi.ac.uk/vol1/fastq/SRR121/SRR121621/SRR121621_2.fastq.gz

基本是和ncbi之前的存储类似的，这里不再赘述。以下是下载一个文件的示例：

ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh [email protected]:/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz path/to/download_dir

• 需要注意，下载时文件地址前统一用[email protected]:开头，后边跟随文件地址/vol1/fastq/SRR121/SRR121621/SRR121621_1.fastq.gz,中间是:连接，不是/，一定要注意！！

如果是下载多个文件的话，首先像用prefetch那样拿到GEO序列号，然后用一个循环脚本就可以搞定了：

ftp='[email protected]:/vol1/fastq'

mkdir sra  # make a output directory
cat SRR_Acc_List.txt |  while read i
 do
       SRR=$(echo ${i:0:6}) 
       # ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/{i}.fastq.gz ./sra 单端测序的话只有这一个文件
       ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/${i}_1.fastq.gz ./sra
       ascp -QT -l 300m -P 33001 -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh ${ftp}/${SRR}/${i}/${i}_2.fastq.gz ./sra
 done

实测ascp下载速度可达150M/s，如果你的网络给力还可以更快！

---

3. wget 下载sra文件

  之前经常使用prefetch下载sra文件，而且量比较大，但是经常会出现time-out这种情况，会导致很多文件下载不下来，所以就考虑用wget试一下。但是这个真的不建议，除非你没有办法的情况下。wget很容易断点导致数据不完整！

• 数据来源的话依然参考上边ENA部分，脚本也基本相同，如下：
  注意这次网址直接使用的是：http://ftp.sra.ebi.ac.uk/vol1/fastq

ftp='http://ftp.sra.ebi.ac.uk/vol1/fastq'

mkdir sra  # make a output directory
cat SRR_Acc_List.txt |  while read i
 do
       SRR=$(echo ${i:0:6}) 
       # wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}.fastq.gz 单端只有一个文件
       wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}_1.fastq.gz
       wget -c -t 0 -P ./sra ${ftp}/${SRR}/${i}/${i}_2.fastq.gz
 done

参数说明：
-c 自动断点续传，一定要加！否则数据会有不完整的情况
-t 配合-c参数，设置为0表示连接失败后无限次重新尝试，直到成功为止
-P 表示把数据下载到指定文件夹下

   三种方法比较下，首先推荐ascp，速度是真的快啊；其次是prefetch，速度一般般，很容易下载失败，需要多次尝试重新下载；最不推荐的是wget，但是如果以上两种方式你都不适用，那就试试这个吧。