braker2注释流程

一： 软件安装

由于BRAKER2: 依赖AUGUSTUS 3.3, GeneMark-EX 4.33, BAMTOOLS 2.5.1, NCBI BLAST+ 2.2.31+(可选 SAMTOOLS 1.74+, GenomeThreader 1.70)，且Perl需要安装的模块也很多，我们用conda能解决这些问题(需要添加bioconda频道)。

AUGUSTUS 3.3.3

GeneMark-ET 4.46

BAMTOOLS 2.5.1

SAMTOOLS 1.7-4-g93586ed

GenomeThreader 1.7.0

Spaln 2.3.1
(https://github.com/Gaius-Augustus/BRAKER#f9)
(https://github.com/Gaius-Augustus/BRAKER#f10)
(https://github.com/Gaius-Augustus/BRAKER#g3)

Exonerate 2.2.0

NCBI BLAST+ 2.2.31+
(https://github.com/Gaius-Augustus/BRAKER#f13)
DIAMOND 0.9.24
cdbfasta 0.99
cdbyank 0.981

conda install -y braker2

除了conda能够安装的以上软件，还有的需要手动安装。
比如一定要安装的就是GeneMark，需要从 http://exon.gatech.edu/GeneMark/license_download.cgi 下载安装，然后添加环境变量。

export GENEMARK_PATH=/path_to/gm_et_linux_64

另外就是：
DIAMOND 0.9.24: 替代NCBI-BLAST+
cdbfasta 0.99: 纠正AUGUSTUS预测的开放阅读框内内含有终止密码子的基因
cdbyank 0.981: 纠正AUGUSTUS预测的开放阅读框内内含有终止密码子的基因
GenomeThreader: 仅在你需要用蛋白数据进行注释时，才需要
安装好之后加入环境：

 export CDBTOOLS_PATH=/path_to/cdbfasta/

这里是braker2的github网址
安装完成之后，建议现运行下面这一步检查软件依赖:

$braker.pl --checkSoftware
#**********************************************************************************
#                               BRAKER CONFIGURATION                               
#**********************************************************************************
# BRAKER CALL: /data1/spider/ytbiosoft/miniconda3/envs/python3/bin/braker.pl --checkSoftware
# Wed Dec 11 00:35:30 2019: braker.pl version 2.1.4
# Wed Dec 11 00:35:30 2019: Configuring of BRAKER for using external tools...
# Wed Dec 11 00:35:30 2019: Found environment variable $AUGUSTUS_CONFIG_PATH. Setting $AUGUSTUS_CONFIG_PATH to /data1/spider/ytbiosoft/miniconda3/envs/python3/config/
# Wed Dec 11 00:35:30 2019: Found environment variable $AUGUSTUS_BIN_PATH. Setting $AUGUSTUS_BIN_PATH to /data1/spider/ytbiosoft/miniconda3/envs/python3/bin/
# Wed Dec 11 00:35:30 2019: Found environment variable $AUGUSTUS_SCRIPTS_PATH. Setting $AUGUSTUS_SCRIPTS_PATH to /data1/spider/ytbiosoft/miniconda3/envs/python3/bin/
# Wed Dec 11 00:35:30 2019: Found environment variable $GENEMARK_PATH. Setting $GENEMARK_PATH to /data1/spider/ytbiosoft/soft/gm_et_linux_64
# Wed Dec 11 00:35:30 2019: Found environment variable $DIAMOND_PATH. Setting $DIAMOND_PATH to /data1/spider/ytbiosoft/soft/Diamond-master/bin/
# Wed Dec 11 00:35:30 2019: Found environment variable $PYTHON3_PATH. Setting $PYTHON3_PATH to /data1/spider/ytbiosoft/miniconda3/envs/python3/bin/
# Wed Dec 11 00:35:30 2019: Found environment variable $CDBTOOLS_PATH. Setting $CDBTOOLS_PATH to /data1/spider/ytbiosoft/soft/cdbfasta-master
# Wed Dec 11 00:35:30 2019: Exiting braker.pl because it had been started with --softwareCheck option. No training or prediction or file format check will be performed.

二：软件运行

BRAKER根据数据类型，有不同的运行模式，但根据现状其实最常见的情况是测了一个基因组，并且还测了二代的转录组，或许还有一些近缘物种的蛋白序列。

• 基因组序列: genome.fasta
• 转录组数据: XX_1.fq.gz, XX_2.fq.gz
• 蛋白序列: proteins.fa

1. 第一步: 屏蔽基因组中的重复序列，这一步参考使用RepeatModeler和RepeatMasker注释基因组重复序列

/path/to/RepeatMasker -xsmall -lib MITE_LTR.lib -dir . $REFERECE
#-xsmall: 软屏蔽

这一步输出的genome.fasta.masked将是后续注释的输入

2. 第二步: 使用STAR将FastQ比对到参考基因组，STAR使用说明参考「RNA-seq分析软件」RNA-seq比对工具STAR学习笔记

STAR下载地址
STAR各个版本的地址

mkdir -p STAR
# 建立索引
STAR \
    --runThreadN 20 \
    --runMode genomeGenerate \
    --genomeDir STAR \
    --genomeFastaFiles genome.fasta
# 比对
STAR \
    --genomeDir STAR \
    --runThreadN 20 \
    --readFilesIn XX_1.fq.gz, XX_2.fq.gz \
    --readFilesCommand zcat \
    --outFileNamePrefix xx_ \
    --outSAMtype BAM SortedByCoordinate \
    --outBAMsortingThreadN 10 \
    --outSAMstrandField intronMotif \
    --outFilterIntronMotifs RemoveNoncanonical
mv xx_Aligned.sortedByCoord.out.bam xx.bam

---

# 建立索引
--runThreadN 线程数 :设置线程数
--runMode genomeGenerate : 设置模式为构建索引
--genomedDir 索引文件存放路径 : 必须先创建文件夹
--genomeFastaFiles 基因组fasta文件路径 : 支持多文件路径
--sjdbGTFfile gtf文件路径 : 可选项，高度推荐,用于提高比对精确性
--sjdbOverhang 读段长度: 后续回帖读段的长度, 如果读长是PE 100， 则该值设为100-1=99
********************************************************************************************
*   由于物种的组装的复杂性，存在一些为组装上的片段，这些片段不需要放在参考序列中，尤其是可变单倍型(alternative haplotypes)
*   如果基因组的contig过多，超过5000，你需要用 `--genomeChrBinNbits=min(18,log2[max(GenomeLength/NumberOfReferences,ReadLength)])`降低RAM消耗
*   选择最新的注释文件，人类和小鼠常在[http://www.gencodegenes.org](http://www.gencodegenes.org/)下载，植物的可信基因组见[http://plants.ensembl.org](http://plants.ensembl.org/)
*   如果没有设置`--sjdbGTFfile`或`--sjdbFileChrStartEnd`，就不需要设置`--sjdbOverhang`
******************************************************************************************
# 比对
--runThreadN 设置线程数
--runMode alignReads : 默认就是比对模式，可以不填写
--genomeDir: 索引文件夹
--readFilesIn FASTA/Q文件路径
--readFilesCommand zcat: 如果输入格式是gz结尾，那么需要加上zcat, 否则会报错
--outSAMtype: 输出SAM文件的格式，是否排序
--outBAMsortingThreadN: SAM排序成BAM时调用线程数
*****************************************************************************************
可以用--outFileNamePrefix指定文件夹和前缀，其中"Aligned.out.sam"是默认回帖后输出。一般而言，SAM文件过大，不方便后续使用，我们更需要的是BAM文件。最好是类似于samtools sort的输出文件，那么设置参数为--outSAMtype BAM SortedByCoordinate。 如果你设置的线程数非常大，那么你很有可能会遇到如下这种报错，我的解决方案就是降低线程数。

输入结果为 xx.bam 如果测了多个组装的转录组，为每个样本运行一次比对生成多个BAM文件。
第三步: 运行BRAKER2

braker.pl --cores 48 --species=yourSpecies --genome=genome.fasta.masked \
     --softmasking --bam=xx.bam \
     --prot_seq=proteins.fa --prg=exonerate \
     --gff3
proteins.fa：近缘物种的蛋白序列

最终会输出蛋白序列和CDS序列以及GFF文件。

参考：

• BRAKER2官方教程:https://github.com/Gaius-Augustus/BRAKER
• hoptop的
• RNA-seq比对工具STAR学习笔记