【Linux 笔记】Linux 基本操作 - 04. 利用SRA数据实践文本处理

【Linux 笔记】Linux 基本操作 - 04. 利用SRA数据实践文本处理

  • 10. 文本处理实践
    • 基本操作
    • grep 筛选数据(行)
    • cut 和 awk 操作数据(列)
    • sort 常用参数总结

笔记接上篇【Linux 笔记】Linux 基本操作 - 03. shell脚本编程。笔记大部分源于生信技能树的B站视频教程【生信技能树】生信人应该这样学linux(更新至第14集),如有需要,可去欣赏原汁原味的视频讲解。

10. 文本处理实践

下载SRA数据库中SRP115453 (PRJNA398328) 研究的测序数据信息文件 SraRunTable.txt 和测序结果ID文件SRR_Acc_List.txt,利用FileZilla或者WinSCP将其上传到服务器,以此作为此次文本操作实践的测试数据。数据库的介绍详见:【数据库】SRA数据库介绍及数据下载

测试数据文件下载地址:
https://www.ncbi.nlm.nih.gov/Traces/study/?acc=SRP115453&o=acc_s%3Aa

文章:Liu H, Murphy CJ, Karreth FA, Emdal KB, White FM, Elemento O, Toker A, Wulf GM, Cantley LC. Identifying and Targeting Sporadic Oncogenic Genetic Aberrations in Mouse Models of Triple-Negative Breast Cancer. Cancer Discov. 2018 Mar;8(3):354-369. doi: 10.1158/2159-8290.CD-17-0679.
文章下载地址:http://cancerdiscovery.aacrjournals.org/content/candisc/early/2018/02/14/2159-8290.CD-17-0679.full.pdf
数据地址:
https://www.ncbi.nlm.nih.gov/sra/?term=SRP115453
https://www.ebi.ac.uk/ena/browser/view/PRJNA398328?show=reads

基本操作

grep RNA SraRunTable.txt | wc  #统计RNA-seq的数据个数
head SRR_Acc_List.txt > id     #数据量较大,取前10个作为测试
cat id

# 将默认名字修改为简单易区分的名称
mv SraRunTable.txt info   
mv SRR_Acc_List.txt allid
head * | less -NS #q;查看当前路径下所有文件的前10行

在这里插入图片描述

grep 筛选数据(行)

grep -f id info | wc # -f:在文件中进行匹配; 
# grep的参数
# -w:完全匹配(word)
# -c:计数,grep -fc id info
# -v:返回未匹配到的部分
grep -v '^#' tmp #匹配不以#开题的行

which grep  # 所在目录 /bin/grep
type grep  # grep 是 `grep --color=auto' 的别名

cut 和 awk 操作数据(列)

less -SN info # -N显示行号;-S:不换行显示

# 查看文件的表头,按列显示,并标注行号,方便后续的操作
head -1 info | tr ' ' '\n' | cat -n  #tr: 将以空格分隔的列,修改为按换行符分隔。cat -n: 显示行号
## 1  Run,age,Assay
## 2  Type,AvgSpotLen,Bases,BioProject,BioSample,BioSampleModel,Bytes,Center
## 3  Name,Consent,DATASTORE
## 4  filetype,DATASTORE
## 5  provider,DATASTORE
## 6  region,Experiment,Genotype,Instrument,Library
## 7  Name,LibraryLayout,LibrarySelection,LibrarySource,mouse_number,Organism,Platform,primary_tumor_index,ReleaseDate,Sample
## 8  Name,sequencing_type,sex,SRA
## 9  Study,Strain,Tissue,Treatment,tumor_index,replicate_number

# 数据的存储,比想象中更复杂一些,接下来现将所有列的分隔符,由空格改成逗号分隔
head -1 info | tr ' ' ',' |  tr ',' '\n' | cat -n
## 1  Run
## 2  age
## 3  Assay
## 4  Type
## 5  AvgSpotLen
## 6  Bases
## 7  BioProject
## 8  BioSample
## 9  BioSampleModel
## 10  Bytes
## 11  Center
## 12  Name
## ……
head -2 info | tail -1 | tr ' ' ',' |  tr ',' '\n' | cat -n

head -4 info | tr ' ' ',' |  tr ',' ' ' | cut -d" " -f1,4,7,8,27,43-47  #-d: 指定分隔符
##Run Type BioProject BioSample LibrarySource replicate_number
##SRR5933808 WXS PRJNA398328 SAMN07504110 Trp53+/+;Brca1+/+; 2017-11-11T00:00:00Z HL-WES-34 WEX female SRP115453
##SRR5933809 WXS PRJNA398328 SAMN07504109 Trp53flox/flox;Brca1+/+; 2017-11-11T00:00:00Z HL-WES-22 WEX female SRP115453
##SRR5933810 RNA-Seq PRJNA398328 SAMN07504108 Trp53flox/flox;Brca1flox/flox; HL145 RNAseq female SRP115453 C57BL/6

# 可见上述第27列,是由分号分隔的元素,取分号前的一列
head -4 info | tr ' ' ',' |  tr ',' ' ' | cut -d" " -f27 | cut -d";" -f 1
##LibrarySource
##Trp53+/+
##Trp53flox/flox
##Trp53flox/flox

head -4 info | tr ' ' ',' |  tr ',' ' ' | cut -d" " -f27 | tr ";"  "\t" #替换分隔符
head -4 info | tr ' ' ',' |  tr ',' ' ' | cut -d" " -f27 | sed 's/;/\t/g' #替换分隔符
##LibrarySource
##Trp53+/+        Brca1+/+
##Trp53flox/flox  Brca1+/+
##Trp53flox/flox  Brca1flox/flox
##Trp53+/+        Brca1+/+

## 查看该研究中的实验类型,排序并统计频数
cat info | tr ' ' ',' |  tr ',' ' ' | cut -d" " -f4 | sort | uniq -c
## 88 RNA-Seq
## 94 WXS
## 可见在182个实验中,RNA-Seq数据共88个,WXS数据共94个。

# 对染色体进行排序
# ln -s /mnt/hd3/shuju/hucy/humandb/hg19_refGene.txt /mnt/hd3/shuju/hucy/SRA_data/hg19_refGene.txt
cut -f3 hg19_refGene.txt | sort | uniq -c
## 7053 chr1
## 3465 chr10
## 4125 chr11
## ……
## 3712 chr17
## 63 chr17_ctg5_hap1
## 1 chr17_gl000205_random
## 1175 chr18
## 4278 chr19
## 21 chr19_gl000209_random
## 9 chr1_gl000191_random

# 按染色体大小号顺序排序
cut -f3 hg19_refGene.txt | sort -V | uniq -c  #-V, --version-sort:在文本内进行自然版本排序
## 7053 chr1
## 9 chr1_gl000191_random
## 1 chr1_gl000192_random
## 4938 chr2
## 4256 chr3
## 2639 chr4
## 14 chr4_ctg9_hap1
## 1 chr4_gl000193_random
## 4 chr4_gl000194_random
## 3264 chr5
## 3628 chr6
## 256 chr6_apd_hap1
## 3780 chr7
## 9 chr7_gl000195_random
## 2852 chr8
## 2900 chr9
## 3465 chr10
## 4125 chr11

cut -f3 hg19_refGene.txt | sort | uniq -c | sort -k1,1nr | head  #按染色的频数排序
cut -f3 hg19_refGene.txt | sort | uniq -c | sort -k1,1nr | head -20 >tmp #建议存成文件,反复排序浪费CPU
awk '{print $1}' tmp | paste -s -d +
# -s:把文件的多行变成1行,默认分隔符是空格
# -d:改变分隔符
# awk 默认空格分隔,可有多个空格
## 7053+4938+4278+4256+4125+3780+3712+3670+3628+3465+3264+2902+2900+2855+2852+2639+2475+2299+1850+1562

awk '{print $1}' tmp | paste -s -d + | bc # bc:计算表达式

grep -w gene hg19_refGene.txt| wc 
awk '{if($3=="gene")print}' grep gene hg19_refGene.txt | wc #awk外边使用单引号,则内部需使用双引号

perl -alne '{print if $F[2] eq "gene"}' hg19_refGene.txt | wc

# 查看运行时间
time grep gene hg19_refGene.txt| wc 
time awk '{if($3=="gene")print}' hg19_refGene.txt | wc
time perl -alne '{print if $F[2] eq "gene"}' hg19_refGene.txt | wc

# 查看使用最频繁的命令
history | awk '{print $2}' | sort | uniq -c | awk '{print $1 "\t" $2}'|sort -k1,1n #注意uniq后的两列间的分隔符不规范,可能是多个不等的空格;awk后的单双引号问题
head * | less -NS #q

sort 常用参数总结

-k1,1:-k选项指定某列的排序方式。而每次使用 -k选项都要带上指定列的范围(start, end)。如果只指定一列,就为(start,start)了,像上面命令的 -k1,1就是。
-r: 逆向排序
-n: --numeric-sort 指定程序把列当做数值对待。
-g: 可按科学计数法进行排序
-V: --version-sort:在文本内进行自然版本排序,染色体按大小号显示
-t: --field-separator=分隔符 使用指定的分隔符代替非空格到空格的转换

参考阅读:
生信技能树 - linux命令行文本操作一文就够

热门文章

暂无图片
编程学习 ·

Java输出数组的内容

Java输出数组的内容_一万个小时-CSDN博客_java打印数组内容1. 输出内容最常见的方式// List<String>类型的列表List<String> list new ArrayList<String>();list.add("First");list.add("Second");list.add("Third");list.ad…
暂无图片
编程学习 ·

母螳螂的“魅惑之术”

在它们对大蝗虫发起进攻的时候&#xff0c;我认认真真地观察了一次&#xff0c;因为它们突然像触电一样浑身痉挛起来&#xff0c;警觉地面对限前这个大家伙&#xff0c;然后放下自己优雅的身段和祈祷的双手&#xff0c;摆出了一个可怕的姿势。我被眼前的一幕吓到了&#xff0c;…
暂无图片
编程学习 ·

疯狂填词 mad_libs 第9章9.9.2

#win7 python3.7.0 import os,reos.chdir(d:\documents\program_language) file1open(.\疯狂填词_d9z9d2_r.txt) file2open(.\疯狂填词_d9z9d2_w.txt,w) words[ADJECTIVE,NOUN,VERB,NOUN] str1file1.read()#方法1 for word in words :word_replaceinput(fEnter a {word} :)str1…
暂无图片
编程学习 ·

HBASE 高可用

为了保证HBASE是高可用的,所依赖的HDFS和zookeeper也要是高可用的. 通过参数hbase.rootdir指定了连接到Hadoop的地址,mycluster表示为Hadoop的集群. HBASE本身的高可用很简单,只要在一个健康的集群其他节点通过命令 hbase-daemon.sh start master启动一个Hmaster进程,这个Hmast…
暂无图片
编程学习 ·

js事件操作语法

一、事件的绑定语法 语法形式1 事件监听 标签对象.addEventListener(click,function(){}); 语法形式2 on语法绑定 标签对象.onclick function(){} on语法是通过 等于赋值绑定的事件处理函数 , 等于赋值本质上执行的是覆盖赋值,后赋值的数据会覆盖之前存储的数据,也就是on…
暂无图片
编程学习 ·

Photoshop插件--晕影动态--选区--脚本开发--PS插件

文章目录1.插件界面2.关键代码2.1 选区2.2 动态晕影3.作者寄语PS是一款栅格图像编辑软件&#xff0c;具有许多强大的功能&#xff0c;本文演示如何通过脚本实现晕影动态和选区相关功能&#xff0c;展示从互联网收集而来的一个小插件&#xff0c;供大家学习交流&#xff0c;请勿…
暂无图片
编程学习 ·

vs LNK1104 无法打开文件“xxx.obj”

写在前面&#xff1a; 向大家推荐两本新书&#xff0c;《深度学习计算机视觉实战》和《学习OpenCV4&#xff1a;基于Python的算法实战》。 《深度学习计算机视觉实战》讲了计算机视觉理论基础&#xff0c;讲了案例项目&#xff0c;讲了模型部署&#xff0c;这些项目学会之后可以…
暂无图片
编程学习 ·

工业元宇宙的定义与实施路线图

工业元宇宙的定义与实施路线图 李正海 1 工业元宇宙 给大家做一个关于工业元宇宙的定义。对于工业&#xff0c;从设计的角度来讲&#xff0c;现在的设计人员已经做到了普遍的三维设计&#xff0c;但是进入元宇宙时代&#xff0c;就不仅仅只是三维设计了&#xff0c;我们的目…
暂无图片
编程学习 ·

【leectode 2022.1.15】完成一半题目

有 N 位扣友参加了微软与力扣举办了「以扣会友」线下活动。主办方提供了 2*N 道题目&#xff0c;整型数组 questions 中每个数字对应了每道题目所涉及的知识点类型。 若每位扣友选择不同的一题&#xff0c;请返回被选的 N 道题目至少包含多少种知识点类型。 示例 1&#xff1a…
暂无图片
编程学习 ·

js 面试题总结

一、js原型与原型链 1. prototype 每个函数都有一个prototype属性&#xff0c;被称为显示原型 2._ _proto_ _ 每个实例对象都会有_ _proto_ _属性,其被称为隐式原型 每一个实例对象的隐式原型_ _proto_ _属性指向自身构造函数的显式原型prototype 3. constructor 每个prot…
暂无图片
编程学习 ·

java练习代码

打印自定义行数的空心菱形练习代码如下 import java.util.Scanner; public class daYinLengXing{public static void main(String[] args) {System.out.println("请输入行数");Scanner myScanner new Scanner(System.in);int g myScanner.nextInt();int num g%2;//…
暂无图片
编程学习 ·

RocketMQ-什么是死信队列?怎么解决

目录 什么是死信队列 死信队列的特征 死信消息的处理 什么是死信队列 当一条消息初次消费失败&#xff0c;消息队列会自动进行消费重试&#xff1b;达到最大重试次数后&#xff0c;若消费依然失败&#xff0c;则表明消费者在正常情况下无法正确地消费该消息&#xff0c;此时…
暂无图片
编程学习 ·

项目 cg day04

第4章 lua、Canal实现广告缓存 学习目标 Lua介绍 Lua语法 输出、变量定义、数据类型、流程控制(if..)、循环操作、函数、表(数组)、模块OpenResty介绍(理解配置) 封装了Nginx&#xff0c;并且提供了Lua扩展&#xff0c;大大提升了Nginx对并发处理的能&#xff0c;10K-1000K Lu…
暂无图片
编程学习 ·

输出三角形

#include <stdio.h> int main() { int i,j; for(i0;i<5;i) { for(j0;j<i;j) { printf("*"); } printf("\n"); } }
暂无图片
编程学习 ·

stm32的BOOTLOADER学习1

序言 最近计划学习stm32的BOOTLOADER学习,把学习过程记录下来 因为现在网上STM32C8T6还是比较贵的,根据我的需求flash空间小一些也可以,所以我决定使用stm32c6t6.这个芯片的空间是32kb的。 #熟悉芯片内部的空间地址 1、flash ROM&#xff1a; 大小32KB&#xff0c;范围&#xf…
暂无图片
编程学习 ·

通过awk和shell来限制IP多次访问之学不会你打死我

学不会你打死我 今天我们用shell脚本&#xff0c;awk工具来分析日志来判断是否存在扫描器来进行破解网站密码——限制访问次数过多的IP地址&#xff0c;通过Iptables来进行限制。代码在末尾 首先我们要先查看日志的格式&#xff0c;分析出我们需要筛选的内容&#xff0c;日志…
暂无图片
编程学习 ·

Python - 如何像程序员一样思考

在为计算机编写程序之前&#xff0c;您必须学会如何像程序员一样思考。学习像程序员一样思考对任何学生都很有价值。以下步骤可帮助任何人学习编码并了解计算机科学的价值——即使他们不打算成为计算机科学家。 顾名思义&#xff0c;Python经常被想要学习编程的人用作第一语言…
暂无图片
编程学习 ·

蓝桥杯python-数字三角形

问题描述 虽然我前后用了三种做法&#xff0c;但是我发现只有“优化思路_1”可以通过蓝桥杯官网中的测评&#xff0c;但是如果用c/c的话&#xff0c;每个都通得过&#xff0c;足以可见python的效率之低&#xff08;但耐不住人家好用啊&#xff08;哭笑&#xff09;&#xff09…