在Linux系统中使用Shell实现多线程运行任务（多任务并发执行） 2022-05-30

最近，有一批任务需要把两批的fastq合并到一起并压缩成一个fastq文件才能继续往下做，由于存储空间有限又不能直接全部跑上，只能按样本逐个分批跑。众所周知，一般fastq是成对存在的，所需要对read1和read2分别合并一次，然而这次任务的fastq文件比较大，合并然后压缩一次需要1天左右，那对于一组fastq就要2-3天，这也太耗时间了，所以我在想能不能read1和read2 同时跑上，这就可以节省一半的时间了。

公司主营业务：网站建设、成都网站制作、移动网站开发等业务。帮助企业客户真正实现互联网宣传，提高企业的竞争能力。创新互联建站是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化，感谢他们对我们的高要求，感谢他们从不同领域给我们带来的挑战，让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联建站推出天镇免费做网站回馈大家。

平时也能遇到很多类似的任务，特别是在进程数有限的情况下，如果这些小任务单独占用一个进程，而任务很多就很耗时间，如果能在一个进程下实现多个线程并行执行，就能大大提高运行效率。关于进程和线程的知识可以参考知乎的这篇文章【 Shell“ 多线程”，提高工作效率 】，整理的也比较有条理，能比较容易读懂。

当然，某些博主也写过类似的文章，例如这篇【 shell后台限制多并发控制后台任务强度进行文件拷贝 】但是实在是太高深莫测了，看不懂，一时半会儿也学不会。本文将示例Shell实现多线程的简单版本，其实不用太复杂。

其实只需要两个步骤， 第一步是给需要并行运行的命令行在结尾加上""，代表放到后台运行，第二步是在在所有并行任务的后面加上一句“wait”，意思是等所有通过“”放到后台运行的任务跑完后再继续执行后面的任务 ，这些就能实现所有带有“”的行并行执行了。

看完脚本是不是觉得很简单？

上面的脚本适合并行任务少的，可以手动加和wait，但是如果有几十个甚至上百个的小任务就比较麻烦了。但不用担心，可以写个循环，批量运行。

循环的结果也是跟上面类似的，只是多了个循环结构。

如果需要执行的任务只有一行，可以把大括号去掉。

关于for和while的循环可以查看之前的文章【 Shell常用循环示例（for和while批量处理）2022-05-25 】

需要注意的是多线程并行还是需要有限制的，毕竟都是在一个进程里运行，如果线程太多了会卡顿的，建议控制在100个以内，当然还有毕竟高级和复杂的方法可以实现限制。因为上面的脚本已经够我用了，没继续往下学，以后可以再补充。

关于 linux 驱动中并发控制的方法有哪些

需要一定的努力才可以学好：

Linux设备驱动是linux内核的一部分，是用来屏蔽硬件细节，为上层提供标准接口的一种技术手段。为了能够编写出质量比较高的驱动程序，要求工程师必须具备以下几个方面的知识：

1、 熟悉处理器的性能

如：处理器的体系结构、汇编语言、工作模式、异常处理等。对于初学者来说，在还不熟悉驱动编写方法的情况下，可以先不把重心放在这一项上，因为可能因为它的枯燥、抽象而影响到你对设备驱动的兴趣。随着你不断地熟悉驱动的编写，你会很自然的意识到此项的重要性。

2、掌握驱动目标的硬件工作原理及通讯协议

如：串口控制器、显卡控制器、硬件编解码、存储卡控制器、I2C通讯、SPI通讯、USB通讯、SDIO通讯、I2S通讯、PCI通讯等。编写设备驱动的前提就是需要了解设备的操作方法，所以这些内容的重要程度不言而喻。但不是说要把所有设备的操作方法都熟悉了以后才可以写驱动，你只需要了解你要驱动的硬件就可以了。

一、掌握硬件的控制方法

如：中断、轮询、DMA 等，通常一个硬件控制器会有多种控制方法，你需要根据系统性能的需要合理的选择操作方法。初学阶段以实现功能为目的，掌握的顺序应该是，轮询-中断-DMA。随着学习的深入，需要综合考虑系统的性能需求，采取合适的方法。

二、良好的GNU C语言编程基础

如：C语言的指针、结构体、内存操作、链表、队列、栈、C和汇编混合编程等。这些编程语法是编写设备驱动的基础，无论对于初学者还是有经验者都非常重要。

三、 良好的linux操作系统概念

如：多进程、多线程、进程调度、进程抢占、进程上下文、虚拟内存、原子操作、阻塞、睡眠、同步等概念及它们之间的关系。这些概念及方法在设备驱动里的使用是linux设备驱动区别单片机编程的最大特点，只有理解了它们才会编写出高质量的驱动。

四、掌握linux内核中设备驱动的编写接口

如：字符设备的cdev、块设备的gendisk、网络设备的net_device，以及基于这些基本接口的framebuffer设备的fb_info、mtd设备的mtd_info、tty设备的tty_driver、usb设备的usb_driver、mmc设备的mmc_host等。

linux内核中造成并发执行的原因是什么

linux中内核并发机制也就是同步机制产生的原因,总的来说可归纳为一下4点:

l 中断——中断几乎可以在任何时刻异步发生，也就可能随时打断当前正在执行的代码。

2 睡眠及与用户空间的同步——在内核执行的进程可能会睡眠，这就会唤醒调度程序，从而导致调度一个新的用户进程执行。

3 对称多处理——两个或多个处理器可以同时执行代码。

4内核抢占——因为内核具有抢占性，所以内核中的任务可能会被另一任务抢占（在2.6内核引进的新能力）。

linux下并发连接数限制

并发socket连接数的多少决定于系统资源的多少，没有一个常值的．在实际开发或者linux系统管理中也会根据需要进行相应的设置．

1．一般来说每一个网络连接，都会建立相应的socket句柄，同时每个连接也会有标准输入输出等基本的文件文件句柄，而且每一个socket连接都是进行文件操作的，因此连接数决定于系统资源．

2．Linux上一般可以通过ulimit来进行相应的资源限制，默认能打开的文件描述符自己可以查看．如下图所示：

3．ulimit的命令格式：ulimit [-acdfHlmnpsStvw] [size]

参数说明：

-H 设置硬资源限制.

-S 设置软资源限制.

-a 显示当前所有的资源限制.

-c size:设置core文件的最大值.单位:blocks

-d size:设置数据段的最大值.单位:kbytes

-f size:设置创建文件的最大值.单位:blocks

-l size:设置在内存中锁定进程的最大值.单位:kbytes

-m size:设置可以使用的常驻内存的最大值.单位:kbytes

-n size:设置内核可以同时打开的文件描述符的最大值.单位:n

-p size:设置管道缓冲区的最大值.单位:kbytes

-s size:设置堆栈的最大值.单位:kbytes

-t size:设置CPU使用时间的最大上限.单位:seconds

-v size:设置虚拟内存的最大值.单位:kbytes

-u 程序数目 　用户最多可开启的程序数目

Linux如何查看服务器的并发数

linux查看连接数，并发数1、查看apache当前并发访问数：

netstat

-an

grep

ESTABLISHED

wc

-l对比httpd.conf中MaxClients的数字差距多少。2、查看有多少个进程数：ps

auxgrep

httpdwc

-l3、可以使用如下参数查看数据server-status?auto#ps

-efgrep

httpdwc

-l1388统计httpd进程数，连个请求会启动一个进程，使用于Apache服务器。表示Apache能够处理1388个并发请求，这个值Apache可根据负载情况自动调整。#netstat

-natgrep

-i

80wc

-l4341netstat

-an会打印系统当前网络链接状态，而grep

-i

80是用来提取与80端口有关的连接的，wc

-l进行连接数统计。

最终返回的数字就是当前所有80端口的请求总数。#netstat

-nagrep

ESTABLISHEDwc

-l376netstat

-an会打印系统当前网络链接状态，而grep

ESTABLISHED

提取出已建立连接的信息。

然后wc

-l统计。最终返回的数字就是当前所有80端口的已建立连接的总数。netstat

-natgrep

ESTABLISHEDwc

-

可查看所有建立连接的详细记录

查看Apache的并发请求数及其TCP连接状态：linux命令：netstat

-n

awk

'/^tcp/

{++S[$NF]}

END

{for（a

in

S）

print

a,

S[a]}'返回结果示例：LAST_ACK

5SYN_RECV

30ESTABLISHED

1597FIN_WAIT1

51FIN_WAIT2

504TIME_WAIT

1057其中的SYN_RECV表示正在等待处理的请求数；ESTABLISHED表示正常数据传输状态；TIME_WAIT表示处理完毕，等待超时结束的请求数。（这个参数还不太懂，为啥是等待超时结束，请大神指教）