linux命令行神器 linux命令行基本操作

Linux下的并行神器——parallel

GNU Parallel的输入源支持文件、命令行和标准输入（stdin或pipe）。

当然linux命令行神器，若不想像上面那样进行组合，可使用 --xapply 参数从每一个源获取一个参数（或文件一行），这个参数有些类似R中的函数，具有广播作用——如果其中一个输入源的长度比较短，它的值会被重复。

GNU Parallel可以通过 --arg-sep 和 --arg-file-sep 指定分隔符替代 ::: 或 ::::，当这两个符号被其它命令占用的时候会特别有用。

GNU Parallel默认把一行做为一个参数linux命令行神器：使用 \n 做为参数定界符。可以使用 -d 改变linux命令行神器：

GNU Parallel支持通过 -E 参数指定一个值做为结束标志：

GNU Parallel使用 --no-run-if-empty 来跳过空行:

如果parallel之后没有给定命令，那么这些参数会被当做命令：

此外，命令还可以是一个脚本文件，一个二进制可执行文件或一个bash的函数（须用 export -f 导出函数）

GNU Parallel支持多种替换字符串，默认使用 {}，使用 -I 改变替换字符串符号 {}。其最常见的字符串替换包括以下几种： {.} ，去掉扩展名linux命令行神器； {/} ,去掉路径，只保留文件名； {//} ，只保留路径； {/.} ，同时去掉路径和扩展名； {#} ，输出任务编号。同时对于每一个字符串替换都可以自己指定符号： -I 对应 {} ； --extensionreplace 替换 {.} ； --basenamereplace 替换 {/} ； --dirnamereplace 替换 {//} ； --basenameextensionreplace 替换 {/.} ； --seqreplace 替换 {#} 。

同时，如果有多个输入源时，可以通过 {编号} 指定某一个输入源的参数：

使用 --header 把每一行输入中的第一个值做为参数名。

使用 --colsep 把文件中的行切分为列，做为输入参数。

--xargs 会在一行中输入尽可能多的参数（与参数字符串长度有关），通过 -s 可指定一行中参数的上限。

为了获得更好的并发性，GNU Parallel会在文件读取结束后再分发参数。

GNU Parallel 在读取完最后一个参数之后，才开始第二个任务，此时会把所有的参数平均分配到4个任务（如果指定了4个任务）。

第一个任务与上面使用 --xargs 的例子一样，但是第二个任务会被平均的分成4个任务，最终一共5个任务。（奇怪的是我的结果与官网教程的结果不一样）

替换字符串可以是输出字符的一部分，使用 -m 参数表示每个job不重复输出“背景”（context）， -X 则与 -m 相反，会重复输出“背景文本”，具体通过下面几个例子进行理解：

使用 -N 限制每行参数的个数，其中 -N0 表示一次只读取一个参数，且不输入这个参数（作为计数器来使用）。

如果命令行中包含特殊字符，就需要使用引号保护起来。

perl脚本 'print "@ARGV\n"' 与linux的 echo 的功能一样。

使用GNU Parallel运行这条命令的时候，perl命令需要用引号包起来，也可以使用 -q 保护perl命令：

使用 --trim 去除参数两头的空格：

使用 --tag 以参数做为输出前缀，使用 --tagstring 修改输出前缀：

--dryrun 作用类似于echo：

--verbose 则在运行之前先打印命令：

一般来说，GNU Parallel 会延迟输出，直到一组命令执行完成。使用 --ungroup ，可立刻打印输出已完成部分。

使用 --ungroup 会很快，但会导致输出错乱，一个任务的行输出可能会被另一个任务的输出截断。像上例所示，第二行输出混合了两个任务： '4-middle' '2-start'。使用 --linebuffer 避免这个问题（稍慢一点）：

强制使输出与参数保持顺序 --keep-order/-k ：

GNU Parallel可以把每一个任务的输出保存到文件中，临时文件默认保存在 /tmp 中，可以使用 --tmpdir改变（或者修改 $TMPDIR）：

输出文件可以有结构的保存 --results ，输出文件不仅包含标准输出（stdout）也会包含标准错误输出（stderr）：

在使用多个变量的时候会显示很有用：

使用 --jobs/-j 指定并行任务数。

通过使用 --interactive 在一个任务执行之前让用户决定是否执行。

当job有大量的IO操作时，为避免 “惊群效应” ，可使用 --delay 参数指定各个job开始的时间间隔。

若已知任务超过一定时间未反应则为失败则可以通过 --timeout 指定等待时间避免无谓的等待。GNU parallel能计算所有任务运行时间的中位数，因此可以指定时间为中位数的倍数关系。

GNU parallel有多种方式可用来动态的显示任务进度信息，如：

使用 --joblog 参数能够生成各个任务的日志文件：

通过 --resume-failed 参数可以重新运行失败的任务; --retry-failed 的作用与 --resume-failed 类似，只是 --resume-failed 从命令行读取失败任务，而 --retry-failed 则是从日志文件中读取失败任务：

GNU parallel支持在某一情况下（如第一个失败或成功时，或者20%任务失败时）终止任务，终止任务又有两种类型，其一为立即终止（通过 --halt now 指定），杀死所有正在运行的任务并停止生成新的任务，其二为稍后终止（通过 --halt soon 指定），停止生成新任务并等待正在运行任务完成。

GNU parallel还支持在任务失败后重试运行 --retries :

关于终止信号的高级用法参考 官方入门文档 。

GNU parallel能够在开始一个新的任务前检查系统的负载情况防止过载（通过 --load 可指定负载），同时还能检查系统是否使用了交换空间（swap）（通过 --noswap 限制使用swap）。

同时，对于某些占用内存较多的程序，parallel会检查内存只有内存满足时才启动任务（通过 --memfree 指定需要内存大小），而且在启动任务后内存不够50%时会杀掉最新开始的任务，直到这个任务完成再重新开始那些杀死的任务。

还可以通过 --nice 来指定任务的优先级。

可使用 -S host 来进行远程登陆：

parallel -S username@$SERVER1 echo running on ::: username@$SERVER1

GNU parallel 文件传输使用的是rsync。

更多远程操作参见入门文档。

--pipe 参数使得我们可以将输入（stdin）分为多块（block），然后分配给多个任务多个cpu以达到负载均衡，最后的结果顺序与原始顺序一致。使用 --block 参数可以指定每块的大小，默认为1M。

如果不关心结果顺序，只想要快速的得到结果，可使用 --round-robin 参数。没有这个参数时每块文件都会启动一个命令，使用这个参数后会将这些文件块分配给job数任务（通过 --jobs 进行指定）。若想分配更为均匀还可同时指定 --block 参数。

参考：

官方文档

GNU Parallel指南

相关问答

Q1: Windows下有类似于Linux的vim的命令行文本编辑器吗？

vim有windows版本。还有linux命令行神器，windows有powershell这个神器linux命令行神器，可以用命令行远程操作。

Q2: 一文帮你优化linux文本编辑神器 vi/vim

在终端下使用vim进行编辑时，默认情况下，编辑的界面上是没有 显示行号、语法高亮度显示、智能缩进 等功能的。

怎么办呢？为了更好的在vim下进行工作，需要手动设置一个配置文件：.vimrc。

在启动vim时，当前用户根目录下的.vimrc文件会被自动读取，该文件可以包含一些设置甚至脚本，

所以，一般情况下把.vimrc文件创建在当前用户的根目录下比较方便，即创建的命令为：

设置完后

wq

进行保存退出即可。

下面给出一个例子，其中列出了经常用到的设置，以备需要是查阅

说明："双引号开始的行为注释行，下同

如果去除注释后，一个完整的.vimrc配置信息如下所示：

Q3: 【Linux操作】---终端神器tmux

tmux（terminal multiplexer）是Linux上的终端复用神器，可从一个屏幕上管理多个终端（准确说是伪终端）。使用该工具，用户可以连接或断开会话，而保持终端在后台运行。类似的工具还有screen，个人对这二者的使用感受是，用过tmux就再也不想用screen了。

tmux的结构包括 会话 (session)、 窗口 (window)、 窗格 (pane)三部分，会话实质是伪终端的集合，每个窗格表示一个伪终端，多个窗格展现在一个屏幕上，这一屏幕就叫窗口。基本结构及状态信息如下图所示：

基本的操作无非就是对会话、窗口、窗格进行管理，包括创建、关闭、重命名、连接、分离、选择等等。

一般使用命令和快捷键进行操作，可在系统shell终端和tmux命令模式（类似vim的命令模式）下使用命令，或者在tmux终端使用快捷键。

tmux默认的快捷键前缀是 Ctrl+b (下文用 prefix 指代)，按下前缀组合键后松开，再按下命令键进行快捷操作，比如使用 prefix d 分离会话（应该写作 prefix d 而不是 prefix+d， 因为 d 键不需要与 prefix 同时按下）。

快捷键可以自定义，比如将前缀改为 Ctrl+a ，但需要保留shell默认的 Ctrl+a 快捷键，按如下所示修改~/.tmux.conf文件：

pre style="margin: 0px; padding: 0px; overflow: auto; overflow-wrap: break-word; font-family: "Courier New" !important; font-size: 12px !important;"1 set-option -g prefix C-a 2 unbind-key C-b 3 bind-key C-a send-prefix 4 bind-key R source-file ~/.tmux.conf ; display-message "~/.tmux.conf reloaded."/pre

现在已将原先的 Ctrl+a 用 prefix Ctrl+a 取代，即需要按两次 Ctrl+a 生效。

第4行的作用是使用 prefix r 重新加载配置文件，并输出提示，否则需要关闭会话后配置文件才能生效，也可手动加载配置文件，在tmux终端输入" prefix :" 进入命令模式，用 source-file 命令加载配置文件。

注意，将多个命令写在一起作为命令序列时，命令之间要用空格和分号分隔。

****常用命令****

tmux new 创建默认名称的会话（在tmux命令模式使用 new 命令可实现同样的功能，其他命令同理，后文不再列出tmux终端命令）

tmux new -s mysession 创建名为mysession的会话

tmux ls 显示会话列表

tmux a 连接上一个会话

tmux a -t mysession 连接指定会话

tmux rename -t s1 s2 重命名会话s1为s2

tmux kill-session 关闭上次打开的会话

tmux kill-session -t s1 关闭会话s1

tmux kill-session -a -t s1 关闭除s1外的所有会话

tmux kill-server 关闭所有会话

常用快捷键

prefix s 列出会话，可进行切换

prefix $ 重命名会话

prefix d 分离当前会话

prefix**** D 分离指定会话

prefix c 创建一个新窗口

prefix , 重命名当前窗口

prefix w 列出所有窗口，可进行切换

prefix n 进入下一个窗口

prefix p 进入上一个窗口

prefix l 进入之前操作的窗口

prefix 0~9 选择编号0~9对应的窗口

prefix . 修改当前窗口索引编号

prefix ' 切换至指定编号（可大于9）的窗口

prefix f 根据显示的内容搜索窗格

prefix 关闭当前窗口

prefix % 水平方向创建窗格

prefix " 垂直方向创建窗格

prefix Up|Down|Left|Right 根据箭头方向切换窗格

prefix q 显示窗格编号

prefix o 顺时针切换窗格

prefix } 与下一个窗格交换位置

prefix { 与上一个窗格交换位置

prefix x 关闭当前窗格

prefix space(空格键) 重新排列当前窗口下的所有窗格

prefix ! 将当前窗格置于新窗口

prefix Ctrl+o 逆时针旋转当前窗口的窗格

prefix t 在当前窗格显示时间

prefix z 放大当前窗格(再次按下将还原)

prefix i 显示当前窗格信息

tmux list-key 列出所有绑定的键，等同于 prefix ?

tmux list-command 列出所有命令

以上为tmux的常见操作，基本可以满足大部分的工作需求，至于更高端的操作待日后再整理。

参看链接： tmux简明教程

Q4: Linux 命令神器：lsof

lsof是系统管理/ 安全 的尤伯工具。将这个工具称之为lsof真实名副其实，因为它是指“列出打开文件（lists openfiles）”。而有一点要切记，在Unix中一切（包括网络套接口）都是文件。

有趣的是，lsof也是有着最多开关的Linux/Unix命令之一。它有那么多的开关，它有许多选项支持使用-和+前缀。

正如你所见，lsof有着实在是令人惊讶的选项数量。你可以使用它来获得你系统上设备的信息，你能通过它了解到指定的用户在指定的地点正在碰什么东西，或者甚至是一个进程正在使用什么文件或网络连接。

对于我，lsof替代了netstat和ps的全部工作。它可以带来那些工具所能带来的一切，而且要比那些工具多得多。那么，让我们来看看它的一些基本能力吧：

理解一些关于lsof如何工作的关键性东西是很重要的。最重要的是，当你给它传递选项时，默认行为是对结果进行“或”运算。因此，如果你正是用-i来拉出一个端口列表，同时又用-p来拉出一个进程列表，那么默认情况下你会获得两者的结果。

下面的一些其它东西需要牢记：

正如我所说的，我主要将lsof用于获取关于系统怎么和网络交互的信息。这里提供了关于此信息的一些主题：

有些人喜欢用netstat来获取网络连接，但是我更喜欢使用lsof来进行此项工作。结果以对我来说很直观的方式呈现，我仅仅只需改变我的语法，就可以通过同样的命令来获取更多信息。

语法: lsof -i[46] [protocol][@hostname|hostaddr][:service|port]

你也可以通过在-i后提供对应的协议来仅仅显示TCP或者UDP连接信息。

或者，你也可以通过端口搜索，这对于要找出什么阻止了另外一个应用绑定到指定端口实在是太棒了。

这对于你在检查是否开放连接到网络中或互联网上某个指定主机的连接时十分有用。

你也可以组合主机与端口的显示信息。

找出正等候连接的端口。

你也可以grep “LISTEN”来完成该任务。

你也可以显示任何已经连接的连接。

你也可以通过grep搜索“ESTABLISHED”来完成该任务。

你也可以获取各种用户的信息，以及它们在系统上正干着的事情，包括它们的网络活动、对文件的操作等。

可以消灭指定用户运行的所有东西，这真不错。

可以查看指定程序或进程由什么启动，这通常会很有用，而你可以使用lsof通过名称或进程ID过滤来完成这个任务。下面列出了一些选项：

通过查看指定文件或目录，你可以看到系统上所有正与其交互的资源——包括用户、进程等。

与 tcpdump 类似，当你开始组合查询时，它就显示了它强大的功能。

这通常（当不总是）表示某个攻击者正尝试通过删除文件入口来隐藏文件内容。

本入门教程只是管窥了lsof功能的一斑，要查看完整参考，运行man lsof命令或查看 在线版本 。希望本文对你有所助益，也随时 欢迎你的评论和指正 。

本文由 Daniel Miessler撰写，首次在他 博客 上贴出

一般root用户才能执行lsof命令，普通用户可以看见/usr/sbin/lsof命令，

但是普通用户执行会显示“permission denied”

我总结一下lsof指令的用法：

lsof abc.txt 显示开启文件abc.txt的进程

lsof -i :22 知道22端口现在运行什么程序

lsof -c abc 显示abc进程现在打开的文件

lsof -g gid 显示归属gid的进程情况

lsof +d /usr/local/ 显示目录下被进程开启的文件

lsof +D /usr/local/ 同上，但是会搜索目录下的目录，时间较长

lsof -d 4 显示使用fd为4的进程

lsof -i 用以显示符合条件的进程情况

语法: lsof -i[46] [protocol][@hostname|hostaddr][:service|port]

46 -- IPv4 or IPv6

protocol -- TCP or UDP

hostname -- Internet host name

hostaddr -- IPv4位置

service -- /etc/service中的 service name (可以不只一个)

port -- 端口号 (可以不只一个)

例子: TCP:25 - TCP and port 25

@1.2.3.4 - Internet IPv4 host address 1.2.3.4

tcp@ohaha.ks.edu.tw :ftp - TCP protocol hosthaha.ks.edu.tw service name:ftp

lsof -n 不将IP转换为hostname，缺省是不加上-n参数

例子: lsof -i tcp@ohaha.ks.edu.tw :ftp -n

lsof -p 12 看进程号为12的进程打开了哪些文件

lsof +|-r [t] 控制lsof不断重复执行，缺省是15s刷新

-r，lsof会永远不断的执行，直到收到中断信号

+r，lsof会一直执行，直到没有档案被显示

例子：不断查看目前ftp连接的情况：lsof -i tcp@ohaha.ks.edu.tw :ftp -r

lsof -s 列出打开文件的大小，如果没有大小，则留下空白

lsof -u username 以UID，列出打开的文件

关注：

进程调试命令:truss、strace和ltrace

进程无法启动，软件运行速度突然变慢，程序的"SegmentFault"等等都是让每个Unix系统用户头痛的问题，而这些问题都可以通过使用truss、strace和ltrace这三个常用的调试工具来快速诊断软件的"疑难杂症"。

Q5: Linux终端命令神器--Screen命令

screen的功能大体有三个：

会话恢复： 只要Screen本身没有终止，在其内部运行的会话都可以恢复。

多窗口：在Screen环境下， 所有的会话都独立的运行，并拥有各自的编号、输入、输出和窗口缓存。

会话共享：Screen可以让一个或多个用户从不同终端多次登录一个会话，并共享会话的所有特性。

安装screen：

# CentOS

yum install screen

# Debian/Ubuntu

apt install screen

Attached ：表示当前screen正在作为主终端使用，为活跃状态。

Detached ：表示当前screen正在后台使用，为非激发状态。

# 查看已存在终端

screen -ls

# 创建一个叫Hello的虚拟终端

screen -S Hello

# 进入虚拟终端32307

screen -r 32307

There is no screen to be resumed matching错误解决办法

1.在使用screen -r ******(id)重新连接程序界面时出现以下问题：

后来发现是因为突然断网，虽然重新连接，但之前的screen还是处于打开状态（1个screen无法同时打开2次），所以无法重新打开screen，解决方法如下：

2.首先使用screen -d *****(id)，先退出，然后再使用 screen -r *****(id)重新连接

关于linux命令行神器和linux命令行基本操作的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。