linux大数据命令 linux在大数据专业课程中的作用

大数据工程师教你高效学习Linux

作为大数据工程师linux大数据命令，黑窗口才是最主要的，Linux是开发人员使用的基础操作系统，使用的一些大数据软件都是Linux的，所以进行Linux的学习非常必要，今天就交给大家如何高效学习Linux，主要从以下方面入手linux大数据命令：

1、学习Linux的基本命令

基本命令包括软件的安装、解压及操作，命令的查询等等。

2、学会编写Shell脚本

其实命令并不是要自己去一行一行敲的，作为一个大数据工程师，效率是至关重要的，所以能用电脑进行操作的，尽量不要自己动手，所以脚本的编写很重要，不仅是一个程序员应该有的素养，而且能够解放我们的双手。

虽然Linux的学习仅仅是从这两方面入手，但是如果你不认真去学，不能够引起足够的重视，那么像成为大数据工程师就是一句空谈，就从现在开始，加油吧。

相关问答

Q1: linux命令主要有哪几种？

Linux运维人员必会linux大数据命令的120个命令

来自《跟老男孩学Linux运维linux大数据命令：核心系统命令实战》一书

前言

第1章 Linux命令行简介 / 1

1.1Linux命令行概述 / 1

1.2在Linux命令行下查看命令帮助 / 4

1.3Linux shutdown reboot halt / 9

关机：

shutdown -h now

halt

init 0

第2章 文件和目录操作命令 / 13

2.1pwd：显示当前所在linux大数据命令的位置 / 13

2.2cd：切换目录 / 16

2.3tree：以树形结构显示目录下的内容 / 18

2.4mkdir：创建目录 / 22

2.5touch：创建空文件或改变文件的时间戳属性 / 27

2.6ls：显示目录下的内容及相关属性信息 / 30

2.7cp：复制文件或目录 / 39

2.8mv：移动或重命名文件 / 42

2.9rm：删除文件或目录 / 45

2.10rmdir：删除空目录 / 48

2.11ln：硬链接与软链接 / 49

2.12readlink：查看符号链接文件的内容 / 54

2.13find：查找目录下的文件 / 55

2.14xargs：将标准输入转换成命令行参数 / 68

2.15rename：重命名文件 / 71

2.16basename：显示文件名或目录名 / 72

2.17dirname：显示文件或目录路径 / 72

2.18chattr：改变文件的扩展属性 / 73

2.19lsattr：查看文件扩展属性 / 75

2.20file：显示文件的类型 / 76

2.21md5sum：计算和校验文件的MD5值 / 77

2.22chown：改变文件或目录的用户和用户组 / 80

2.23chmod：改变文件或目录权限 / 81

2.24chgrp：更改文件用户组 / 85

2.25umask：显示或设置权限掩码 / 86

2.26老男孩从新手成为技术大牛的心法 / 90

第3章 文件过滤及内容编辑处理命令 / 91

3.1cat：合并文件或查看文件内容 / 91

3.2tac：反向显示文件内容 / 103

3.3more：分页显示文件内容 / 104

3.4less：分页显示文件内容 / 107

3.5head：显示文件内容头部 / 109

3.6tail：显示文件内容尾部 / 111

3.7tailf：跟踪日志文件 / 114

3.8cut：从文本中提取一段文字并输出 / 115

3.9split：分割文件 / 117

3.10paste：合并文件 / 118

3.11sort：文本排序 / 123

3.12join：按两个文件的相同字段合并 / 127

3.13uniq：去除重复行 / 129

3.14wc：统计文件的行数、单词数或字节数 / 131

3.15iconv：转换文件的编码格式 / 133

3.16dos2unix：将DOS格式文件转换成UNIX格式 / 134

3.17diff：比较两个文件的不同 / 135

3.18vimdiff：可视化比较工具 / 138

3.19rev：反向输出文件内容 / 139

3.20tr：替换或删除字符 / 140

3.21od：按不同进制显示文件 / 143

3.22tee：多重定向 / 145

3.23vi/vim：纯文本编辑器 / 147

3.24老男孩逆袭思想：做Linux运维的多个好处 / 152

第4章 文本处理三剑客 / 153

4.1grep：文本过滤工具 / 153

4.2sed：字符流编辑器 / 159

4.3awk基础入门 / 165

第5章 Linux信息显示与搜索文件命令 / 176

5.1uname：显示系统信息 / 176

5.2hostname：显示或设置系统的主机名 / 178

5.3dmesg：系统启动异常诊断 / 179

5.4stat：显示文件或文件系统状态 / 181

5.5du：统计磁盘空间使用情况 / 183

5.6date：显示与设置系统时间 / 186

5.7echo：显示一行文本 / 190

5.8watch：监视命令执行情况 / 193

5.9which：显示命令的全路径 / 195

5.10whereis：显示命令及其相关文件全路径 / 196

5.11locate：快速定位文件路径 / 197

5.12updatedb：更新mlocate数据库 / 199

5.13老男孩逆袭思想：新手在工作中如何问问题不会被鄙视 / 200

第6章 文件备份与压缩命令 / 201

6.1tar：打包备份 / 201

6.2gzip：压缩或解压文件 / 208

6.3zip：打包和压缩文件 / 211

6.4unzip：解压zip文件 / 212

6.5scp：远程文件复制 / 214

6.6rsync：文件同步工具 / 216

6.7老男孩逆袭思想：新手如何高效地提问 / 220

第7章 Linux用户管理及用户信息查询命令 / 222

7.1 useradd：创建用户 / 222

7.2usermod：修改用户信息 / 227

7.3userdel：删除用户 / 229

7.4groupadd：创建新的用户组 / 230

7.5groupdel：删除用户组 / 231

7.6passwd：修改用户密码 / 232

7.7chage:修改用户密码有效期 / 237

7.8chpasswd：批量更新用户密码 / 238

7.9su：切换用户 / 240

7.10visudo：编辑sudoers文件 / 242

7.11sudo：以另一个用户身份执行命令 / 244

7.12id：显示用户与用户组的信息 / 248

7.13w：显示已登录用户信息 / 249

7.14who：显示已登录用户信息 / 250

7.15users：显示已登录用户 / 252

7.16whoami：显示当前登录的用户名 / 253

7.17last：显示用户登录列表 / 253

7.18lastb：显示用户登录失败的记录 / 254

7.19lastlog：显示所有用户的最近登录记录 / 255

第8章 Linux磁盘与文件系统管理命令 / 257

8.1fdisk：磁盘分区工具 / 257

8.2partprobe：更新内核的硬盘分区表信息 / 265

8.3tune2fs：调整ext2/ext3/ext4文件系统参数 / 266

8.4parted：磁盘分区工具 / 268

8.5mkfs：创建Linux文件系统 / 272

8.6dumpe2fs：导出ext2/ext3/ext4文件系统信息 / 274

8.7resize2fs：调整ext2/ext3/ext4文件系统大小 / 275

8.8fsck：检查并修复Linux文件系统 / 278

8.9dd：转换或复制文件 / 281

8.10mount：挂载文件系统 / 284

8.11umount：卸载文件系统 / 288

8.12df：报告文件系统磁盘空间的使用情况 / 289

8.13mkswap：创建交换分区 / 293

8.14swapon：激活交换分区 / 294

8.15swapoff：关闭交换分区 / 295

8.16sync：刷新文件系统缓冲区 / 296

第9章 Linux进程管理命令 / 298

9.1ps：查看进程 / 298

9.2pstree：显示进程状态树 / 305

9.3pgrep：查找匹配条件的进程 / 306

9.4kill：终止进程 / 307

9.5killall：通过进程名终止进程 / 310

9.6pkill：通过进程名终止进程 / 311

9.7top：实时显示系统中各个进程的资源占用状况 / 313

9.8nice：调整程序运行时的优先级 / 320

9.9renice：调整运行中的进程的优先级 / 323

9.10nohup：用户退出系统进程继续工作 / 324

9.11strace：跟踪进程的系统调用 / 325

9.12ltrace：跟踪进程调用库函数 / 332

9.13runlevel：输出当前运行级别 / 334

9.14init：初始化Linux进程 / 335

9.15service：管理系统服务 / 335

第10章 Linux网络管理命令 / 338

10.1ifconfig：配置或显示网络接口信息 / 338

10.2ifup：激活网络接口 / 343

ifup eth0

10.3ifdown：禁用网络接口 / 343

ifdown eth0

service network restart（/etc/init.d/network restart） 激活整个网络linux大数据命令，所有网卡。

10.4route：显示或管理路由表 / 344

10.5arp：管理系统的arp缓存 / 350

10.6ip：网络配置工具 / 351

10.7netstat：查看网络状态 / 358

10.8ss：查看网络状态 / 362

10.9ping：测试主机之间网络的连通性 / 363

10.10traceroute：追踪数据传输路由状况 / 366

10.11arping：发送arp请求 / 367

10.12telnet：远程登录主机 / 369

10.13nc：多功能网络工具 / 370

10.14ssh：安全地远程登录主机 / 373

10.15wget：命令行下载工具 / 376

10.16mailq：显示邮件传输队列 / 379

10.17mail：发送和接收邮件 / 381

10.18nslookup：域名查询工具 / 386

10.19dig：域名查询工具 / 389

10.20host：域名查询工具 / 393

10.21nmap：网络探测工具和安全/端口扫描器 / 394

10.22tcpdump：监听网络流量 / 398

第11章 Linux系统管理命令 / 407

11.1lsof：查看进程打开的文件 / 407

11.2uptime：显示系统的运行时间及负载 / 411

11.3free：查看系统内存信息 / 411

11.4iftop：动态显示网络接口流量信息 / 413

11.5vmstat：虚拟内存统计 / 415

11.6mpstat：CPU信息统计 / 419

11.7iostat：I/O信息统计 / 420

11.8iotop：动态显示磁盘I/O统计信息 / 423

11.9sar：收集系统信息 / 425

11.10chkconfig：管理开机服务 / 430

11.11ntsysv：管理开机服务 / 433

11.12 setup：系统管理工具 / 434

11.13ethtool：查询网卡参数 / 436

11.14mii-tool：管理网络接口的状态 / 437

11.19rpm：RPM包管理器 / 443

11.20yum：自动化RPM包管理工具 / 446

top命令

第12章 Linux系统常用内置命令 / 450

12.1Linux内置命令概述 / 450

12.2Linux内置命令简介 / 450

12.3Linux常用内置命令实例 / 452

Q2: Linux实用命令有哪些?

1选择

1.1一个文件linux大数据命令的名字为rr.Zlinux大数据命令，可以用来解压缩的命令时()

tar

gzip

compress

uncompress

1.2可以结束进程命令()

kill

ctrl+c

shutdown

halt

1.3 Linux下对文件进行归档的命令为：(多选)

dd

tar

zip

unzip

1.4 Linux查当前目录下30天以前的文件并移动到/dev/null下的命令：(多选)

find.-mtime 30-type f xargs mv{}/dev/null;

find.-mtime+30-type xargs mv{}/dev/null;

find.-mtime+30-type f-exec mv{}/dev/null;

find.-mtime+30-type f-exec rm–rf{};

1.5 dstat与下面哪个命令类似

vmstat

sar

iotop

abc

1.6 rpm安装软件的参数

rpm-ivh

rpm-Ivh

rpm-Uvh

rpm-Iuvh

1.7 yum升级软件包选项

rpm-uvh

rpm-Uvh

1.8查看网络流量命令是?

iftop

nsload

ifstatd

以上命令全可以

1.9停止进程的命令，除了kill还有谁?

pkill

killa

allkill

以上命令都不正确

1.10服务器之间传文件的命令有?

wget

scp

ftp

以上命令都可以

1.11对文件进行归档的命令为

dd

cpio

gzip

tar

1.12在rpm命令中，安装新的rpm包软件使用的参数是()

-i

-v

-h

-e

1.13du命令中，使用友好的方式显示信息的参数是()

-h

-f

-a

-t

1.14将/home/stud1/wang目录做归档压缩，压缩后生成wang.tar.gz文件，并将此文件保存到/home目录下，实现如此任务的tar命令格式___

tar zxvf/home/stud1/wang.tar.gz/home/wang

tar xcvf/home/stud1/wang/home/wang

tar zcv/home/stud1/wang/home/wang

tar zcvf/home/stud1/wang/home/wang.tar.gz

1.15终止一个前台进程可能用到的命令和操作()A：kill

B：CTRL+C

C：shutdown

D：halt

1.16关闭Linux系统(不重新启动)可使用命令()

A：Ctrl+Alt+Del

B：halt

C：shutdown-r now

D：reboot

1.17下列提法中，不属于ifconfig命令作用范围的是__

A：配置本地环回地址

B：配置网卡的IP地址

C：激活网络适配器

D：加载网卡到内核中

1.18有关归档和压缩命令，下面描述正确的是()

A：用uncompress命令解压缩由compress命令生成地后缀为.zip的压缩文件

B：upzip命令和gzip命令可以解压相同类型文件

C：tar归档其压缩的文件可以有gzip命令解压缩

D：tar命令归档后的文件也是一种压缩文件

1.19终止一共前台进程可能用到的命令和操作

kill

ctrl+c

shut down

halt

1.22为了将当前目录下的归档文档myftp，tar解压缩到/tmp目录下，用户可以使用命令

tar xvzf my

tar xvzf my

tar vzf my

tar xvzf my

1.23下面有关linux查看系统负载的命令，说法错误的是?

uptime命令主要用于获取主机运行时间和查询linux系统负载等信息

vmstat命令可以查看cpu负载

sar命令可以查看网络接口信息

free命令可以查看磁盘负载情况

1.24以下哪些方式/命令不可以查看某ip是否可达?

telnet

ping

tracert

top

1.25 tar命令用于解压的参数是?-v-x-c-f

1.26下面哪个命令不是用来查看网络故障?

telnet

ping

init

netstat

1.28为了知道谁在正注册到你的机器上，可以用命令：___

Who users finger ping

1.29查看本网段其linux大数据命令他计算机的MAC地址，可先ping对方主机，然后;

arp-g

arp-n

arp-a

arp-d

1.3014日下午2点date+%y%m%d%H%M输出的时间是什么

201711141212

1711141212

2017111412

201711021212

1.31以下哪个命令可以得出1487进程的线程运行情况()

top-Hp 1487

top-Pp 1487

ps-mp 1487

sat-p 1487

1.32从/home/oracle下搜索一个日志文件alert.log，以下哪种方式可达到目的()

find/home./oracle-name alert.log

locate alert.log

find./-mtime 7 alert.log

find/home/oracle-exec alert.log

1.34以下哪些命令可以用来测试网络中特定主机的80端口是否可以访问()

Ping telnet netstat lsof

2填空

2.1测试网络中主机的连通性用什么命令

2.2如何查看numa是否关闭_**_

2.3将/home/stud1/wang目录做归档压缩，压缩后生成wang.tar.gz文件，并将此文件保存到/home目录下，实现如此任务的tar命令格式_**

2.4某个进程使用端口7001，如何快速找到该进程的PID

2.5结束后台进程的命令是**_**

2.6将/home/studl/wang目录做归档压缩，压缩后生成wang.tar.gz文件，并将此存到/home目录下，实现此任务的tar命令格式******__******

2.7 ping100个包的命令——

2.8 linux下，解压缩bz2格式文件的命令是**_**

2.9 linux下，查看网络连接状态的命令是**___**

2.10Linux查看文件系统的命令为__,显示目录或文件占用磁盘的命令为___

2.11通常linux大数据命令我们测试网络连通性使用的ping命令，它是通过____协议进行工作的

2.12简述下列命令的各自作用

nslookup

dig

top

traceroute

2.13将/home/stud1/wang目录做归档压缩，压缩后生成wang.tar.gz文件，并将此问价保存到/home目录下，实现此任务的tar命令格****_****

2.14Linux系统查看进程数的命令___

2.15Linux系统查看系统内存的命令:____,**__**

2.16Linux系统查看cpu使用率的命令:____,**__**

2.17Linux系统查看硬盘空间使用率的命令:___

2.18Linux系统将某一文件下的所有.log文件进行打包压缩，命令为___

2.19Linux常用的性能监控命令是：_、_、_、_、_、_等

2.20假设output程序可能输出标准输出和标准错误，请写出一条命令把这两者都忽略__

2.21 rpm软件包安装命令**_**

3简答

3.1查看硬盘结构显示的命令?查看文档命令?编辑文档命令?

3.2配置网络环境的命令，手工修改IP，主机名，DNS和网关

3.3有压缩包a.tar.gz，如何解压该包?如何不解压该包，如何查看该包的内容?

3.4某进程abcd在系统中起了很多，数量难以统计，造成系统负荷较高，如何一条命令确保将此进程全部杀掉

3.5某日志路径是/data/logs/a.txt，如何跟踪该日志，以查看当时的运行状态?

3.6 dmesg命令显示的是哪方面信息

3.7寻找名称为mytest.log的文件

3.8写出du-sh与df-h的区别

3.9查看当前linux服务器是否监听80端口，如果监听，请找出其进程ID，并结束该进程。

3.10使用curl或者wget获取http服务的header信息。

3.11写出查看linux系统性能的命令，如cpu、内存、流量、io等

3.12解释下列命令的意思

dd if=/dev/random of=/dev/sda

3.13如何查看占用端口8080的进程

3.14查着占用内存最多的进程

3.15压缩和解压缩目录/opt/gjsy/所有文件命令

3.16Linxu系统下如何查看8080端口上运行的程序状态

3.17ps aux中的VSZ代表什么意思，RSS代表什么意思?

3.18PING是使用TCP/IP协议中的**_**协议

3.19写出网络故障排查常用的命令**__**

3.20写出你常用的网络抓包工具，软件名称**__**

3.21将/home/stud1/wang目录做归档压缩，压缩后生成wang.tar.gz文件，并将此文件保存到/home目录下，实现此任务的tar命令格式___

3.22解释该命令的含义：nohup zcat test.gz|grep"x6game"~/log.txt

2/dev/null

3.23查看系统硬件负载工具或命令有哪些

3.24使用lsof命令查看占用80端口的进程

3.25如何使用CURL测试POST接口

3.26怎样在目录/home/user/training/下找到扩展名为txt的文件

3.27最常用的网络测试命令有什么?

3.28ping的测试结果中都包含哪些部分?

3.29如何找出占用22端口的进程及进程号?

3.30如何删除当前目录(包含字目录)下所有30天以前创建的文件名后缀为.log的文件

3.31以下一些Linux命令的作用分别是什么?

init 0

chkconfig--level 3 sendmail on

tar-czvf test.tar.gz./

chown-R

ln-s/data/log//var/log/sina_log

umount-f/data0

rpm-ivh baihui.rpm

rpm-qf/bin/ls

3.32LINUX常用命令pwd、top、df、ifconfig、cat分别代表什么含义?

3.33linux常用命令：关机、重启、编辑某文档文件、删除某文件、更改操作系统密码命令分别是什么?

3.34请使用命令：删除/backup目录下10天前的普通文件

3.35如何查看服务器当前连接ip的列表

3.36写出liunx系统中diff、chmod、grep、kill、tar五个常用命令的功能

3.37简述tar-cjvf/tmp/test.tar.gz/root命令中错误及错误原因

3.38Linux系统从A服务器测试B服务器一个tcp端口是否联通使用___

3.39写一个脚本查找最后创建时间使3天前，后缀是*.log的文件并删除

3.40linux如何根据进程ID查找启动程序的路径

3.41查看占用swap的进程id

3.42列出linux常见打包工具并写相应解压缩参数(至少三种)

3.43Linux中锁定一个文件用什么命令?他和md5sum有什么区别?

3.44如何在系统中查找所有所属用户为user1的文件

3.45查看某个文件或者文件夹占用磁盘空间大小的命令

3.46如何查看远程linux系统运行了多少时间?我的服务器内存，cpu，硬盘都是多少，系统版本，linux会优先将数据缓存到内存中，我的机器真实内存消耗实际上是多少

3.47查看服务器当前开启了哪些端口?如何查看某服务器是否存在IO压力

3.48如何查看某个文件system.log被哪些进程占用

扩展

1.21在退出unix系统账户之后还需要继续运行某个进程，那么可用()

awk sed crontab nohup screen

1.20使用trace命令的目的是()

可用的，十分成功的测试手段

非常基本的测试手段

把IP地址和DNS加入路由表中

在源到目标传输的过程中查找失散点

1.27哪个变量用来指定一个远程x应用程序将输出放到哪个x server上

TERM

DISPLAY

ECHO

OUTPUT

1.33P系列服务器被用做文件服务器，所有的用户文件存都放在一非rootvg的文件系统上，用什么方法可以快速备份和恢复这些数据和文件系统的定义()

tar

cpio

savefs

savevg

Q3: 大数据开发需要linux哪些内容，学了基本命令，再往后面学越来越复杂，各种运维的知识了

大数据技术由浅入深依次掌握：

Java语言基础：

Java语言基础、Java流程控制、Java字符串、Java数组与类和对象、数字处理类与核心技术、I/O与反射，多线程、Swing程序与集合类；

HTML、CSS与JavaScript：

PC端网站布局、HTML5+CSS3基础、WebAPP页面布局、原生javascript交互功能开发、Ajax异步交互、jQuery应用；

JavaWeb和数据库：

数据库、javaWeb开发核心、JavaWeb开发内幕；

Linux基础：

Linux安装与配置、系统管理与目录管理、用户与用户组管理、Shell编程、服务器配置、Vi编辑器与Emacs编辑器；

Hadoop生态体系：

Hadoop起源与安装、MapReduce快速入门、Hadoop分布式文件系统、Hadoop文件I/O详解、MapReduce工作原理、MapReduce编程开发、Hive数据仓库工具、开源数据库HBase、Sqoop与Oozie；

Spark生态体系：

Spark部署和运行、Spark程序开发、Spark编程模型、作业执行解析、Spark SQL与DataFrame、深入Spark Streaming、Spark MLlib与机器学习、GraphX与SparkR、spark项目实战、scala编程、Python编程；

Storm实时开发：

storm基本知识、拓扑详解与组件详解、Hadoop分布式系统、spout详解与bolt详解、zookeeper详解、storm安装与集群搭建、storm-starter详解、开源数据库HBase、trident详解；

linux大数据命令的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于linux在大数据专业课程中的作用、linux大数据命令的信息别忘了在本站进行查找喔。