回忆之城
生命在于折腾
posts - 575,comments - 9,trackbacks - 0
不好意思,今天发现高阶例子的解释中有个错误,同时也修改了一下全文。(2004-4-18)

    首先,感谢网中人、r2007、lightspeed等诸位前辈的无私指导!以下的一些结论可能有错,还请各位前辈多多指点,我会及时更正!

[color=red][size=18]1、基本概念[/size][/color]
  a、I/O重定向通常与 FD有关,shell的FD通常为10个,即 0~9;
  b、常用FD有3个,为0(stdin,标准输入)、1(stdout,标准输出)、2(stderr,标准错误输出),默认与keyboard、monitor、monitor有关;
  c、用 < 来改变读进的数据信道(stdin),使之从指定的档案读进;
  d、用 > 来改变送出的数据信道(stdout, stderr),使之输出到指定的档案;
  e、0 是 < 的默认值,因此 < 与 0<是一样的;同理,> 与 1> 是一样的;
  f、在IO重定向 中,stdout 与 stderr 的管道会先准备好,才会从 stdin 读进资料;
  g、管道“|”(pipe line):上一个命令的 stdout 接到下一个命令的 stdin;
  h、tee 命令是在不影响原本 I/O 的情况下,将 stdout 复制一份到档案去;
  i、bash(ksh)执行命令的过程:分析命令-变量求值-命令替代(``和$( ))-重定向-通配符展开-确定路径-执行命令;
  j、( )  将 command group 置于 sub-shell 去执行,也称 nested sub-shell,它有一点非常重要的特性是:继承父shell的Standard input, output, and error plus any other open file descriptors。
  k、exec 命令:常用来替代当前 shell 并重新启动一个 shell,换句话说,并没有启动子 shell。使用这一命令时任何现有环境都将会被清除,。exec 在对文件描述符进行操作的时候,也只有在这时,exec 不会覆盖你当前的 shell 环境。


[color=red][size=18]2、基本IO[/size][/color]
  cmd > file 把 stdout 重定向到 file 文件中
  cmd >> file 把 stdout 重定向到 file 文件中(追加)
  cmd 1> fiel 把 stdout 重定向到 file 文件中
  cmd > file 2>&1 把 stdout 和 stderr 一起重定向到 file 文件中
  cmd 2> file 把 stderr 重定向到 file 文件中
  cmd 2>> file 把 stderr 重定向到 file 文件中(追加)
  cmd >> file 2>&1 把 stderr 和 stderr 一起重定向到 file 文件中
  cmd < file >file2 cmd 命令以 file 文件作为 stdin,以 file2 文件作为 stdout
  cat <>file                             以读写的方式打开 file
  cmd < file cmd 命令以 file 文件作为 stdin
  cmd << delimiter Here document,从 stdin 中读入,直至遇到delimiter 分界符


[color=red][size=18]3、进阶IO[/size][/color]
  >&n 使用系统调用 dup (2) 复制文件描述符 n 并把结果用作标准输出
  <&n 标准输入复制自文件描述符 n
  <&- 关闭标准输入(键盘)
  >&- 关闭标准输出
  n<&- 表示将 n 号输入关闭
  n>&- 表示将 n 号输出关闭
上述所有形式都可以前导一个数字,此时建立的文件描述符由这个数字指定而不是缺省的 0 或 1。如:
  ... 2>file 运行一个命令并把错误输出(文件描述符 2)定向到 file。
  ... 2>&1 运行一个命令并把它的标准输出和输出合并。(严格的说是通过复制文件描述符 1 来建立文件描述符 2 ,但效果通常是合并了两个流。)

  2>&1说明:2>&1 也就是 FD2=FD1 ,这里并不是说FD2 的值 等于FD1的值,因为 > 是改变送出的数据信道,通俗的说是:把stderr并到stdout。
  但使用类似 cmd 1>&3 这样的形式时,原理相同,但往往不同于 2>&1 和 1>&2 通常用来合并的作用。
     
    注意:普通cmd命令的cmd n>&n 和exec n>&n 是有区别的。

    exec 0<infilename # 打开文件infilename作为 stdin
    exec 1>outfilename # 打开文件outfilename作为stdout
    exec 2>errfilename # 打开文件 errfilename作为 stderr
    exec 0<&- # 关闭 FD0
    exec 1>&- # 关闭 FD1
    exec 5>&- # 关闭 FD5

问:
如果关闭了 FD0、FD1、FD2,其后果是什么?
恢复 FD0、FD1、FD2与 关闭FD0、FD1、FD2 有什么区别?代码分别是什么?
打开了FD3~FD9,我们用完之后,你觉得是将他们关闭还是恢复?


下面是提示(例子来源于CU):
  exec 6>&2 2>ver       # FD2(本来往monitor送的) 定向到文件ver
  command >>dev/null &   #丢弃FD1(stdout)
  exec 2>&6                 # 恢复 FD2


[color=red][size=18]4、简单举例(其中 yes.txt存在,no.txt不存在)[/size][/color]
  a、stdout 和stderr 都通过管道送给egrep了:
    (ls yes.txt 2>&1;ls no.txt 2>&1) 2>&1|egrep \* >file
    (ls yes.txt;ls  no.txt) 2>&1|egrep \* >file

### 
  这个例子就是让大家:理解 命令执行顺序 和 管道“|”
    在命令执行前,先要进行重定向的处理,并将把 nested sub-shell 的stdout 接到 egrep 命令的 stdin。
    nested sub-shell ,在 ( ) 中的两个命令可以看作一个命令。其 stdout(FD1) 通过 “|” 作为 egrep 的 stdin,再加上 2>&1 时,初始 stdout 和 stderr 都往管道 “|” 送。
###

  b、没有任何东西通过管道送给egrep,全部送往monitor。
    (ls yes.txt 2>&1;ls no.txt 2>&1) >&2|egrep \* >file
    虽然在()里面将 FD2转往FD1,但在()外,遇到 >&2 ,结果所有的都送到monitor。


[color=red][size=18]5、中阶例子(其中 you 这个文件是存在的,no 和 wu 这两个文件不存在)[/size][/color]
r2007兄的:http://bbs.chinaunix.net/forum/viewtopic.php?t=221848&show_type=new&sid=cf30398c911e0d2b16313c6922123f67

条件:stderr通过管道送给egrep,正确消息仍然送给monitor(不变)

  exec 4>&1;(ls you no 2>&1 1>&4 4>&-;ls wu 2>&1 1>&4 4>&-)|egrep \* >file;exec 4>&-
  或者
  exec 4>&1;(ls you no;ls wu) 2>&1 1>&4 4>&-|egrep \* >file;exec 4>&-

r2007 兄在其贴已有详细说明,如果加两个条件:
  (1)要求cmd1和cmd2并行运行;
  (2)将cmd1的返回值赋给变量 ss。

则为:
  exec 3>&1;exec 4>&1
  ss=$(((ls you no 2>&1 1>&3 3>&-;echo $? >&4)|egrep \* >file) 4>&1)
  exec 3>&-;exec 4>&-

说明:
  exec 3>&1;4>&1
  ### 建立FD3,是用来将下面ls那条语句(子shell)中的FD1 恢复到正常FD1,即输出到monitor,你可以把FD3看作最初始的FD1的硬盘备份(即输出到monitor);
  ### 建立FD4,到时用作保存ls的返回值(echo $?),你可以将FD4看作你考试时用于存放计算“echo $?”的草稿纸;

  (ls you no 2>&1 1>&3 3>&-;echo $? >&4)
  ### 大家还记得前面说的子shell和管道吧。这条命令首先会继承FD0、FD1、FD2、FD3、FD4,它位于管道前,所以在运行命令前会先把子shell自己的FD1和管道“|”相连。
  但是我们的条件是stderr通过管道送往egrep,stdout仍然输出到monitor。
  于是通过2>&1,先把 子shell的FD1 的管道“送给”FD2,于是子shell中的stderr送往管道“|”;
  再通过 1>&3,把以前的“硬盘备份”恢复给子shell的FD1,于是子shell中的FD1变成送到monitor了。
  再通过3>&- ,将3关闭;
  接着运行echo $? ,本来其输出值应该送往管道的,通过 >&4 ,将 输出 送往 “草稿纸”FD4,留以备用。

  ((ls you no 2>&1 1>&3 3>&-;echo $? >&4)|egrep \* >file) 
  于是,stderr 通过管道送给 egrep ,stdout 送给monitor,但是,还有 FD4,它送到哪去了?
  $(((ls you no 2>&1 1>&3 3>&-;echo $? >&4)|egrep \* >file) 4>&1)
  最后的 4>&1 ,就是把FD4 重定向到 FD1。但由于其输出在 $( )中,其值就赋给变量ss了。

  最后一行关闭 FD3、FD4。


[color=red][size=18]6、高阶例子[/size][/color]
  lightspeed 版主大大的:Shell 经典问题之 [ I/O 重定向] (http://bbs.chinaunix.net/forum/viewtopic.php?t=452079&show_type=new)
  [Q] 对于命令 cmd1, cmd2, cmd3, cmd4. 如何利用单向管道完成下列功能: 
[color=green]    1. 所有命令并行执行 
    2. cmd1 和 cmd2 不需要 stdin 
    3. cmd1 和 cmd2 的 stdout 定向到 cmd3 的 stdin 
    4. cmd1 和 cmd2 的 stderr 定向到 cmd4 的 stdin 
    5. cmd3 的 stdout 定向到文件 a, stderr 定向到屏幕 
    6. cmd4 的 stdout 定向到文件 b, stderr 定向到屏幕 
    7. cmd1 的返回码赋给变量 s 
    8. 不能利用临时文件 [/color]

  解决方法:
[color=blue]    exec 3>&1; exec 4>&1 
    my_value=$(((((cmd1 1>&3 ; echo $? >&4 )| cmd2 ) 3>&1 | cmd3 >a 2>&3 ) 2>&1 | cmd4 >b ) 4>&1) 
    exec 3>&-; exec 4>&-  [/color]

  解释:
   exec 3>&1; exec 4>&1
建立FD3 ,给cmd1恢复其FD1用和给cmd3 恢复其FD2用;
建立FD4,保存“echo $?”输出值的“草稿纸”

   第一对括号到第一个管道:[color=red](cmd1 1>&3 ; echo $? >&4 )|[/color]
    cmd1本身没有stdin,其stdout原要送往第一个管道,由于1>&3的作用,其stdout被送往FD3;而 >&4 的作用实际是将 cmd1 运行后的返回码送往 FD4。cmd1的stderr默认等待下一步处理。最后,没有往管道送任何东西;

   第二对括号到第二个管道:([color=red](cmd1 1>&3 ; echo $? >&4 )|[/color] cmd2) 3>&1|
    由于第一个括号中cmd1的 stdout 被送往 FD3,导致管道左端没有任何输入,cmd2 从而就没有stdin。cmd2 的stdout则为默认的;
    将第二对括号看出一个命令,其所有的stdout送往第二个管道“|”;同时由于3>&1的作用,原先cmd1的stdout在送往FD3 又与cmd2的stdout并到一起,所以cmd1 和 cmd2 的 stdout 都送往第二个管道“|”。而cmd1、cmd2的stderr仍然默认等待下一步处理;

   第三对括号到第三个管道:(((cmd1 1>&3 ; echo $? >&4 )| cmd2 ) 3>&1 | cmd3 >a 2>&3 ) 2>&1|
    cmd3 >a 2>&3:cmd3接收处理来自管道的stdin后,其 stdout 送给文件a,其stderr送往FD3,由于FD3继承FD1,实际上其stderr是送往monitor。如果没有“2>&3”,那么cmd3的stderr就会干扰cmd1和cmd2的错误输出,所以它是必须的;
    将第三个括号里完全看作一个命令,其stdout送往管道 “|”,由于2>&1,于是stderr也送往着管道。但由于cmd1、cmd2的stdout已经送给了cmd3处理,而cmd3的stdout输出到文件a,cmd3的stderr也送往monitor,所以实际上只有cmd1和cmd2的stderr送往管道。

   cmd4 >b:cmd4接收处理来自管道的stdin后,其stdout 定向到文件 b,stderr 默认输出到monitor。

   第四对括号:( (((cmd1 1>&3 ; echo $? >&4 )| cmd2 ) 3>&1 | cmd3 >a 2>&3 ) 2>&1|  cmd4 >b ) 4>&1
    四对括号里面所有命令的 FD1、FD2都处理完了,但是还有“echo $? >&4”没处理。“4>&1”的作用就是“将FD4并到stdout”,但由于其他命令的stdout都处理完了,实际上就只有 $? 的值。
    又由于 $() 会建立一个管道,输入端为()内命令,故 $? 的值被赋给变量 my_value。

   最后一行是关闭FD3和FD4。
    另:恢复重定向或关闭的stdout:exec 1>&2 ,恢复重定向或关闭的stderr:exec 2>&1。如果stdout和stderr全部都关闭了,又没有保存原来的FD,可以用:exec 1>/dev/tty 恢复。

++++++++++++++++++++++++++++++++++++++++++++
我尝试回答下面的问题。如有错误,还请各位前辈指正!


[color=red][size=18]7、在一个交互式的(Interactive) shell 中, 用 exec 进行 I/O 重定向.[/size][/color]
  1). Stdin, stderr 可以定向到文件中吗? 有什么结果?
    a、在交互式shell中,可以将stdin定向到文件。执行:exec 0<in
结果为:in 文件中每一行均会被自动执行,并且在最后会再加执行一个 exit 命令,导致退出(或退回到正常shell下)。
如 in 文件内容:$ more in
date
read lsp
echo hahha
echo "this is $lsp"

在提示符下执行命令:$ exec 0<in    (以下为自动输出,除 # 及 # 后那行的内容)
$ date
Tue Jan 18 18:29:07 HKT 2005
$ read lsp                # 其下面本应有的那句“ echo hahha ”的 “hahaha” 已经被读入到变量 lsp 中了
$ echo "this is $lsp"
this is echo hahha
$ exit

    b、在交互式shell中,可以将stderr定向到文件。执行:exec 2>err
结果为:命令提示符PS被屏蔽,输入的命令也被屏蔽。但是命令执行的结果,如果是stdout 则会回显到屏幕上,如果是 stderr 则不会回显到屏幕上。其中,命令提示符、命令、stderr均会保存到文件 err 中。如:
$ exec 2>err
err  in  out # 执行 ls 命令
Tue Jan 18 18:55:58 HKT 2005 # 执行 date 命令,而后执行了“ ls nofile”,nofile这个文件不存在
$  # 执行 exit 命令

现在让我们查看 err文件:
$ more err
[lsp@ii lsp]$ ls
[lsp@ii lsp]$ date
[lsp@ii lsp]$ ls nofile
ls: nofile: No such file or directory
[lsp@ii lsp]$ exit
exit

    c、在交互式shell中,可以将stdout定向到文件。这个使我们常用到的。就不说了。就是将错误的输出内容定向到文件中。正确的输出内容并不受影响。

  2). Stdin, Stderr 可以关闭吗? 有什么结果? 
在交互式shell中,如果关闭stdin,如:exec 0<&- ,其结果是退出(或退回到正常shell下)。
在交互式shell中,如果关闭stderr,如:exec 2>&- ,状态同stderr定向到文件,唯一不同的是没有保存下来。
在交互式shell中,如果关闭stdoutr,如:exec 1>&- ,只要执行有stdout或stderr内容送往 monitor 的命令,如ls、date这类命令,均会报错:“ls: write error: Bad file descriptor”。其他如cd、mkdir、……这类命令不受影响。

  3). 如果 stdin, stdout, stderr 进行了重定向或关闭, 但没有保存原来的 FD, 可以将其恢复到 default 状态吗? 
*** 如果关闭了stdin,因为会导致退出,那肯定不能恢复。
*** 如果重定向或关闭 stdout和stderr其中之一,可以恢复,因为他们默认均是送往monitor(但不知会否有其他影响)。如恢复重定向或关闭的stdout:exec 1>&2 ,恢复重定向或关闭的stderr:exec 2>&1。
*** 如果stdout和stderr全部都关闭了,又没有保存原来的FD,可以用:exec 1>/dev/tty 恢复。

+++++++++++++++++++
下面参考了 r2007 兄的回复!谨以致谢!
+++++++++++++++++++

[color=red][size=18]8、cmd >a 2>a 和 cmd >a 2>&1 为什么不同?[/size][/color]
    cmd >a 2>a :stdout和stderr都直接送往文件 a ,a文件会被打开两遍,由此导致stdout和stderr互相覆盖。
    cmd >a 2>&1 :stdout直接送往文件a ,stderr是继承了FD1的管道之后,再被送往文件a 。a文件只被打开一遍,就是FD1将其打开。

    他们的不同点在于:
    cmd >a 2>a 相当于使用了FD1、FD2两个互相竞争使用文件 a 的管道;
    而cmd >a 2>&1 只使用了一个管道FD1,但已经包括了stdout和stderr。
    从IO效率上来讲,cmd >a 2>&1的效率更高。



 r2007 回复于:2003-12-12 18:13:29

此贴是从另外一个主题移过来的,代码如下 
代码: 

exec 9>&1 
comd1 2>&1 >&9 9>&- | comd2 9>&-
exec 9>&-


comd1和comd2代表任意的命令。 
该脚本使comd1的错误输出通过管道作为comd2的输入,comd1的正常输出仍然保持。


引用:原帖由 "r2007" 发表:

正相反,是从左向右操作的。
fd: 文件描述符,默认有0,1,2分别用作输入、输出和错误输出。可以理解为C中的file handle,也可以理解为文件指针,shell默认有10个fd。
先写到这儿,下班了。


接着说:
exec 9>&1 #把fd1的指针复制到fd9,即dup(1,9),或者干脆理解为fd9=fd1
#注意,此时fd9和fd1同时指向一个文件。也可认为将fd1的指针保存在fd9中一份
comd1 2>&1 >&9 9>&- | comd2 9>&-
#这一句比较麻烦
#首先shell创建一个pipe,然后分别folk两个subshell
#看看第一个subshell做了什么?
#首先每个subshell都精确拷贝一份父进程的fd表,即0,1,2和9都复制过来了
#然后将fd1指向pipe文件,此时fd9仍然保存着父进程中fd1的文件指针,如果父进程没有重定向的话,就是stdout
#然后处理这段2>&1 >&9 9>&重定向命令。既
#fd2=fd1; fd1=fd9; fd9=null
#结果是fd2指向fd1原先指向的pipe文件,fd1指向fd9指向的文件,即stdout,然后将fd9关闭,由于这时fd1和fd9同时指向同一个文件stdout,所以stdout并没有真正关闭,只是减少打开次数。
#最后subshell执行comd1命令,comd1要输出时取fd1中的指针,即stdout,输出错误时,取fd2中的指针,即pipe,这样comd2从pipe中只得到了comd1输出的错误信息。
#再看看第二个subshell做了什么?
#同样精确拷贝一份父进程的fd表
#然后将fd0指向pipe文件。
#然后处理这段 9>&重定向命令。既关闭fd9。

exec 9>&- #回到父进程,关闭fd9
posted on 2014-04-27 16:22 回忆之城 阅读(87) 评论(0)  编辑 收藏 引用 所属分类: unix/linux
只有注册用户登录后才能发表评论。