主頁(yè) > 知識(shí)庫(kù) > UTF-8 編碼中BOM的檢測(cè)與刪除

UTF-8 編碼中BOM的檢測(cè)與刪除

熱門標(biāo)簽:忻州外呼系統(tǒng)接口對(duì)接 醫(yī)院地圖標(biāo)注 滄州智能外呼系統(tǒng)收費(fèi) 洛陽(yáng)便宜外呼系統(tǒng)廠家 地圖標(biāo)注和圖片標(biāo)注 嘟聲的電銷機(jī)器人 湖北穩(wěn)定外呼系統(tǒng) 電銷機(jī)器人怎么收費(fèi) 語(yǔ)音平臺(tái)系統(tǒng)
注:Unicode相關(guān)知識(shí)的詳細(xì)介紹請(qǐng)參考UTF-8, UTF-16, UTF-32 BOM。

對(duì)于UTF-8/16/32而言,它們名字中的8/16/32指的是編碼單位是多少位的,也就是說(shuō),它們的編碼單位分別是8/16/32位,換算成字節(jié)就是1/2/4字節(jié),如果是多字節(jié),就要牽扯到字節(jié)序,UTF-8以單字節(jié)為編碼單位,所以不存在字節(jié)序。

UTF-8主要的優(yōu)點(diǎn)是可以兼容ASCII,但如果使用BOM的話,這個(gè)好處就蕩然無(wú)存了,除此以外,BOM的存在還可能引發(fā)一些問(wèn)題,比如下面錯(cuò)誤便都有可能是BOM導(dǎo)致的:

Shell: #!/bin/sh: No such file or directory
PHP: Warning: Cannot modify header information – headers already sent

在詳細(xì)討論UTF-8編碼中BOM的檢測(cè)與刪除問(wèn)題前,不妨先通過(guò)一個(gè)例子熱熱身:

shell> curl -s http://phone.jb51.net/ | head -1 | sed -n l
\357\273\277!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional\
//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">\r$

如上所示,前三個(gè)字節(jié)分別是357、273、277,這就是八進(jìn)制的BOM。

shell> curl -s http://phone.jb51.net/ | head -1 | hexdump -C
00000000 ef bb bf 3c 21 44 4f 43 54 59 50 45 20 68 74 6d |...!DOCTYPE htm|
00000010 6c 20 50 55 42 4c 49 43 20 22 2d 2f 2f 57 33 43 |l PUBLIC "-//W3C|
00000020 2f 2f 44 54 44 20 58 48 54 4d 4c 20 31 2e 30 20 |//DTD XHTML 1.0 |
00000030 54 72 61 6e 73 69 74 69 6f 6e 61 6c 2f 2f 45 4e |Transitional//EN|
00000040 22 20 22 68 74 74 70 3a 2f 2f 77 77 77 2e 77 33 |" "http://www.w3|
00000050 2e 6f 72 67 2f 54 52 2f 78 68 74 6d 6c 31 2f 44 |.org/TR/xhtml1/D|
00000060 54 44 2f 78 68 74 6d 6c 31 2d 74 72 61 6e 73 69 |TD/xhtml1-transi|
00000070 74 69 6f 6e 61 6c 2e 64 74 64 22 3e 0d 0a |tional.dtd">..|

如上所示,前三個(gè)字節(jié)分別是EF、BB、BF,這就是十六進(jìn)制的BOM。

注:用到了第三方網(wǎng)站的頁(yè)面,不能保證例子始終可用。

實(shí)際做項(xiàng)目開發(fā)時(shí),可能會(huì)面對(duì)成百上千個(gè)文本文件,如果有幾個(gè)文件混入了BOM,那么很難察覺(jué),如果沒(méi)有帶BOM的UTF-8文本文件例子,可以用vi杜撰幾個(gè),相關(guān)命令如下:

#設(shè)置UTF-8編碼
:set fileencoding=utf-8
#添加BOM
:set bomb
#刪除BOM
:set nobomb
#查詢BOM
:set bomb?

如何檢測(cè)UTF-8編碼中的BOM呢?

shell> grep -r -I -l $'^\xEF\xBB\xBF' /path

如何刪除UTF-8編碼中的BOM呢?

shell> grep -r -I -l $'^\xEF\xBB\xBF' /path | xargs sed -i 's/^\xEF\xBB\xBF//;q'

推薦:如果你使用SVN的話,可以在pre-commit鉤子里加上相關(guān)代碼用以杜絕BOM。
復(fù)制代碼 代碼如下:

#!/bin/sh

REPOS="$1"
TXN="$2"

SVNLOOK=/usr/bin/svnlook

FILES=`$SVNLOOK changed -t "$TXN" "$REPOS" | awk '/^[UA]/ {print $2}'`

for FILE in $FILES; do
if $SVNLOOK cat -t "$TXN" "$REPOS" "$FILE" | grep -q $'^\xEF\xBB\xBF'; then
echo "Byte Order Mark be found in $FILE" 1>2
exit 1
fi
done

本文用到了很多shell命令,篇幅所限,恕不詳述,如果有不明白的就請(qǐng)自己搜索吧。
您可能感興趣的文章:
  • UTF-8 GBK UTF8 GB2312 之間的區(qū)別和關(guān)系介紹
  • PHP字符編碼問(wèn)題之GB2312 VS UTF-8解決方法
  • PHP iconv 解決utf-8和gb2312編碼轉(zhuǎn)換問(wèn)題
  • php截取utf-8中文字符串亂碼的解決方法
  • PHP 解決utf-8和gb2312編碼轉(zhuǎn)換問(wèn)題
  • PHP 字符串編碼截取函數(shù)(兼容utf-8和gb2312)
  • php實(shí)現(xiàn)utf-8和GB2312編碼相互轉(zhuǎn)換函數(shù)代碼

標(biāo)簽:定州 96 日照 內(nèi)蒙古 宜賓 巴彥淖爾 山南 防城港

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《UTF-8 編碼中BOM的檢測(cè)與刪除》,本文關(guān)鍵詞  UTF-8,編碼,中,BOM,的,檢測(cè),;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《UTF-8 編碼中BOM的檢測(cè)與刪除》相關(guān)的同類信息!
  • 本頁(yè)收集關(guān)于UTF-8 編碼中BOM的檢測(cè)與刪除的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章