Unicode和Utf-8編碼的區別

Unicode是一個字符集，定義了字元與數字之間的對應關係，在Unicode中：漢字“字”對應的數字是23383（十進位制），十六進位制表示為5B57。在Unicode中，我們有很多方式將數字23383表示成程式中的資料，包括：UTF-8、UTF-16、UTF-32。UTF是“Unicode Transformation Format”的縮寫，可以翻譯成Unicode字符集轉換格式，即怎樣將Unicode定義的數字轉換成程式資料。可以把utf-8理解成unicode編碼規則在計算機中的實現方式

Unicode全部用兩個位元組表示一個字元（所以最多可以表示65535個字元，其中中文的區間是 4e00 ~ 9fbf），通常用 '\u' 加上四位的十六進位制數表示，比如 ‘你’的unicode編碼是‘\u4f60’

json格式中漢字就是用這種格式表示，比如：

echo  json_encode(array('msg' => '你好'));  //{"msg":"\u4f60\u597d"}

echo urlencode('你');     //%E4%BD%A0  E4BDA0 就是‘你’的 UTF-8編碼

UTF-8編碼字元理論上可以最多到6個位元組長,然而16位BMP（Basic Multilingual Plane）字元最多隻用到3位元組長。下面看一下UTF-8編碼表：

U-00000000 - U-0000007F: 0xxxxxxx 
U-00000080 - U-000007FF: 110xxxxx 10xxxxxx 
U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx 
U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx 
U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 
U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

xxx 的位置由字元編碼數的二進位制表示的位填入， 越靠右的 x 具有越少的特殊意義，只用最短的那個足夠表達一個字元編碼數的多位元組串。 注意在多位元組串中, 第一個位元組的開頭"1"的數目就是整個串中位元組的數目。而第一行中以0開頭，是為了相容ASCII編碼，為一個位元組，第二行就為雙位元組字串，第三行為3位元組，如漢字就屬於這種，以此類推。(個人認為：其實我們可以簡單的把前面的1的個數看成位元組數)

Unicode怎麼轉換成Utf-8呢

為了要將Unicode轉換為UTF-8，當然要知道他們的區別到底在什麼地方。下面來看一下，在Unicode中的編碼是怎樣轉換成UTF-8的，在UTF-8中，如果一個字元的位元組小於0x80（128）則為ASCII字元，佔一個位元組，可以不用轉換，因為UTF-8相容ASCII編碼。假如在Unicode中漢字“你”的編碼為“u4F60”，把它轉換為二進位制為100111101100000，然後按照UTF-8的方法進行轉換。可以將Unicode二進位制從低位往高位取出二進位制數字，每次取6位，如上述的二進位制就可以分別取出為如下所示的格式，前面按格式填補，不足8位用0填補。

unicode: 100111101100000                   4F60

utf-8:    11100100,10111101,10100000       E4BDA0

從上面就可以很直觀的看出Unicode到UTF-8之間的轉換，當然知道了UTF-8的格式後，就可以進行逆運算，就是按照格式把它在二進位制中的相應位置上取出，然後在轉換就是所得到的Unicode字元了（這個運算可以通過“位移”來完成）。如上述的“你”的轉換，由於其值大於0x800小於0x10000，因此可以判斷為三位元組儲存，則最高位需要向右移“12”位再根據三位元組格式的最高位為11100000（0xE0）求或（|）就可以得到最高位的值了。同理第二位則是右移“6”位，則還剩下最高位和第二位的二進位制值，可以通過與111111（0x3F）求按位於（&）操作，再和11000000（0x80）求或（|）。第三位就不用移位了，只要直接取最後六位（與111111（ox3F）取&），在與11000000(0x80)求或（|）。

Utf-8怎麼逆轉回Unicode呢

當然在UTF-8到Unicode的轉換也是通過移位等來完成的，就是把UTF-8那些格式相應的位置的二進位制數給揪出來。在上述例子中“你”為三個位元組，因此要每個位元組進行處理，有高位到低位進行處理。在UTF-8中“你”為11100100,10111101,10100000。從高位起即第一個位元組11100100就是把其中的"0100"給取出來，這個很簡單隻要和11111（0x1F）取與（&），由三位元組可以得知最到位肯定位於12位之前，因為每次取六位。所以還要將得到的結果左移12位，最高位也就這樣完成了0100,000000,000000。而第二位則是要把“111101”給取出來，則只需將第二位元組10111101和111111(0x3F)取與（&）。在將所得到的結果左移6位與最高位元組所得的結果取或（|），第二位就這樣完成了，得到的結果為0100,111101,000000。以此類推最後一位直接與111111（0x3F）取與（&），再與前面所得的結果取或（|）即可得到結果0100,111101,100000。

/**
 * utf8字元轉換成Unicode字元
 * @param [type] $utf8_str Utf-8字元
 * @return [type]      Unicode字元
 */
function utf8_str_to_unicode($utf8_str) {
  $unicode = 0;
  $unicode = (ord($utf8_str[0]) & 0x1F) << 12;
  $unicode |= (ord($utf8_str[1]) & 0x3F) << 6;
  $unicode |= (ord($utf8_str[2]) & 0x3F);
  return dechex($unicode);
}
 
/**
 * Unicode字元轉換成utf8字元
 * @param [type] $unicode_str Unicode字元
 * @return [type]       Utf-8字元
 */
function unicode_to_utf8($unicode_str) {
  $utf8_str = '';
  $code = intval(hexdec($unicode_str));
  //這裡注意轉換出來的code一定得是整形，這樣才會正確的按位操作
  $ord_1 = decbin(0xe0 | ($code >> 12));
  $ord_2 = decbin(0x80 | (($code >> 6) & 0x3f));
  $ord_3 = decbin(0x80 | ($code & 0x3f));
  $utf8_str = chr(bindec($ord_1)) . chr(bindec($ord_2)) . chr(bindec($ord_3));
  return $utf8_str;
}

測試下

$utf8_str = '我';
 
//這是漢字“你”的Unicode編碼
$unicode_str = '4f6b';
 
//輸出 6211
echo utf8_str_to_unicode($utf8_str) . "<br/>";
 
//輸出漢字“你”
echo unicode_str_to_utf8($unicode_str);