写在前面

在web服务端开发中，字符的编解码几乎每天都要打交道。编解码一旦处理不当，就会出现令人头疼的乱码问题。

不少从事node服务端开发的同学，由于对字符编码码相关知识了解不足，遇到问题时，经常会一筹莫展，花大量的时间在排查、解决问题。

文本先对字符编解码的基础知识进行简单介绍，然后举例说明如何在node中进行编解码，最后是服务端的代码案例。本文相关代码示例可在这里找到。

关于字符编解码

在网络通信的过程中，传输的都是二进制的比特位，不管发送的内容是文本还是图片，采用的语言是中文还是英文。

举个例子，客户端向服务端发送”你好”。

客户端 —- 你好 —-> 服务端

这中间包含了两个关键步骤，分别对应的是编码、解码。

  1. 客户端：将”你好”这个字符串，编码成计算机网络需要的二进制比特位。
  2. 服务端：将接收到的二进制比特位，解码成”你好”这个字符串。

总结一下：

  1. 编码：将需要传送的数据，转成对应的二进制比特位。
  2. 解码：将二进制比特位，转成原始的数据。

上面有些重要的技术细节没有提到，答案在下一小节。

  • 客户端怎么知道”你好”这个字符对应的比特位是多少？
  • 服务端收到二进制比特位之后，怎么知道对应的字符串是什么？

关于字符集和字符编码

上面提到字符、二进制的转换问题。既然两者可以互相转换，也就是说存在明确的转换规则，可以实现字符<->二进制的相互转换。

这里提到的转换规则，其实就是我们经常听到的字符集&字符编码。

字符集是一系列字符（文字、标点符号等）的集合。字符集有很多，常见的有ASCII、Unicode、GBK等。不同字符集主要的区别在于包含字符个数的不同。

了解了字符集的概念后，接下来介绍下字符编码。

字符集告诉我们支持哪些字符，但具体字符怎么编码，是由字符编码决定的。比如Unicode字符集，支持的字符编码有UTF8(常用)、UTF16、UTF32。

概括一下：

  • 字符集：字符的集合，不同字符集包含的字符数不同。
  • 字符编码：字符集中字符的实际编码方式。
  • 一个字符集可能有多种字符编码方式。

可以把字符编码看成一个映射表，客户端、服务端就是根据这个映射表，来实现字符跟二进制的编解码转换。

举个例子，”你”这个字符，在UTF8编码中，占据三个字节0xe4 0xbd 0xa0，而在GBK编码中，占据两个字节0xc4 0xe3。

字符编解码例子

上面已经提到了字符编解码所需的基础知识。下面我们看一个简单的例子，这里借助了icon-lite这个库来帮助我们实现编解码的操作。

可以看到，在字符编码时，我们采用了gbk。在解码时，如果同样采用gbk，可以得到原始的字符。而当我们解码时采用utf8时，则出现了乱码。

  1. var iconv = require('iconv-lite');
  3. var oriText = '你';
  5. var encodedBuff = iconv.encode(oriText, 'gbk');
  6. console.log(encodedBuff);
  7. // <Buffer c4 e3>
  9. var decodedText = iconv.decode(encodedBuff, 'gbk');
  10. console.log(decodedText);
  11. // 你
  13. var wrongText = iconv.decode(encodedBuff, 'utf8');
  14. console.log(wrongText);
  15. // ��

实际例子：服务端编解码

通常我们需要处理编解码的场景有文件读写、网络请求处理。这里距网络请求的例子，介绍如何在服务端进行编解码。

假设我们运行着如下http服务，监听来自客户端的请求。客户端传输数据时采用了gbk编码，而服务端默认采用的是utf8编码。

如果此时采用默认的utf8对请求进行解码，就会出现乱码，因此需要特殊处理。

服务端代码如下（为简化代码，这里跳过了请求方法、请求编码的判断）

  1. var http = require('http');
  2. var iconv = require('iconv-lite');
  4. // 假设客户端采用post方法，编码为gbk
  5. var server = http.createServer(function (req, res) {
  6.     var chunks = [];
  8.     req.on('data', function (chunk) {
  9.         chunks.push(chunk)
  10.     });
  12.     req.on('end', function () {
  13.         chunks = Buffer.concat(chunks);
  15.         // 对二进制进行解码
  16.         var body = iconv.decode(chunks, 'gbk');
  17.         console.log(body);
  19.         res.end('HELLO FROM SERVER');
  20.     });
  22. });
  24. server.listen(3000);

对应的客户端代码如下：

  1. var http = require('http');
  2. var iconv = require('iconv-lite');
  4. var charset = 'gbk';
  6. // 对字符"你"进行编码
  7. var reqBuff = iconv.encode('你', charset);
  9. var options = {
  10.     hostname: '127.0.0.1',
  11.     port: '3000',
  12.     path: '/',
  13.     method: 'POST',
  14.     headers: {
  15.         'Content-Type': 'text/plain',
  16.         'Content-Encoding': 'identity',
  17.         'Charset': charset // 设置请求字符集编码
  18.     }
  19. };
  21. var client = http.request(options, function(res) {
  22.     res.pipe(process.stdout);
  23. });
  25. client.end(reqBuff);

相关链接

Nodejs学习笔记
https://github.com/chyingp/nodejs-learning-guide

iconv-lite
https://github.com/ashtuchkin/iconv-lite