博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Unicode和UTF 8的故事
阅读量:6648 次
发布时间:2019-06-25

本文共 1190 字,大约阅读时间需要 3 分钟。

举一个例子:It's 知乎日报你看到的unicode字符集是这样的编码表:

I 0049t 0074' 0027s 0073  0020知 77e5乎 4e4e日 65e5报 62a5复制代码

每一个字符对应一个十六进制数字。计算机只懂二进制,因此,严格按照unicode的方式(UCS-2),应该这样存储:

I 00000000 01001001t 00000000 01110100' 00000000 00100111s 00000000 01110011  00000000 00100000知 01110111 11100101乎 01001110 01001110日 01100101 11100101报 01100010 10100101复制代码

这个字符串总共占用了18个字节,但是对比中英文的二进制码,可以发现,英文前9位都是0!浪费啊,浪费硬盘,浪费流量。怎么办?UTF。UTF-8是这样做的:1. 单字节的字符,字节的第一位设为0,对于英语文本,UTF-8码只占用一个字节,和ASCII码完全相同;2. n个字节的字符(n>1),第一个字节的前n位设为1,第n+1位设为0,后面字节的前两位都设为10,这n个字节的其余空位填充该字符unicode码,高位用0补足。这样就形成了如下的UTF-8标记位:

0xxxxxxx110xxxxx 10xxxxxx1110xxxx 10xxxxxx 10xxxxxx11110xxx 10xxxxxx 10xxxxxx 10xxxxxx111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx... ...复制代码

于是,”It's 知乎日报“就变成了:

I 01001001t 01110100' 00100111s 01110011  00100000知 11100111 10011111 10100101乎 11100100 10111001 10001110日 11100110 10010111 10100101报 11100110 10001010 10100101复制代码

和上边的方案对比一下,英文短了,每个中文字符却多用了一个字节。但是整个字符串只用了17个字节,比上边的18个短了一点点。下边是课后作业:请将”It's 知乎日报“的GB2312和GBK码(自行google)转成二进制。不考虑历史因素,从技术角度解释为什么在unicode和UTF-8大行其道的同时,GB2312和GBK仍在广泛使用。剧透:一切都是为了节省你的硬盘和流量。

文章借鉴:https://www.zhihu.com/question/23374078/answer/65352538

转载地址:http://magvo.baihongyu.com/

你可能感兴趣的文章
《中国人工智能学会通讯》——11.38 在线鲁棒负荷频率控制器设计
查看>>
新型电磁波路由器将实现无限带宽
查看>>
现代“十二要素应用”与Docker
查看>>
一年手机信息安全囧事大调查,你有没有中招
查看>>
jq的ajax交互封装
查看>>
干货!高德、VPGAME(老干爹)等MongoDB应用实践(暨MongoDB杭州用户会成立)
查看>>
【Android开发】多媒体应用开发-使用MediaPlayer播放音频
查看>>
1期:理解Docker容器的进程管理(原云栖速递)
查看>>
next_permutation函数//字典序
查看>>
翻翻git之---RecycleView的上拉,下拉刷新,样式切换,添加foot和header的强大库 RecyclerViewManager...
查看>>
Hive事物和锁管理
查看>>
curd库
查看>>
CODELF 发布了贴心小功能 - 算法字帖
查看>>
从IP数据包到端口发送究竟经历了什么?
查看>>
前端小白入门区块链系列04
查看>>
ShineButton-一个动效的按钮
查看>>
Java并发编程-锁及并发容器
查看>>
我怕了还不行嘛!
查看>>
element-UI change 事件传递自定义参数
查看>>
logback解析——Appender
查看>>