4个回答

我国日均 Token 消耗量已突破 30 万亿,这是一个什么量级的概念?

肖恩
71个点赞 👍

首先要区分下 Token字符、和的概念:

以这个知乎问题的标题为例,包含 36 个字符,转化为 Token 是 22 个(使用 GPT-4o 的分词器)。

如果按字数算的话,是 27 个(以飞书文档为例,不同软件统计规则有所不同)。

比如“我国”是两个字符,也是两个字。但在这个句子中,可以理解为一个整体,或者一个词,所以占一个 Token。

再比如 "Token" 这个英文单词,包含 5 个字符,如果作为字数统计,在英文里是一个 word,所以算作一个字。这个 word 具有完整语义,因此也被认为是一个 Token。

Token 其实就是分词器认为的“最小语义单元”。不同分词器,分词的结果也不相同。

想了解 Token 和字符区别的,可以去这个网址测试:platform.openai.com/tok


到这里,你是不是认为,一个 Token 代表一个或多 Word(字)。在中文语境下通常是的,因为单个汉字不可分割,或者说分割后没有语义,但英语语境下不一定。

有时候一个长英文单词可能也会被划分为多个 Token,比如:

这里 unhappiness 是一个 word(字),但包含了 3 个 Token。


好了,现在我们知道,中文场景下,30 万亿 Token 数,应该是大于 30 万亿字数的。

假设咱们就把 30万亿 Token 数当做 30万亿字数,来看看这是个什么规模的数据:

第 12 版《新华字典》总字数约 72 万字,日均 Token 消耗 30万亿,至少相当于 4166 万本《新华字典》。

第 7 版彩图本《辞海》总字数约 2350 万字,日均 Token 消耗 30万亿,至少相当于 127 万本 《辞海》。

目前已知字数最多的中文单一著作《永乐大典》总字数约 3.7 亿字,日均 Token 消耗 30万亿,至少相当于 8.1 万本《永乐大典》。


当然这个估算并不准确。因为我们消耗的 Token 肯定不止中文,比如代码任务,消耗的 Token 以英文为主。按照前面说的,一个英文 word,可能包含了一个或多个 token。

假设这 30万亿 Token 全部是英文,但对应的英文 word 应该不足 30万亿。不过咱们这个数据诞生在国内,我估摸着中文应该占大多数吧。这样估算也是想贴近题目,让大家感受下 30万亿 Token 大概是个什么量级。

零一猴子
自由评论 (0)
分享
Copyright © 2022 GreatFire.org