AI 是怎么算钱的
【摘要】 我最开始用 AI 的时候,账单上一直有个 token,不知道是什么。后来才弄明白,它跟字数不是一回事。AI 不按你写了几个字收钱。它先把你的话切成小块,按块数算。这个块就叫 token。 切出来的块,大小不一样常见的话,一整块可能就是一个词。人名、生僻字、不常见的词,会被切得更碎。同样一句“你好”,有的模型切成一块,有的切成两块。各家规则不一样。 中文切得比英文碎英文很多常用词能整块认下来。...
我最开始用 AI 的时候,账单上一直有个 token,不知道是什么。后来才弄明白,它跟字数不是一回事。
AI 不按你写了几个字收钱。它先把你的话切成小块,按块数算。这个块就叫 token。
切出来的块,大小不一样
常见的话,一整块可能就是一个词。人名、生僻字、不常见的词,会被切得更碎。
同样一句“你好”,有的模型切成一块,有的切成两块。各家规则不一样。
中文切得比英文碎
英文很多常用词能整块认下来。中文经常一个字一块,或者两三个字一块。
所以同样一个意思,中文字数少,块数不一定少。我后来估成本,就不按字数算了。
按块收的原因
AI 干活要烧显卡。问一句“今天几号”,和让它读一本书,费的劲差好几百倍。
按块收,跟实际费的劲能对上。
它回答的时候更费劲
我发过去的内容,它一口气看完。它回答我,是一个字一个字往外蹦,每蹦一个都要把前面重新想一遍。
所以让它少说废话,账单会小一点。
聊久了会忘
AI 一次只能看一小段内容。聊得太长,早先说的话就被挤出去了。
它眼前没有那段内容,就答不上来。重要的信息,我隔一段会重新说一遍。
我的用法
现在开长任务,我会先开个新对话,把背景压缩成几句话放前面。让它输出的时候,也尽量说短。
这样用下来,账单比一开始小了不少。
【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)