尽可能多的去用token

一个一天用1个亿token的人,和一个一天连1万token都用不上的人,在未来几年差别将会巨大。

多用token, 但不是浪费,要节省的用,有效的用,在这个前提下多用。

用了多少token就是用了多少人类总结下来的智慧。

本宅最近开发了一个llm的客户端,当用户问了一个问题,llm给出答案,在用户看答案的时候,系统在后台,根据问题和记忆,又连续向llm提问,获取能扩展用户关于当前问题认知的3个问题。

另外,系统在空闲的时候还会根据用户和llm沟通的信息,向llm继续提问,获取更多拓展的信息,当用户再看以前的问题时,这些问题回追加过来。

这就是奢侈的用token.

发表评论

邮箱地址不会被公开。 必填项已用*标注

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据