No Restrictions
登录 打开聊天

“无限”这个词,以及它背后藏着什么

阅读约 2 分钟

“无限”这个词,以及它背后藏着什么

这个词是一个营销术语,不是一个技术术语。它背后通常藏着三种常见的安排:一条合理使用条款——一旦有人判定你用得太猛就会终止对话;悄悄换成一个更便宜的模型;以及一个更短的上下文窗口。这三者都是限制,只是没有一个会给你看具体数字。

一个写着“无限”的页面,做出了一个字面上不可能兑现的承诺,因为硬件资源是有限的。真正有意思的问题是,这个限制到底会以什么形态出现——而不同服务在这一点上的差异,远比“有没有用这个词”本身要大得多。

本页内容
  1. 合理使用条款,是一种没有公开数字的限制
  2. 模型可以在不告诉你的情况下被更换
  3. 记忆,是一个和消息数量完全不同的天花板
  4. 诚实的措辞长什么样
  5. 合理的疑问

合理使用条款,是一种没有公开数字的限制

服务条款通常都保留限制“不合理使用”账号的权利。而“不合理”从未被定义——这意味着这个上限确实存在,只是你看不见它。一个明确写着30条消息的可见上限,比一个被描述成“无限”的隐形天花板,反而告诉你更多信息,因为你能围绕一个已知的数字来规划。

模型可以在不告诉你的情况下被更换

有些服务保持消息数量“无限”,却悄悄把重度用户切换到一个更小的模型上。没有任何提示会宣布这个变化。回答变短了,推理变浅了,而这个人只会以为助手“今天状态不好”。数量确实保持了无限,但产品本身已经不再是原来那个了。

记忆,是一个和消息数量完全不同的天花板

一段对话拥有一个上下文窗口:模型还能看到多少之前的文字。消息数量无限,但窗口很小,意味着助手会忘记一段长对话的开头,却依然欣然接受第200条消息。人们会把这解读成“助手变差了”,而真正的限制其实在窗口上,而不是数量上。

诚实的措辞长什么样

一项明确说出自己限制的服务,比一项什么都不说的服务更值得信任。一个页面如果只说“消息之间有几秒钟的间隔”,别的什么都没说,那它其实已经把整套安排都告诉你了。读的时候找数字,而不是找形容词;一个没有任何数字的页面,可以理解为一个还没准备好做出真正承诺的页面。

合理的疑问

“无限”有真正成立的时候吗?

对一个手动发消息的真人来说,实际上可以成立,因为一个人发的量根本达不到有影响的程度。但对自动化使用来说,它始终不成立——而这正是合理使用条款存在的目的。

如何发现模型被悄悄换掉了?

在会话开始时问一个问题,在高强度使用之后再问一遍同样的问题。同样的措辞下,长度和细节明显下降,就是值得留意的信号。

更大的上下文窗口成本更高吗?

对服务方来说,运行成本确实更高,所以它常常是一项付费功能。这也是为什么一段长对话,往往正是付费套餐开始体现出价值的地方。

先看清限制条款,再看形容词,然后打开一个聊天亲自验证。

打开无限制聊天

AI限制从何而来