即使是最好的 AI 聊天机器人,内存也是最大的限制因素之一,但有一些方法可以解决这个问题。 ChatGPT 专家使用的一种技术被人们称为“Shogtongue”。
Shogtongue 是一种压缩的文本形式,ChatGPT 可以为您创建该文本,然后将其扩展并用作历史记录,这样您就可以从过去的对话中中断的地方继续。
缩短 AI 提示的技术并不是一个新概念,但这个名字很有趣。当gfodor上周在一条推文中分享高度压缩的提示时,他建议使用 Shogtongue 这个名字。
当提示“2Pstory@shoggothNW$RCT_magicspell= #keyRelease ^1stHuman*PLNs_Freed”时, GPT-4 版本的 ChatGPT显然分享了一个关于 HP Lovecraft 的 Shoggoth 生物的故事,这些生物是可以转变成任何其他生物的无形斑点.考虑到这个不可读的提示会变成一个长篇故事,这是一个恰当的名称。
Jeremy Nguyen在最近的一条推文中给出了更详细的解释。基本思想是要求 ChatGPT 将之前的整个对话压缩为最少数量的标记(AI 内部使用的语言表示)。给出了额外的说明来改进这个基本命令并强化目的——将聊天存储在一个压缩的提示中,该提示将重新创建整个对话。
Nguyen 说,可以输入 Shogtongue 提示以从您离开的地方继续,但由于结果并不完美,提供一些上下文可能会有所帮助。向 ChatGPT 澄清此文本被压缩以节省内存并应用作历史记录将为 AI 提供有关应如何解释提示的提示。
使用此技术可以进行跨越数月的对话或包括粘贴多个大型文档的聊天。
在 Bing Chat 出轨并开始与人类争论其明显错误后,微软在早期测试中限制了 Bing Chat 的对话历史记录。尚不清楚使用 Shogtongue 是否会导致与 ChatGPT 类似的混淆状态。 GPT-4 自发布以来得到了极大的改进,允许微软扩展 Bing Chat 的内存,因此与使用OpenAI 的 GPT-4 技术的AI 聊天机器人扩展聊天可能不是问题。