为什么 ChatGPT 输出时经常会中断,需要输入“继续” 才可以继续输出?
作者:明明如月学长, CSDN 博客专家,蚂蚁集团高级 Java 工程师,《性能优化方法论》作者、《解锁大厂思维:剖析《阿里巴巴Java开发手册》》、《再学经典:《EffectiveJava》独家解析》专栏作者。
热门文章推荐:
- (1)《人工智能时代,软件工程师们将会被取代?》
- (2)《如何写出高质量的文章:从战略到战术》
- (3)《我的技术学习方法论》
- (4)《什么? 你还没用过 Cursor? 智能 AI 代码生成工具 Cursor 安装和使用介绍》
- (5)《我的性能方法论》
一、背景
最近 ChatGPT 非常火爆,使用时经常会中断,需要输入“继续” 才可以继续输出。
作为一个技术人,不知道你是否想过为什么?
二、分析
2.1 节省计算资源和提高响应速度
一种可能是为了节省计算资源和提高响应速度。
如果 ChatGPT 每次都生成很长的文本,可能会消耗更多的内存和CPU,并且需要更长的时间才能返回结果。
如果只生成一部分文本,并让用户决定是否要求更多内容,可能会更有效率和灵活。
2.2 提高用户体验和互动性
另一种可能是为了提高用户体验和互动性。
如果ChatGPT每次都生成很长的文本,可能会让用户感到厌烦或不耐烦,并且难以阅读和理解。
如果只生成一部分文本,并让用户决定是否要求更多内容,可能会让用户感到更有控制权和参与感,并且可以根据自己的兴趣和需求选择阅读内容。
2.3 避免生成错误或不合适的内容
还有一种可能是为了避免生成错误或不合适的内容。
如果 ChatGPT 每次都生成很长的文本,可能会增加出现错误或不合适内容的风险,并且难以纠正或撤回。
而如果只生成一部分文本,并让用户决定是否要求更多内容,可能会减少这种风险,并且可以及时停止或修改不满意的内容。
三、启发
程序员也要有产品思维。我们的主要工作虽然是“写代码”,但这不是工作的全部,也要从产品层面去思考如果给用户提供更好的用户体验。
添加限制条件是性能优化的手段。这点我在 《我的性能方法论》系列中有提及。有时候单纯从技术角度优化遇到瓶颈时,可以考虑加一些限制条件,来提高性能。
创作不易,如果本文对你有帮助,欢迎点赞、收藏加关注,你的支持和鼓励,是我创作的最大动力。