1.4 大模型能力限制与应用场景.md 4.1 KB

一、能力与应用场景

能力 应用场景
文本生成与改写 写邮件、写报告、改写风格
文本理解与摘要 总结长文、提取关键信息
翻译 多语言互译,且理解语境
对话与问答 客服、知识问答、面试模拟
代码生成与解释 写代码、Debug、解释代码
结构化提取 从非结构化文本中提取字段
创意与头脑风暴 产品命名、广告语、方案构思

二、能力限制

局限

说明

信息可能过时

训练数据有截止日期,不借助外部工具联网不知道截止日期之后发生了什么

上下文窗口长度有限

目前最多上下文长度在1百万Token,超过可能提示达到限制,或者触发将前面的对话进行压缩摘要(导致模型可能丢失一定信息精度)

注意力稀释

上下文对话内容越长,它能够准确回答细节和回忆内容的能力就会下降越多

精确计算

复杂数学运算可能出错(它是"语言"模型,不是计算器)

幻觉

对于不知道的内容,可能"一本正经地胡说八道"

倾向于正面回答

模型在后训练中会引导成讨人喜欢,如果你问它某个决策(如创业点子)是否可行,它会倾向于给你肯定得回复。

不一定能无法理解图片/视频

  • 纯文本模型:无法理解,通过OCR转成文本(如DeepSeek)进行解决。

  • 拼接图片/视频模型:分别训练文本、图片和视频模型,然后拼接在一起,不能充分理解图片和视频的意思。

  • 原生多模态:把文字、图片和视频一起训练(比如Gemini3、Kimi K2.5)可以比较好理解图片和视频的含义。

没有长期记忆

模型本身不支持长期记忆,新开会话就忘了之前的对话内容。

目前像Chatgpt和Claude通过工程化的方式推出了长期记忆功能,在数据库中记录你的对话偏好、习惯等。