Tech
[分享创造] 别让 AI 背资料库,让它翻资料库
开场:一份查不动的资料库
假设你有一堆本地资料:产品文档、销售报表、会议纪要,整整齐齐放在 knowledge/ 目录里。你想让 AI 助手从中找一个数字,比如「 2024 年华东区 Q3 的销售额」。
常见的结果有三种。
第一种,它把整个 Excel 文件一次性读进上下文。几 MB 的表格、几万行数据,直接把会话的上下文窗口塞满。轻则回答超时,重则读到一半就断,你得到的是一句「内容太多,我处理不了」。
第二种,它在目录里瞎翻。不知道资料库里有什么,就只能一层一层找,翻到哪算哪。文件少还好,文件一多,找东西全靠运气。
第三种最隐蔽:它找不到答案,又不肯承认,于是给你编一个看起来合理的数字。数字格式正确、单位正确,唯独不是真的——因为检索太贵,它选择了「猜」。
这三种结果,对应着三个典型的检索误区。AI 助手不是不会查资料,问题是它不会「省着」检索:一上来就想把整座图书馆搬进脑子里,而不是像人一样,先看目录,再翻到相关那一页。
为什么 AI 助手搜索本地资料容易翻车
问题出在四个地方。
上下文是稀缺资源。 AI 助手一次会话能处理的信息量是有限...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX