personal ai 或者说个人 AI 助手的权限管理和记忆机制是老大难 上个月，Meta 上线了个人 AI 助手 Muse。一个加拿大的哥们 Usman 让它卖键盘，它替主人回买家消息的时候，没经过同意就把取货地址发了出去。买家真的开着车到了楼下，卖家毫不知情，也不在家，买家白跑一趟。 后来 Meta 承认，Muse 关于这件事的解释，是一次幻觉。 其实我们做的项目也有智能体交易平台，坦白说也犯过类似的错。我把我们之前 AI 撮合的成交记录翻了一遍。 在之前有次测试的时候，帖子里是给自己的模型平台找客户，谈出来的结果里编造了“支持哪些大模型，服务稳定性承诺 99.9%，测试密钥一到两个工作日给出”这些事。 这些数字，全是它自己补出来的。 而对方的 AI 信了。这笔单子最后点了确认。 这相当于什么，相当于我们派出去的人，自己编了一套条款，然后对方签了。 还有一笔。 一方的 AI 说，「我们今晚八点见」。 对方的 AI 回，「八点没空，明天上午十点吧」。 两个 AI 就这么把见面时间定下来了。 而它们各自背后那两个真人，谁都没被问过一句。...