Instinct 3周拿到40%用户信用卡权限，创始人承认早期版没有防火墙

动察 Beating AI 快讯，Instinct 创始人 Noah Shinn 披露，约 40% 用户使用产品 3 周后，会允许 Instinct 使用自己的信用卡，让 Agent 自主完成购买。他们还把「多久第一次获得信用卡、账户密码或其他敏感信息」当成衡量用户信任的指标。 一旦用户向 Instinct 连接至少一项敏感信息，留存率约为 80%。Shinn 说，用户通常需要几周慢慢建立信任，Instinct 不会要求用户一开始就交出所有权限，已经共享的数据也可以随时收回。 但 Shinn 同时承认，Instinct 的早期版本没有现在这些防火墙和主动监控，也出现过一些错误。后来公司重新搭了一套安全系统，没有只针对单个问题打补丁。现在所有准备交给 Agent 处理的文字、图片等内容，都会先经过独立的「防火墙」检查；Agent 准备执行的动作和部分推理过程，也有另一套系统监控，可以在真正执行前暂停或拦截。 一名用户此前发现，Instinct 突然开始处理一份自己从未上传过的财务文件。Shinn 后来回应称，这其实是模型编造信息后又继续编造解释造成的幻觉，没有发生用户数据泄漏。Instinct 随后上线了独立的幻觉检测系统，在 Agent 继续推理或调用工具前检查并拦截异常。