AI聊天机器人渐成企业新门户，对话层安全防护不能缺席

根据中国互联网络信息中心2026年2月发布的报告，截至2025年底，中国生成式AI用户规模已达6.02亿，同比增长142%。AI聊天机器人正在以惊人的速度嵌入普通用户的日常，从查询信息、寻求建议、规划行程，乃至尝试通过对话完成线下服务的预约与安排……这不再是早期用户的尝鲜行为，而是一个覆盖数亿人的使用习惯正在成形。

被舆论忽视的另一面

近期，国内一款主流AI助手因用户借助其预约线下餐厅，拿到AI生成的预约成功界面后到店却被告知无效，引发广泛讨论并登上热搜。舆论的焦点迅速集中在AI幻觉：聊天机器人生成了看似真实的预约结果，却与现实完全脱节。AI幻觉问题的讨论由来已久，但在热议之外，有一个细节同样值得关注：在这整个交互过程中，用户已经向聊天机器人输入了姓名、联系方式、就餐时间、人数偏好等个人信息。无论最终结果是否有效，这些数据已经流经了对话层。