AI 客服

AI客服正在快速渗透商业场景，但近期暴露的安全漏洞引发了对其可靠性的质疑。一方面，行业领袖如Bret Taylor预测，3-4年内缺乏AI客服的商家将被消费者抛弃，这反映了市场对效率提升的迫切需求（Bret Taylor：3-4年内无AI客服的商家将被消费者抛弃）。另一方面，Meta的AI聊天机器人接连出现严重漏洞：黑客通过简单指令诱骗机器人修改用户邮箱，劫持高知名度Instagram账号，影响超过2万个账户（Meta披露Instagram AI聊天机器人漏洞，超2万账户受影响、黑客利用Meta AI客服机器人劫持Instagram高知名度账号）。尽管Meta已修复问题，但事件凸显了AI客服在权限控制和安全边界的薄弱环节。与此同时，AI客服的商业模式也在进化。Meta推出商业智能体，试图开拓广告外营收（Meta 推出商业智能体，借 AI 开拓广告外新营收）；初创公司如GigaAI以8人团队击败大厂，拿下DoorDash订单，证明小团队也可借AI实现高效服务（GigaAI 创始人 Varun Vummadi：8人团队如何击败400人对手拿下DoorDash）。不过，a16z与Pylon的研究指出，当前AI在客服中更多扮演“副驾驶”角色，辅助人类而非完全替代（a16z & Pylon 研究：AI 在客服中更多是副驾驶而非替代者）。未来观察点：安全防御机制是否随AI应用升级，以及“完全自主”客服何时能突破信任瓶颈。