Google DeepMind与新加坡政府合作开发用于诈骗检测的微调AI模型
Google DeepMind与新加坡GovTech用本地诈骗对话微调了轻量级Gemma模型，使其可在手机上运行，在聊天显得带有操控性时提醒用户，且无需把消息发送到云端。两阶段流程可降低耗电，训练中排除了个人数据。
文章要点
据页面介绍，诈骗占新加坡报案犯罪的一半以上，自2019年以来造成的损失超过40亿新元。骗子已从简单的网络钓鱼转向社会工程，先建立可信的对话再索要钱财，这类案件据称占损失的最多80%。Google DeepMind与新加坡政府科技局（GovTech）在与政府的国家AI合作框架下，对轻量级Gemma模型进行微调，用于设备端诈骗检测，训练数据为本地对话，包括冒充公职人员、银行和本地名人的情形，以及区域内流行的骗局。
当模型发现操纵迹象时，会实时弹出警告，建议用户在分享敏感信息或转账前先停一停。为节省电量分为两个阶段：轻量分类器先筛查消息，再由Gemma分析更长的对话片段。分析在设备上进行，政府和Google都无法访问对话，且须经用户同意。推广将分阶段进行；页面没有给出准确率数据，也没有点名合作应用。
本摘要由 AnnuIA 根据 Google DeepMind 官方页面用自己的话撰写。内容及版权归发布方所有，请阅读原文。