Google DeepMind и правительство Сингапура создают дообученную ИИ-модель для выявления мошенничества
Google DeepMind и сингапурское агентство GovTech дообучили лёгкую модель Gemma на местных диалогах мошенников, чтобы она работала на телефоне и предупреждала о манипулятивной переписке, не отправляя сообщения в облако. Двухэтапный конвейер экономит заряд батареи; персональные данные в обучении не использовались.
О чём статья
По данным страницы, мошенничество составляет более половины зарегистрированных преступлений в Сингапуре и с 2019 года обошлось более чем в 4 млрд сингапурских долларов. Мошенники перешли от простого фишинга к социальной инженерии, выстраивая убедительный разговор до просьбы о деньгах; на такие случаи приходится до 80 % потерь. Google DeepMind и GovTech Singapore в рамках национального партнёрства по ИИ с правительством дообучили лёгкую модель Gemma для обнаружения мошенничества на самом устройстве на местных диалогах, включая выдачу себя за госслужащих, банки и местных знаменитостей, а также популярные региональные схемы.
Когда модель замечает манипуляцию, она в реальном времени показывает предупреждение с советом остановиться, прежде чем передавать данные или деньги. Два этапа экономят заряд: лёгкий классификатор отсеивает сообщения, затем Gemma анализирует больший фрагмент разговора. Анализ выполняется на устройстве, поэтому ни правительство, ни Google не получают доступа к переписке, и только с согласия пользователя. Внедрение будет поэтапным; точность и приложения-партнёры на странице не названы.
Читать официальную статью Карточка AnnuIA
Краткое изложение написано AnnuIA своими словами по официальной странице Google DeepMind. Содержание и права принадлежат издателю: читайте оригинальную статью.