Google DeepMindとシンガポール政府、詐欺検出向けに微調整したAIモデルを共同開発
Google DeepMindとシンガポールのGovTechは、軽量なGemmaモデルを現地の詐欺会話で微調整し、スマートフォン上で動作して、操作的と思われるチャットを、メッセージをクラウドに送らずに警告できるようにした。2段階のパイプラインで電池消費を抑え、学習では個人データを除外した。
記事の内容
ページによると、詐欺はシンガポールで報告される犯罪の半数以上を占め、2019年以降の被害額は40億シンガポールドルを超えるとされています。詐欺は単純なフィッシングから、信頼できる会話を築いてから金銭を求めるソーシャルエンジニアリングに移っており、こうした手口が損失の最大80%を占めるといいます。Google DeepMindとGovTech Singaporeは、政府との国家AIパートナーシップの一環として、軽量なGemmaモデルを端末上の詐欺検出向けに微調整しました。学習には、公的機関、銀行、地元の著名人を装う会話や、地域で流行する手口など、現地の会話が使われています。
モデルが巧妙な誘導を検出すると、機密情報や金銭を渡す前に立ち止まるよう促す警告をリアルタイムで表示します。電池消費を抑えるため二段階で、軽量な分類器がメッセージを選別し、次にGemmaが会話のより長い部分を分析します。分析は端末上で行われ、政府もGoogleも会話にアクセスできず、利用者の同意がある場合に限られます。展開は段階的で、精度の数値や連携アプリは示されていません。
この要約は、Google DeepMind の公式ページをもとに AnnuIA が自分の言葉で作成しました。内容および権利は発行元に帰属します。元の記事をご覧ください。