豪州のAI「詐欺師おびき寄せ」35万体、詐欺師を逆に翻弄

オーストラリアの企業が異例の労働力を作り上げた。その唯一の仕事が詐欺師の時間を浪費することである35万体の人工知能エージェントだ。Apate.aiという社名はギリシャ神話の欺瞞の女神に由来し、同社のボットは見かけ上だけ騙されるように設計されている。中国の科学メディアGuokrの報道によると、各エージェントは若者や高齢者、男性や女性など普通の人物を装い、異なる訛りや複数の言語、独自の性格を備えている。

標的は一般市民ではなく、詐欺産業そのものだ。詐欺電話がかかってきたり、フィッシングサイトが情報を求めたりすると、AIペルソナが応答する。雑談し、ためらい、確認を求め、パスワードを忘れ、数字を読み間違える。目的は詐欺師をできるだけ長く拘束することで、詐欺組織の時間と金を奪い、本物の人々には静かな電話回線を提供する。同じ手法は投資詐欺や偽サイトにも及び、ボットはもっともらしいが役に立たない情報でフォームを埋める。

詐欺師おびき寄せ（スキャムベイティング）は目新しいものではない。何年も前から愛好家たちが詐欺メールに凝った物語や偽の身元で返信し、その結果をネットで共有してきた。ここで異なるのは規模だ。人間一人が同時に扱える会話は一、二件だが、数十万のソフトウェアエージェントのネットワークなら、多言語で24時間、多数を同時に処理できる。同社はペルソナの多様性が十分で、詐欺師が容易に見分けられないと主張する。

このアイデアはセキュリティと倫理の微妙な交差点に位置する。支持者は、詐欺師は恐怖と混乱で利益を得る犯罪者であり、彼らの速度を落とすことが被害者を守ると論じる。批判者は、相手が悪人であっても自動化された欺瞞が慣行を常態化させるリスクや、脆弱な高齢者を装うボットが実在の人物への報復を招く可能性を問うかもしれない。報道はこれらの問いに決着をつけておらず、技術もまだ若い。

一般ユーザーにとっての実践的な教訓はもっと単純だ。詐欺電話に対する最善の防御は変わらない。電話を切り、コードや銀行口座情報を伝えず、番号を通報することだ。AIのおとりはその警戒の必要性をなくしはしない。だが、古い軍拡競争に新たな層を加える。詐欺師が今や、電話の向こうの声が人間かどうかを疑わなければならない競争だ。

この話が注目に値するのは経済学だ。詐欺組織は量に依存しており、決して支払わないボットが十分な数の電話に出れば、一件あたりの詐欺成功コストは上がる。これはスパムフィルターや着信拒否アプリの背後にある論理を、配信ではなく会話に適用したものだ。規模で機能するかは、詐欺師が合成音声をどれだけ早く検知できるようになるかにかかっている。

世界の読者にとって、この事例はAIの最初の大衆市場での役割が、エッセイの執筆や画像生成ではなく、不正なものを含む日常の取引の真ん中に座ることかもしれないという注意喚起だ。自動化されたおとりが銀行や通信会社の標準ツールになるのか、それとも古典的な名を持つ一企業の巧妙な実験にとどまるのかは、今後数年で明らかになる。