感情操作を利用した「AI詐欺」の高度化とメンタルセキュリティ

AIによる音声合成やパーソナライズされたメッセージ生成を悪用し、標的の感情を巧みに操って詐欺を働く『エモーショナル・スキャム』が急増しています。家族や友人を装うだけでなく、AIが標的のSNSの投稿内容を分析し、その時々の悩みや関心事に寄り添うようなメッセージを送り続けることで、深い信頼関係を築き上げてから金銭を要求する手法です。技術的な対策に加え、ユーザー一人ひとりの『デジタル・メンタルセキュリティ』を高める教育や、AIによる不審なコミュニケーションの検知・警告サービスの普及が急務となっています。