南ロサンゼルスの活気あふれる地域は、先進技術と感情的な脆さが絡み合い、痛ましくも警鐘を鳴らす物語の舞台となりました。ロサンゼルス在住の高齢者であるアビゲイル・ルヴァルカバさんは、人工知能を活用した精巧な詐欺の犠牲者となりました。この詐欺は、人気の昼ドラマ”ジェネラル・ホスピタル”の愛される俳優、スティーブ・バートンをディープフェイク技術で偽造するものでした。その始まりは、無害そうに見えるSNS上のテキストメッセージやビデオでした。

魅惑的な幻影

アビゲイルさんは、ジェイソン・モーガン役で親しまれているバートンとのロマンティックな関係にあると信じ込んでいました。この幻想は、ディープフェイク技術を用いて外見や声をクローン化した悪意ある詐欺師によって巧妙に構築されました。

アビゲイルさんの娘、ヴィヴィアン・ルヴァルカバさんは、「なぜそれに気づかなかったのか？ なぜ起きていることが見えなかったのか？」と後悔の弁を述べ、母親が真実のつながりとして見たものに魅了されていたことを思い返しました。

嘘で築かれた愛

この架空のロマンスは、詐欺師がロサンゼルスの火事で財産を失ったという話を仕立て、アビゲイルさんを助けることで彼らの絆が深まると信じ込ませ、財政的にも打撃を与えました。彼女は、偽の関係に魅了され、81,304ドル以上を、ギフトカードからビットコインに至るまで、様々な形で渡しました。

「あなたがこの場所を売るよう提案したのを覚えています」とは、詐欺師との最後のやり取りの一つです。邪悪な陰謀によって彼女は自宅を売却し、350,000ドルを手に入れましたが、それは単なる巧妙な欺瞞に過ぎませんでした。

流行する欺瞞

スティーブ・バートン自身によれば、このような話は珍しくないと言います。「何百人もの」女性が彼と通信していると思い込み、最終的には騙されたことに気づくそうです。「もちろん、100％俺の声に聞こえる」、バートンはアビゲイルを騙したAI生成のビデオを見せられた後に述べました。

バートンが言うように、この種の詐欺は流行となっています。無垢なファンが洗脳され、オンラインでの架空の恋愛を信じてしまい、感情的にも経済的にも荒廃をもたらす結果になります。

正義と認識を求めて

今や母親の代理人となったヴィヴィアンさんは、母親の精神状態が、そのような重い決定をする資格がなかったと議論し、住宅の売却を撤回するために法的ステップを踏んでいます。彼女たちの法廷闘争は、AI技術の恐ろしい巧妙さに警鐘を鳴らす急を要するメッセージを強調するもので、無知な人々を欺瞞し、家庭を荒らす結果を招くものです。

彼女はこの悲劇的な体験を、AIが作り出した詐欺の非常に説得力のある性質について警告する道標として、そして家族に愛する人たちのオンライン活動についてのチェックを促すために共有しました。

法廷闘争が差し迫っている中、技術の影において、非現実的なことが現実の一部として破壊的に存在する可能性があるという悲しみは続きます。結局のところ、人工知能が無限の力を持つ世界では、注意が最大の味方となります。

この事件は、信頼できないデジタル人格の危険性についての重要な認識を広める他のケースに加わると、ABC7 Los Angelesによれば、述べられています。