注意！ AIは誘拐シミュレーションで10代の声を模倣している

人工知能の開発の中止を求める公開書簡の公開後、その署名には イーロン・マスク、これらのテクノロジーの使用は、さらに恐ろしい新たな高みに到達しました。

アリゾナ州の母親が地方当局に、詐欺師らがAIを使って娘の声を複製し、100万ドルの身代金を要求したと通報した。

ジェニファー・デステファノという名前の母親は、クローンの声を聞いたとき、それが15歳の娘ブリー・デステファノだと実際に信じ、心の底から怖くなったと語った。

この行為はますます一般的になり、詐欺師は偽造技術を使用します。 発信者番号を偽って被害者の親族が誘拐されたかのように見せかけ、身代金と引き換えに金銭を要求する リリース。

誘拐シミュレーション

ジェニファーさんは、知らない番号から電話を受け、危うく留守番電話に任せそうになったが、娘が旅行に行っていたことを思い出し、応答することにしたと語った。

電話に出ると、女性は泣き叫ぶ声に加えて、「トラブルに巻き込まれた」という娘のクローンの声を聞いて、ジェニファーさんはパニックになったと述べた。

さらにデステファノさんは、ずっと後ろから「娘の声」が聞こえて、「助けて、お母さん」と懇願しているのが聞こえたと主張している。 私を助けてください。 助けて」と泣きながら止まらなかった。

偽ハイジャッカーが身代金の支払いを要求したのはその瞬間だった。 彼は当初100万ドルを要求したが、ジェニファーがお金がないと主張したため、後に5万ドルに減額した。

当時もう一人の娘の隣にいた恐怖に怯えた母親が、近くにいた別の女性の助けを得て、悪夢はついに終わった。

女性はジェニファーと夫であるブリーの父親に911に通報し、ジェニファーを助けた。 そうすることで、彼らはこのティーンエイジャーが安全で順調に旅を続けていることを確認した。

恐怖を感じた後でも、ジェニファー・デステファノさんは、自分が聞いた声がいかに忠実だったかを語った。 「それは完全に彼女の声だった」と彼は言った。 「それは彼女のイントネーションと泣き方でした」と彼は言う。

今のところ、盗賊たちがどのようにしてブリーさんの声に関するデータにアクセスしたのかはわかっていない。 しかし、予備調査では、通話の分析に基づいて、ジェニファーが聞いた声は実際に人工知能によって作成されたものであると結論付けることができました。

呼び出し 「ハイテク電話詐欺」 特に米国では、これがますます一般的になってきています。

このような状況から身を守るには、注意する必要があり、そうなった場合の解決策は、落ち着いて管轄当局に連絡することです。 さらに、誘拐犯とされる者のいかなる要求も満たされるべきではない。

歴史と人材テクノロジーを専攻して卒業。 書くことに情熱を持っている彼は、現在、Web のコンテンツ ライターとしてプロとして活動し、さまざまなニッチやさまざまなフォーマットで記事を書くという夢を抱いています。