【注意喚起】詐欺サイトがAI技術により、本物そっくりな見かけを偽装しやすくなっています！

2024年6月9日 2024年6月9日

にかとま

「ネットで買う」ことが当たり前になってきた時代。
少しでも安く買おうと、情報を検索して、安いところで注文していませんか？
＃僕は少しでも安いところで買おうとしています！
＃昔から、スーパーのチラシを見比べて、安いところに行っています。
＃安さに釣られる派です。
数日前、僕は、ある商品が気になって検索しました。
約１５０００円の商品ですが、なんと、約８０００円で売られていました。
＃これは、お得。
＃基本的に割引のない商品です。

ただ、このサイト、なんか、違和感があったんですよね。
ヤフオクやメルカリと言った大手ではなく、ネットショップでした。
ネットショップが、オークションサイトのような文面の商品説明を載せていました。
安い理由として、「使わないので、譲ります」と書かれていました。

このネットショップ、サイトの作り自体は、よくあるネットショップの形。
必要な情報は全て網羅されています。
そういう意味では、必要な情報が見当たらない「怪しいネットショップ」と違って、安心感が持てます。
「会社情報」などのページもあり、連絡先も詳細に記載されています。
取扱商品は多数あり、「どこにでもあるような、よく見るネットショップ」でした。
そういうところから、僕は第１判断としては、「ここは信用がおけるショップなのかもしれない」と思っていました。
以下は、「会社情報」のスクリーンショットです。
ちゃんと、消費者に情報を届けようと心がけているように見受けられました。

ただ、なんか、おかしいんですよね・・・
ChatGPTなどの生成AIが一般化する前なら、これ、怪しいと思いませんでした。
でも、このネットショップサイトを見たとき、ピンときました。
「これ、AIを使ってない？？？」と。
ChatGPTなどの生成AIは、ネット上の膨大な情報を収集しています。
それをもとに、新しく「見える」ものを生成します。
新しく見えるだけで、実際は、既存の情報のつぎはぎです。
＃だから、ChatGPTは基本的に「正しそうなこと」を言う。
今回のネットショップ、「情報のつぎはぎでできているのでは」と思えましたので、さらに調べてみました。
「会社情報」記載の住所と電話番号で検索をかけてみると、楽天のショップの中に全く同じ店が見つかりました。
その楽天ショップに、具体的に問い合わせをしてみました。
すると、以下の返信をいただきました。

あなたが名探偵なら、この返信を見る前に、ここまでに掲載した写真から、「これは、おかしい」ということを、すでに見破っていたかもしれません。
このブログを書いていて初めて気づいたのですが、今回使った写真の中に、明らかにおかしい矛盾があることに、僕は今さっき、気づきました。
商品情報は東京から送ると書いてあったのに、会社情報は三重県になっています。
送料も、商品情報欄には「出品者負担」とあるのに、会社情報欄では買った人が負担するものとして書いており、情報の統一がとれていません。
おそらく、このサイトは生成AIによる情報のつぎはぎで作られた詐欺サイトだと思われます。
これ、ひとつひとつの「部分」に関しては、本物なんです。
一般的な詐欺サイトは、住所や電話番号が架空だったり、書いていなかったりしますが、
やっかいなのは、すべて「本物」が書かれていることです。
ただ、あちこちの「本物の情報」の寄せ集めなので、情報の統一がとれていません。
「怪しい」と思ってサイト内の情報を比較検討し、各部分の情報でさらに検索をかけて精査すると、矛盾がつぎつぎと見つかります。
「架空情報」の詐欺サイトより、こういうタイプのほうがよっぽど騙されやすいと思います。
情報を部分だけで判断せず、全体で判断することが、よりいっそう大切になってきたと感じました。
「わたしは高くても正規の公式のところで買うから大丈夫」と思われた方も、いるかもしれません。
たしかに、高くても安全・安心を優先するというのは、自分の身を守るいい方法だと思います。
ただ、こういった手口が「生成AI」の一般化により、どんどん広がってくると思います。
知っておくに越したことはありません。
「生成AI」は便利ですが、悪用しようとすれば、かなり巧妙な悪用ができてしまうのです。
あまり考えたくはありませんが、これが敵に回った時のことを考えておかなければなりません。
＃味方にすれば頼もしいが、敵に回すと怖い。
僕は、危うくだまされるところでした。
お互い、気をつけましょう・・・
＃子どもたちにも、こういう教育が必要だなと、改めて感じました。
＃軽はずみに一部分だけを見て判断しないこと
＃全体のつながりとしておかしくないか考えること

▼授業でAI（ChatGPT）を扱う
　（2023/03/18の日記）
▼驚異のAI「ChatGPT」について分かりやすく解説します！
　（2023/02/28の日記）
▼PDFやWordを読み込んでAIが回答する「ドキュメントチャットボット」
　（2023/09/08の日記）
▼AIで自然な翻訳を実現する驚異の「DeepL」
　（2022/01/30の日記）
▼「デザインAC」の生成AIが、パワポのプレゼンも自動で作成！
　（2023/07/29の日記）