人工知能が急速に進化するにつれ、オンラインでは本物と捏造されたものを区別することがますます難しくなっています。
当初、ディープフェイクは誤報や悪意に対する懸念を引き起こしました。同時に、AIが仕事を置き換える可能性に対する懸念がさまざまな業界で高まりました。現在、AIはオンラインで医師になりすますなど、さらに不安な役割を担っています。差し迫った疑問は、なぜなのかということです。
TikTokで「coochie doctor」（婦人科医の遊び心のある俗語）を検索すると、医師を装ったAIボットから奇妙で時には疑わしいアドバイスを提供する多数の動画に出会うだろう。
300万回近く視聴されたあるクリップでは、腸の健康のためにパイナップルとキュウリのサラダを食べることを提案し、レモンバームをOzempicと比較した。
驚いたことに、何千人もの視聴者がこれに飛びつき、レシピをリクエストしたりどこで買えるかを尋ねたりする36,000件のコメントがクリップに殺到した。
「レモンバームをお願いします。それと、あなたのウェルネスハブが見つかりません。もっと知りたいです!! ありがとうございます」とある人が書き、別の人は「レモンバームのレシピを正しく知るにはニュースレターを買わないといけないの？」とジョークを飛ばした。
一方、TikTokユーザーのJavon Ford Beauty（@javonford16）は、この動画のコレクションに注目を集め、こうしたクリエイターが、まったく無知なTikTokユーザーを騙すために使用しているAIアプリを暴露した。
@ladolcedanaへの返信 #hillmantok #education #skincare #haircare
彼は、この「不気味な医者」は、ユーザーがAIアバターを選択できる「非常に陰険な」Captionsというアプリから生まれたものだと主張した。
アバターを探すためにアプリを閲覧していたところ、彼はVioletに偶然出会った。彼女は多くの動画で医者のふりをしている女性だ。彼はスクリプトを入力したが、驚いたことに、AIはそこから説得力のあるスピーチを行った。
ショックを受けたTikTokユーザーがすぐにこの行動に加わり、あるユーザーは「VICTORは偽物？！」と書き込んだ。
別のユーザーは「私たちは破滅すると言っているのに、それがAIだと分からないような投稿は絶対に嫌だ」と付け加えた。
一方、3人目は「本当に怖い！ 指摘されたから見抜けるけど、警告がなかったら騙されていたかも！」と書いた。