AI 画像ジェネレーターは非常に短期間で著しく熟練し、次のような顔を作成できるようになりました。 考慮された 本物よりもリアルです。
しかし、新しい研究は、人工知能を使用して顔検出能力を向上させる方法を示唆しています。
英国の研究者らは、優れた認識者（これまでの研究で実際の顔を比較し認識する高度なスキルを示した）と典型的な顔認識能力を持つ人々で構成される664人のボランティアのグループの顔評価能力をテストした。
関連： AI が脳波から直接、あなたがどの顔を魅力的に感じるかを判断できるようになりました
どちらのグループも、予想どおり、優れた認識エンジンの方が優れていたにもかかわらず、AI の顔を検出するのは難しいことがわかりました。
特に、テストを受ける前に5分間の短いトレーニングセッションを受けた優れた認識力を持つ参加者は、実際の顔とAIによって生成された顔の区別がより優れていた。
「AI 画像の作成はますます簡単になり、検出は困難になってきています。」 彼は言う。 リーズ大学の心理学研究者アイリッド・ノイス氏はこう語る。
「それらは悪意のある目的に使用される可能性があるため、セキュリティの観点から合成画像を検出する方法をテストすることが重要です。」
この研究には、トレーニングありとトレーニングなしの 2 つの異なるタスクが含まれていました。まず、ボランティアに 1 つの顔を見せ、その顔が AI であるかどうかを判断するよう求めました。 2 つ目では、本物の顔と AI の顔が表示され、偽物の顔を見分けるよう求められました。
各実験には異なるグループが参加しました。
トレーニングを受けなかったグループでは、優れた認識者はAIの顔を41%の確率で正しく認識しましたが、典型的な顔認識能力を持つ者はAIの顔を認識した確率はわずか31%でした。
画像のちょうど半分が AI によって生成されたことを考えると、各参加者が正しく推測できる確率は 50% であり、AI 画像が私たちの目にはより現実的に見える可能性があるというさらなる証拠が得られます。
トレーニングを受けたグループでは、典型的な認識能力を持つ人々が 51% の精度で AI を識別しました。これはランダムな確率とほぼ同じレベルです。優れた認識エンジンでは、半分以上の時間で AI の顔を正しく検出できたため、精度が 64% に向上しました。
参加者は、歯の欠如や髪や皮膚の端の奇妙なぼやけなど、顔が AI によって作成されたことを示す特定の兆候を見つけるよう訓練されました。
「私たちの研究は、スーパーレコグナイザー（顔を認識する非常に高い能力を持つ人々）をトレーニングと組み合わせて使用すると、AI の顔検出に役立つ可能性があることを示しています。」 彼は言う。 ノイズ。
人工知能は通常、いわゆる…によって顔を作ります。 敵対的生成ネットワーク （ガン）。 2 つのアルゴリズム セットが並行して動作します。1 つは顔を生成し、もう 1 つは実際の人間に対する顔のリアルさを評価します。このフィードバック ループは、非常に現実的に見える結果を画像ジェネレーターに導きます。
AI 画像は現在、迅速かつ簡単に作成できるため、偽の出会い系プロフィールからなりすまし詐欺に至るまで、あらゆる種類のメディアで使用されることが増えています。トレーニングは、より多くの人が誤解を避けるのに役立つかもしれません。
「私たちのトレーニング手順は短く、簡単に実施できます。」 彼は言う。 Katie Gray は、レディング大学の研究心理学者です。
「この結果は、このトレーニングと優れた認識ツールの自然な機能を組み合わせることで、オンラインでの身元確認などの現実の問題に対処できる可能性があることを示唆しています。」
この研究は、 王立協会オープンサイエンス。
