前書き
AI生成画像とは、人工知能技術を用いて異なる画像を合成し、新しい画像を生成することを指します。最近、Midjourney AIが生成したトランプ大統領が逮捕された画像や、白いダウンジャケットを着た教皇の画像がネット上で話題になりました。
AI生成画像は、ほとんど本物そっくりのレベルまで達するものもあります。専門家は、AI技術の発展に伴い、将来的には偽のニュース、偽の画像、偽の情報がネット上で氾濫し、一般の人々が判断するのがますます難しくなる可能性があると指摘しています。これにより、多くの人々が議論を始めています：ネット上の画像の真偽をどう判断すればよいのでしょうか？本文では、画像の真偽を判別するためのいくつかの方法を紹介します。
Midjourney AI技術を使用して画像を合成する
Midjourneyは「AIドローイングプログラム」であり、ユーザーは高度な絵画技術やコンピュータ技術を学ぶ必要はありません。いくつかのキーワードを入力するだけで、短時間で画像を生成できます。効率が高く、画像も非常に精密であり、コンピュータで図面を作成する人々の敷居を大幅に下げます。任意のキーワードを入力しても画像を生成できますが、特定のスタイルや構図の画像を生成するには、ユーザーはキーワードの説明に多くの努力を払う必要があります。
AIによる画像生成の能力が十分に現実的になり、2つの合成画像によって引き起こされた論争も、プラットフォーム規制に関する議論を再び引き起こしました。Midjourneyは生成されるコンテンツの制限の強度がStable DiffusionとDALL-Eの間にある一方、OpenAIは、進行中の政治事件、陰謀論、政治家に関する画像の生成を禁止しています。
以前、Midjourneyは異なる国のユーザーからの提案に基づいて、禁止される用語のリストを作成しました。しかし、川普や教皇のような有名人に基づく偽の画像がインターネット上に拡散されているため、Midjourneyはリストに禁止語を追加しました。これには、「逮捕された」という用語も含まれます。ただし、「手錠をかけられた」と「警察に包囲された」といった言葉を使って制限を回避することができます。
AI合成画像：トランプ氏が逮捕される／Eliot HigginsのTwitter
AI合成画像：羽織りコートを着たローマ教皇／BuzzFeed News／Pablo Xavier
Midjourneyは、異常な要求と試用の乱用の組み合わせのため、現在無料トライアルを一時停止していると主張しています。
専門家はまた、ディープフェイク技術が政治的なフェイクニュースの拡散を助長したり、当事者の同意なしに性的な画像を生成することがあることを警告しています。また、偽造された画像が長期間流布することは、マスメディアへの信頼を侵食する可能性があります。
AI生成画像と本物の画像を区別する方法は？
では、AI生成画像と本物の画像をどのように区別すればよいのでしょうか？AIの専門家であるAjderは、画像の真偽を判断するための4つの技術を指摘しています。
- AIが生成した画像には「プラスチック」の感触があります。Midjourney AIプラットフォームで生成された画像には、しばしば滑らかで光沢のあるプラスチックの感触がありますが、他のAIプラットフォームで生成された画像にはこの特徴が必ずしもあるわけではありません。また、Midjourneyはプラスチック感の問題を解決する可能性があります。そのため、すべてのAI生成画像をこの基準だけで判別することは困難です。
- 写真上の矛盾、不合理 AIが画像を作成する際、細部においてしばしば矛盾や常識に反するところが現れます。例えば、人物の頭部がやや大きく、過度に強調された眉毛や骨格、微笑んだ際に下の歯が露出する（通常、微笑む際に露出するのは上の歯）など、比例や常識に合わない出現があります。生体認証の専門家Khitrovは、合成画像の教皇において、十字架をかけるためのチェーンが片側しかない、奇妙な耳の形状、そして眼鏡と顔の陰影の間の距離が間違っていると指摘しています。（画像を参照してください）
- 情報の明確化
- 美的な要因が真偽を判断するのに十分でない場合、Ajderは画像の情報を確認し、ニュースの動向に注意することを提案しています。例えば、もしトランプが本当に逮捕されたり警察の取り締まりから逃れた場合、それは世界的なトップニュースになるはずです。また、画像の背後にあるソースを考えることも提案しており、「画像を共有したのは誰か？」「どこで共有されたのか？」「既知の事実のソースを使って交差比較できるか」といったことを考えることができます。
- 逆イメージ検索を利用する
- 逆イメージ検索を利用して、画像の真偽を確認することができます。例えば、トランプ氏が逮捕された画像を逆検索することで、この画像を共有しているすべてのニュースサイトの記事を見つけることができ、画像の出所を明らかにすることができます。Ajder氏は、Google LensやYandexなどの逆イメージ検索機能を備えたツールを使用することをお勧めします。
総括
専門家は、AI分野に精通している人にとっては、「トランプが逮捕された」写真は偽物であることが一目で分かるかもしれないが、AIの発展速度を知らない人もいるため、ユーザーがソーシャルメディアを閲覧する際には、投稿内容を詳しく調べるのではなく、プレビュー画面を素早くスクロールする可能性があるため、騙されることがあると述べています。
「トランプが逮捕された」写真は信じられないかもしれませんが、一般の人々の感情を刺激することができます。トランプ支持者や反対者が画像に刺激を受け、衝動的な行動を取る可能性があります。昨年、欧州刑事警察機構は報告書を発表し、専門家は2026年までに、最大90％のネットワークメッセージがAIによって合成されると予想しています。
AI技術の進歩に伴い、真実と偽物の境界はますます曖昧になっています。メッセージを読む際には、注意深く真偽を見極めること、メディアリテラシーを身につけることが必要です。