پث‌وایز

تفکر نقادانهدرس ۹ از ۱۲

راستی‌آزمایی تصاویر، ویدئوها و جعل عمیق (دیپ‌فیک)

بخش عمدهٔ تصاویر گمراه‌کننده، عکس‌هایی واقعی هستند که در زمان یا مکانی نادرست بازنشر شده‌اند. با جستجوی معکوس تصویر، نشانه‌های تصاویر هوش مصنوعی، و چرایی اولویت اصالت منبع بر بررسی پیکسل‌ها آشنا می‌شوید.

چیزی که از این درس می‌بری

  • بخش عمدهٔ فریب‌های بصری، عکس‌های واقعی هستند که با زمان، مکان یا روایتی جعلی بازنشر شده‌اند.
  • جستجوی معکوس تصویر (Google Lens، Bing، TinEye) نسخه‌های کهن را می‌یابد؛ قدیمی‌ترین نسخه هویت واقعی را فاش می‌سازد.
  • برش کادر، کاهش سرعت ویدئو، چسباندن فایل‌های صوتی و ویرایش اسکرین‌شات‌ها روایت را بدون خلق محتوای نو تحریف می‌کنند.
فهرست این درس۹
  1. تصاویر واقعی در بستر روایتی ساختگی
  2. چهار گام در اجرای جستجوی معکوس تصویر (Reverse Image Search)
  3. سرنخ‌های نهفته درون کادر تصویر
  4. ویرایش‌های ظریفی که روایت را دگرگون می‌سازند
  5. نشانه‌های آشکار در تصاویر هوش مصنوعی
  6. انتساب گفتار یا رفتار ساختگی به اشخاص حقیقی
  7. سود و رانت دروغ‌گویان (Liar's dividend)
  8. دو رویکرد در ارزیابی تصاویر شگفت‌انگیز
  9. مرور نکات کلیدی درس
ببین: تصویر واقعی، بافتار دروغین

۰۱متداول‌ترین گونهٔ جعل تصویری

تصاویر واقعی در بستر روایتی ساختگی

رایج‌ترین شگرد تحریف بصری، جعل فنی و پیچیده نیست؛ بلکه یک تصویر یا ویدئوی کاملاً واقعی است که با مکان، تاریخ یا روایتی جعلی بازنشر می‌شود: تصویری قدیمی از سیل سال‌های گذشته که به عنوان طوفان امروز معرفی می‌شود، یا ازدحام جمعیتی در کشوری دیگر که به رخدادی محلی نسبت داده می‌شود. کارشناسان راستی‌آزمایی این پدیده را تصاویر خارج از بافتار (Out-of-context) یا با زیرنویس تحریف‌شده، و گاه «جعل ارزان» (Cheapfake) می‌نامند؛ زیرا ساخت آن نیازمند هیچ ابزار پیشرفته یا هزینه‌ای نیست.

تصویری از خیابانی غرق در سیلاب با زیرنویس: «وضعیت بحرانی همین امروز در شهر ما، در حالی که رسانه‌ها سکوت کرده‌اند!» خود واقعه و عکس واقعی است؛ اما سال‌ها پیش در قاره‌ای دیگر رخ داده است.

خودت رو امتحان کنسؤال ۱ از ۶

شایع‌ترین شیوهٔ فریب مخاطبان از طریق محتوای تصویری در فضای وب کدام است؟

  1. تصویری که با مدل‌های نوین هوش مصنوعی از ابتدا خلق شده است
  2. تصویری اصیل و واقعی که با مکان، زمان یا روایتی نادرست بازنشر می‌گردد
  3. تصویری که پیکسل به پیکسل در نرم‌افزارهای گرافیکی دستکاری شده باشد
  4. سکانسی از یک اثر سینمایی که به عنوان رویدادی مستند معرفی شده است
جواب رو ببین

تصویری اصیل و واقعی که با مکان، زمان یا روایتی نادرست بازنشر می‌گردد

کاملاً درست است. الصاق روایتی دروغین به عکسی واقعی، سریع، بسیار کم‌هزینه و اثرگذار است؛ چرا که خود تصویر اصیل است و تنها روایت پیرامون آن کذب است.

۰۲قدم‌به‌قدم

چهار گام در اجرای جستجوی معکوس تصویر (Reverse Image Search)

  1. گام نخست: ذخیرهٔ تصویر یا ثبت برش صفحه (اسکرین‌شات)

    در مورد ویدئوها، پخش را در فریمی شاخص، واضح و متمایز متوقف ساخته و از آن نما تصویر بگیرید.

  2. گام دوم: جستجو بر پایهٔ خود تصویر، نه کلیدواژه‌ها

    از ابزارهایی چون گوگل لنز (Google Lens)، بینگ ایمیج یا تین‌آی (TinEye) بهره بگیرید؛ تصویر را بارگذاری کرده یا پیوند آن را درج کنید.

  3. گام سوم: کاوش در پی کهن‌ترین نسخهٔ انتشاریافته

    نتایج را بررسی کنید یا در TinEye گزینهٔ مرتب‌سازی بر اساس قدیمی‌ترین تاریخ را برگزینید. اگر تصویر پیش از تاریخ رویداد ادعاشده در وب موجود بوده، زیرنویس قطعاً جعلی است.

  4. گام چهارم: خواندن روایت و شناسنامهٔ اولیهٔ تصویر

    کهن‌ترین نسخه (ترجیحاً از یک خبرگزاری معتبر یا عکاس اثر) نشانی حقیقی مکان، تاریخ دقیق و داستان راستین واقعه را برملا می‌سازد.

خودت رو امتحان کنسؤال ۲ از ۶

یکی از نزدیکان تصویری هولناک با عنوان «سیل ویرانگر در استان‌های شمالی، همین امروز» ارسال می‌کند. شما گمان می‌برید تصویر قدیمی است؛ سنجیده‌ترین گام نخست چیست؟

  1. بزرگ‌نمایی تصویر برای یافتن ردهای رتوش و ویرایش دیجیتال در امتداد جریان آب
  2. بررسی داده‌های فنی پنهان (Metadata) نظیر تاریخ و مدل دوربین
  3. اجرای جستجوی معکوس تصویر در پی یافتن نسخه‌های پیشین و قدیمی‌تر
  4. پرس‌وجو در گروه‌های مجازی دربارهٔ اینکه آیا دیگران نیز عکس را مشکوک می‌دانند
جواب رو ببین

اجرای جستجوی معکوس تصویر در پی یافتن نسخه‌های پیشین و قدیمی‌تر

کاملاً درست است. اگر نسخه‌هایی از این عکس متعلق به تاریخی پیش از امروز ثبت شده باشند، زیرنویس بی‌درنگ باطل می‌شود؛ فرآیندی که کمتر از سی ثانیه زمان می‌برد.

سرنخ‌های نهفته درون کادر تصویر

  • آب‌وهوا و فصل: وجود برف، درختان خزان‌دیده یا لباس‌های تابستانی که با فصل تاریخ ادعاشده همخوانی ندارند.
  • علائم جاده‌ای و تابلوهای شهری: خط، زبان، نشانه‌ها یا قالب شماره‌های تماس متعلق به کشوری دیگر.
  • خودروها و پلاک‌ها: جهت حرکت خودروها (رانندگی در سمت راست یا چپ)، سبک و ابعاد پلاک انتظامی.
  • عوارض جغرافیایی و نشانه‌های پایدار: خط‌الرأس کوه‌ها، برج‌ها یا خط ساحلی که از طریق تطبیق با نقشه‌های ماهواره‌ای قابل سنجشند.
  • فراداده (Metadata): اغلب شبکه‌های اجتماعی داده‌های اگزیف (EXIF) دوربین را حذف می‌کنند، بنابراین نمی‌توان صرفاً بدان‌ها اتکا کرد.

۰۴دستکاری‌شده، نه لزوماً خلق‌شده

ویرایش‌های ظریفی که روایت را دگرگون می‌سازند

میان مفهوم «کاملاً واقعی» و «جعلی مطلق»، طیف وسیعی از دستکاری‌ها قرار دارد: یک عکس ممکن است برش بخورد (Crop) تا زمینهٔ آن محو گردد (مانند حذف خیابان خالی در کنار کادری متراکم از جمعیت). سرعت یک ویدئو ممکن است کاهش یابد تا سخنران ناپایدار، مست یا آشفته جلوه کند. فایل صوتی ممکن است تقطیع و چسبانده شود تا ترتیب واژگان دگرگون گردد؛ و اسکرین‌شات یک خبر، از ساده‌ترین بسترهایی است که با تغییر کد صفحه قابل دستکاری است.

کلیپی کوتاه از لکنت و کندی بیان یک مقام رسمی بازنشر می‌شود؛ اما ویدئوی اصلی نشان می‌دهد او با صلابت سخن می‌گوید. چیزی به تصویر اضافه نشده بود، بلکه سرعت ویدئو صرفاً روی ۷۵ درصد تنظیم شده بود.

خودت رو امتحان کنسؤال ۳ از ۶

ایراد هر یک از تصاویر یا ویدئوهای زیر از چه سنخی است؟

تصویر اصیل، اما با زمان یا مکان دروغین (خارج از بافتار)محتوایی که پس از ثبت، مورد دستکاری قرار گرفته است

  • تصویر زلزلهٔ سال ۱۳۹۴ که به عنوان سانحهٔ شب گذشته بازنشر شده است
  • کاهش عمدی سرعت یک سخنرانی تا گوینده مشوش و نامتعادل به نظر رسد
  • تصویر تماشاگران یک مسابقه در آمریکای لاتین که به عنوان راهپیمایی محلی معرفی شده است
  • تصویر صفحهٔ یک خبرگزاری که تیتر آن در محیط وب تغییر یافته است
  • برش تعمدی تصویر به گونه‌ای که میدان نیمه‌خالی، آکنده از جمعیت جلوه کند
  • عکسی از خیابانی پوشیده از برف متعلق به دی‌ماه که در تیرماه به عنوان رخداد روز منتشر شده است
جواب رو ببین

تصویر اصیل، اما با زمان یا مکان دروغین (خارج از بافتار): تصویر زلزلهٔ سال ۱۳۹۴ که به عنوان سانحهٔ شب گذشته بازنشر شده است, تصویر تماشاگران یک مسابقه در آمریکای لاتین که به عنوان راهپیمایی محلی معرفی شده است, عکسی از خیابانی پوشیده از برف متعلق به دی‌ماه که در تیرماه به عنوان رخداد روز منتشر شده است

محتوایی که پس از ثبت، مورد دستکاری قرار گرفته است: کاهش عمدی سرعت یک سخنرانی تا گوینده مشوش و نامتعادل به نظر رسد, تصویر صفحهٔ یک خبرگزاری که تیتر آن در محیط وب تغییر یافته است, برش تعمدی تصویر به گونه‌ای که میدان نیمه‌خالی، آکنده از جمعیت جلوه کند

۰۵آثار تولیدشده با هوش مصنوعی

نشانه‌های آشکار در تصاویر هوش مصنوعی

تصاویر تولیدشده توسط مدل‌های زایشی هوش مصنوعی، چه بسا نقایصی ساختاری به همراه داشته باشند: حروف و کلمات درهم‌ریخته بر روی تابلوها، ناهنجاری در تعداد انگشتان یا ساختار لالهٔ گوش، قرینه نبودن گوشواره‌ها، سایه‌ها یا بازتاب‌های ناممکن فیزیکی، و پوستی که بیش از اندازه صاف و پلاستیکی است. توجه به این موارد سودمند است؛ اما این ابزارها با شتابی بالا تکامل می‌یابند؛ بنابراین نبود نقص ظاهری هرگز دلیلی بر اصالت تصویر نیست. سنجهٔ مطمئن‌تر، منشأ و تبارشناسی اثر (Provenance) است: بررسی اینکه تصویر نخستین بار در کجا و توسط چه حسابی منتشر شده است.

عکسی از بنایی تاریخی در زیر برفی سنگین که جزئیات دست‌ها و نوشته‌هایش کاملاً بی‌نقص است. جستجوی معکوس تصویر آشکار می‌سازد که نخستین بستر انتشار آن، صفحهٔ شخصی یک طراح هوش مصنوعی بوده که حتی متن پرامپت را نیز در شرح تصویر آورده است.

خودت رو امتحان کنسؤال ۴ از ۶

بابک با بزرگ‌نمایی تصویری پرمخاطب در شبکه‌های اجتماعی، مشاهده می‌کند که دست‌ها کاملاً طبیعی، نوشته‌ها خوانا و سایه‌ها منطقی هستند؛ این بررسی اثبات می‌کند که تصویر محصول هوش مصنوعی نیست.

  1. درست
  2. نادرست
جواب رو ببین

نادرست

نادرست است. مشاهدهٔ نقایص نشانه‌ای از تولید مصنوعی است، اما مدل‌های پیشرفتهٔ امروزی بسیاری از این ایرادات را برطرف ساخته‌اند. عدم مشاهدهٔ خطای بصری چیزی را اثبات نمی‌کند؛ ردیابی سرچشمه و تبار انتشار تصویر آزمونی بسیار استوارتر است.

۰۶فناوری جعل عمیق (دیپ‌فیک)

انتساب گفتار یا رفتار ساختگی به اشخاص حقیقی

جعل عمیق (Deepfake) محتوای صوتی یا تصویری تولیدشده توسط هوش مصنوعی است که فردی واقعی را در حال بیان جملات یا انجام اعمالی نشان می‌دهد که در عالم واقع هرگز رخ نداده است. شبیه‌سازی صدا (Voice Cloning) امروزه تنها با داشتن چند ثانیه نمونهٔ ضبط‌شده میسر است؛ بنابراین یک پیام صوتی حتی با تطابق کامل صدا، دیگر سندی قطعی به شمار نمی‌آید. همواره بررسی کنید آیا رسانه‌های معتبر یا درگاه‌های رسمی همان شخص این پیام را بازتاب داده‌اند یا خیر. امروزه برخی دوربین‌ها از نشانگرهای امنیتی نظیر C2PA بهره می‌برند که فرآیند تولید اثر را ثبت می‌کند.

پیام صوتی منسوب به پزشکی سرشناس که محصولی تجاری را توصیه می‌کند. سکوت مطلق صفحهٔ رسمی ایشان و خبرگزاری‌های حوزهٔ سلامت، کلید رسوایی این ادعاست.

سود و رانت دروغ‌گویان (Liar's dividend)

اصطلاح تخصصی · جامعه‌شناسی رسانه

مفهومی طرح‌شده توسط حقوق‌دانان رابرت چزنی و دنیل سیترون: با فراگیر شدن آگاهی عمومی از وجود جعل عمیق، فضا برای چهره‌های خطاکار مهیا می‌شود تا هر سند کاملاً واقعی علیه خود را به بهانهٔ «ساختگی بودن با هوش مصنوعی» انکار کنند. بنابراین ادعای «شاید هوش مصنوعی باشد»، حکمی قطعی بر بطلان یا صحت نیست، بلکه انگیزه‌ای برای ردیابی دقیق‌تر منبع اصلی است.

صدایی واقعی از اظهارات موهن یک شخصیت فاش می‌شود و او مدعی می‌گردد: «این صدا حاصل دیپ‌فیک است!» چنین ادعایی دقیقاً به اندازهٔ اصل فایل صوتی نیازمند راستی‌آزمایی مستقل است.

خودت رو امتحان کنسؤال ۵ از ۶

یک شخصیت عمومی در مواجهه با مدرک صوتی واقعی و افشاشده از خود، با خونسردی مدعی می‌شود: «این فایل، جعل عمیق هوش مصنوعی است!» این پدیده که در آن فناوری جعل سبب تسهیل انکار شواهد واقعی می‌گردد، چه نام دارد؟

  1. سود و رانت دروغ‌گویان (Liar's dividend)
  2. توازن کاذب (False balance)
  3. جعل ارزان (Cheapfake)
  4. گلچین کردن گزینشی (Cherry-picking)
جواب رو ببین

سود و رانت دروغ‌گویان (Liar's dividend)

کاملاً درست است. پیدایش فناوری‌های جعل عمیق فرصتی بادآورده برای تحریف‌گران فراهم می‌سازد تا اسناد واقعی را ساختگی بنامند. راهکار اساسی، بررسی اعتبار سرچشمه و انتشاردهندگان مستقل است.

دو رویکرد در ارزیابی تصاویر شگفت‌انگیز

شکار پیکسل‌ها و بازرسی بصری

صرف ده دقیقه زمان برای بزرگ‌نمایی تصویر، در پی یافتن انگشتی نامتقارن یا خطوطی تار. این روش برخی تصاویر ساختگی را کشف می‌کند، اما از تشخیص عکس‌های اصیل با بافتار دروغین عاجز است و با پیشرفت هوش مصنوعی ناکارآمدتر خواهد شد.

تبارشناسی و اعتبارسنجی منبع (Provenance)

صرف سی ثانیه زمان برای جستجوی معکوس تصویر و بررسی مشخصات نخستین منتشرکننده. این روش عکس‌های کهنه، انتساب‌های مکانی غلط و اغلب تولیدات هوش مصنوعی را برملا می‌سازد و با هر کیفیتی از جعل، همچنان کارآمد باقی می‌ماند.

خودت رو امتحان کنسؤال ۶ از ۶

مینا تصویری خارق‌العاده از برخورد صاعقه با برجی مشهور را در شبکه‌های اجتماعی مشاهده می‌کند که با عنوان «رخداد شب گذشته» بازنشر شده است. عکس بسیار باشکوه است و او تمایل دارد آن را بازنشر کند. سنجیده‌ترین تصمیم چیست؟

  1. بی‌درنگ بازنشر کند؛ تصویری تا این حد زیبا کمترین آسیبی به کسی نمی‌رساند
  2. آن را با یادداشت «از صحت عکس مطمئن نیستم» منتشر سازد تا دیگران شخصاً داوری کنند
  3. ابتدا جستجوی معکوس سریعی انجام دهد و تنها در صورتی که زمان و مکان آن اثبات شد، با ذکر بافتار حقیقی منتشر کند
  4. از بازنشر هرگونه عکس با موضوع پدیده‌های طبیعی برای همیشه خودداری ورزد
جواب رو ببین

ابتدا جستجوی معکوس سریعی انجام دهد و تنها در صورتی که زمان و مکان آن اثبات شد، با ذکر بافتار حقیقی منتشر کند

کاملاً درست است. الصاق زیرنویس خبری به عکسی باشکوه، آن را به یک ادعای خبری بدل می‌سازد. ۳۰ ثانیه جستجو به او نشان می‌دهد که عکس متعلق به دیشب است، سال‌ها پیش ثبت شده یا زادهٔ هوش مصنوعی است.

۰۹جمع‌بندی

مرور نکات کلیدی درس

  • بخش عمدهٔ فریب‌های بصری، عکس‌های واقعی هستند که با زمان، مکان یا روایتی جعلی بازنشر شده‌اند.
  • جستجوی معکوس تصویر (Google Lens، Bing، TinEye) نسخه‌های کهن را می‌یابد؛ قدیمی‌ترین نسخه هویت واقعی را فاش می‌سازد.
  • برش کادر، کاهش سرعت ویدئو، چسباندن فایل‌های صوتی و ویرایش اسکرین‌شات‌ها روایت را بدون خلق محتوای نو تحریف می‌کنند.
  • تصاویر هوش مصنوعی ممکن است خطاهایی داشته باشند، اما بی‌نقصی تصویر دلیلی بر اصالت نیست؛ منشأ اثر بر پیکسل‌ها تقدم دارد.
  • در مواجهه با جعل عمیق و شبیه‌سازی صدا، رسانه‌های مرجع و کانال‌های رسمی گوینده را محک قرار دهید.
  • پدیدهٔ سود دروغ‌گویان: ادعای «دیپ‌فیک بودن» نباید محملی برای فرار از اسناد واقعی باشد؛ در هر حال منبع را بیازمایید.

به سبک خودت یادش بگیر.

توی اپ از یادآی بخواه این درس رو ساده‌تر توضیح بده، از زندگی خودت مثال بزنه یا عمیق‌تر بره. بعد یه مسیر کامل دور هدف خودت بساز.

Cafe Bazaar Myket توی اپ شخصی‌سازیش کن