وقتی دربارهی دیپ فیک (Deepfake) بحث میکنیم، ناخودآگاه ذهنمان به سمت انسانهای مجازی میرود که بسیار واقعگرایانه به نظر میرسند اما توسط هوش مصنوعی خلق شدهاند. تصاویر دیپ فیک ممکن است سرگرمکننده باشند؛ نظیر دیپ فیکهای تام کروز که مدتی پیش سروصدای زیادی در تیک تاک به پا کردند. از طرفی افراد سودجو ممکن است از فناوری دیپ فیک برای اهداف غیر اخلاقی استفاده کنند؛ مثلاً تصویر فردی را بدون رضایتش، روی بدنی برهنه قرار بدهند.
آنچه کمتر کسی به آن فکر میکند، تصاویری است که با استفاده از دیپ فیک ایجاد شده باشد؛ تصاویر مبتنی بر هوش مصنوعی از مناظر شهری و حومهی شهر. این دیپ فیکها باعث نگرانی برخی از محققان شدهاند. به گزارش ورج، محققان نگراناند که دیپ فیک و هوش مصنوعی باعث پخش گستردهی نقشههای جعلی شوند.
نقشههای جعلی ممکن است به شیوههای مختلف باعث فریب شوند. امکان استفاده از دیپ فیک برای پخش اطلاعات دروغین دربارهی آتشسوزی حیات وحش و سیل یا بیاعتبار کردن داستانهایی که بر پایهی تصاویر ماهوارهای واقعی نقل شدهاند، وجود دارد. مثلاً به گزارشهایی فکر کنید که مدتی پیش با محوریت اردوگاههای بازداشت اویغورها در چین منتشر شد. آن گزارشها متکی بر تصاویر ماهوارهای بودند. اگر دیپ فیکهای جغرافیایی به شکل گسترده پخش شوند، دولت چین ممکن است ادعا کند که گزارشهای مربوط به اردوگاه بازداشت جعلی بودهاند.
نقشهی دیپ فیک حتی ممکن است به مسئلهای در سطح امنیت ملی یک کشور تبدیل شود؛ زیرا دولتها میتوانند با نقشههای جعلی دشمنان خود را سردرگم کنند.
ارتش ایالات متحده در سال ۲۰۱۹ در این رابطه هشدار داده بود. تاد مایرز، از تحلیلگران آژانس امنیت ملی، اطلاعات مکانی سناریویی را تصور کرد که در آن نرمافزار طرحریزی عملیات ارتش توسط دادههایی که پلی را در مکانی نادرست نشان میدهند فریب میخورد: «بدین ترتیب از منظر تاکتیکی یا برنامهریزی مأموریت، نیروهایتان را برای حرکت در مسیری خاص به سمت یک پل تعلیم میدهید؛ اما پل در آنجا قرار ندارد. در آنجا غافلگیری بزرگی منتظر شما خواهد بود».
بو ژائو، استادیار جغرافیا در دانشگاه واشینگتن، میگوید اولین قدم برای مقابله با مسائل اینچنینی، مطلع کردن مردم است. او میگوید باید مردم مطلع شوند مشکلی وجود دارد. ژائو و همکارانش اخیرا مقالهای دربارهی موضوع «جغرافیای دیپ فیک» منتشر کردند. آنها نقشهی دیپ فیک طراحی کردند و سراغ تشخیص نقشههای دیپ فیک دیگر رفتند.
بو ژائو و همکارانش در دانشگاه واشینگتن توانستند با استفاده از هوش مصنوعی تصویر ماهوارهای جعلی طراحی کنند
ژائو میگوید هدف اصلی او و همکارانش از مطالعه این است که مردم مطلع شوند نمیتوان در تمام مواقع بهطور کامل به تصاویر ماهوارهای اتکا کرد و باید بدانند احتمال نفوذ نقشههای دیپ فیک در فضای وب وجود دارد. ژائو میگوید امروزه دیپ فیک در حوزههای مختلفی به بحث گذاشته میشود؛ اما مقالهی او احتمالا نخستین عنوانی است که فناوری دیپ فیک را از زاویهی جغرافیا مورد بررسی قرار میدهد.
بر اساس گفتهی ژائو بسیاری از متخصصان سیستمهای اطلاعاتی جغرافیایی از مزایای فنی یادگیری عمیق و دیگر فناوریهای مبتنی بر هوش مصنوعی برای حل مسئلههای جغرافیایی تمجید کردهاند و صرفا تعداد کمی از آنها تهدیدهای بالقوهی دیپ فیک را شناسایی و از آن انتقاد کردهاند.
سالها قبل از مطرح شدن مفهوم جغرافیای دیپ فیک در مقالهی ژائو، انسانها مشغول استفاده از نقشههای جعلی بودهاند. در واقع ژائو و همکارانش موفق به پیدا کردن نقشههایی جعلی شدهاند که قدمتشان به هزاران سال میرسد. تقریبا در تمام دورانی که نقشه وجود داشته انسانها نقشهی جعلی طراحی کردهاند تا به هم دروغ بگویند؛ از نقشههای جغرافیای اساطیری که توسط تمدنهای باستانی نظیر بابلیها ابداع شدند گرفته تا نقشههای پروپاگاندای مدرن که برای ازبینبردن روحیهی دشمن در زمان جنگ بهطور گسترده پخش میشوند.
نمونهای نادر از نقشهی جعلی را میتوانیم «شهرهای کاغذی» یا «خیابانهای تله» بهحساب بیاوریم. اینها شهرکها و جادههایی جعلی هستند که توسط نقشهکشها به درون نقشهها وارد شدهاند تا رقبایی که نتیجهی کار نقشهکشها را به سرقت میبرند شناسایی کنند.
ژائو میگوید جعل نقشه «پدیدهای است که قرنها قدمت دارد»، اما فناوریهای جدید باعث ایجاد چالشهای جدید میشوند. ژائو ادامه میدهد: «این پدیده تا حدی جدید محسوب میشود؛ چون تصاویر ماهوارهای دیپ فیک به شکل ناخوشایندی واقعگرایانه به نظر میرسند. چشمهای آموزشندیده بهسادگی نقشههای دیپ فیک را بهعنوان نقشهی معتبر تشخیص میدهند.»
طراحی نقشهی دیپ فیک قطعا سادهتر از طراحی چهرهی واقعی انسان از طریق دیپ فیک است. تصاویری با وضوح پایین ممکن است در حد و اندازهی تصاویر ماهوارهای واقعبینانه به نظر برسند. ژائو میگوید از آنجایی که اکثر تصاویر ماهوارهای توسط افراد حرفهای یا دولتها تولید میشوند، مردم معمولا ترجیح میدهند که به آنها بهعنوان نقشههایی معتبر نگاه کنند.
ژائو و همکارانش بهعنوان بخشی از مطالعهی جدید نرمافزاری توسعه دادند که میتوانست تصویر ماهوارهای دیپ فیک تولید کند (از طریق تکنیک شبکههای زایای دشمنگونه که در پروژههای معروفی نظیر ThisPersonDoesNotExist.com استفاده شده است). محققان سپس ابزاری توسعه دادند که از روی مشخصههایی نظیر بافت، کنتراست و رنگ توانایی تشخیص نقشههای دیپ فیک را داشت.
اما همانطور که متخصصان سالها است در مورد دیپ فیکهای چهرهی انسان هشدار میدهند، هر نوع ابزار تشخیص دیپ فیک باید بهطور مداوم بهروزرسانی شود تا همواره همسطح با جدیدترین پیشرفتها در فناوری دیپ فیک باشد.