Изкуственият интелект (AI) прави все по-лесно създаването на реалистично изглеждащи изображения, затова дори случайните интернет потребители трябва да са наясно, че изображенията, които гледат, може да не отразяват реалността. Това обаче не означава, че ние, хората, сме обречени да бъдем заблуждавани.
Процесът, чрез който дифузионните модели – AI системи, които преобразуват текст в изображения – се научават на подобна дейност, има тенденция да генерира това, което Мат Гро (бел. ред. асистент-професор по мениджмънт и организации в училище Kellogg ) нарича „артефакти и неправдоподобности“ – тоест случаи, в които
компютърният модел не улавя основната реалност на фотографските сцени.
Гро, заедно с колегите си Негар Камали, Карин Накамура, Ангелос Хацимпармпас и Джесика Хълман, използват три AI системи за преобразуване на текст в изображения (Midjourney, Stable Diffusion и Firefly), за да генерират подбрана поредица от изображения, които илюстрират някои от най-често срещаните артефакти и неправдоподобности.
„Един от най-изненадващите аспекти на курирането на изображения беше осъзнаването, че AI моделите невинаги се подобряват по линеен начин“, казва Камали. „Имаше случаи, в които качеството, особено при изображенията на знаменитости, всъщност се влоши. Това ни напомни, че напредъкът в AI не постоянно е пряк“.
Въз основа на тази работа Гро и колегите му споделят пет извода (и няколко примера), които можете да използвате, за да маркирате подозрителни изображения.
Анатомични несъответствия
Снимка: Medium
Когато разглеждате изображение, за което смятате, че може да е изкуствено генерирано, лесна първи стъпка е да направите бърз преглед на частите на тялото на обекта. AI моделите често създават тела, които могат да изглеждат необичайни и дори фантастични.
Има ли липсващи или излишни крайници/пръсти?
Тела, които се сливат с околната среда или с други тела в близост? Шия като на жираф при човек? В изображенията, генерирани от AI, зъбите могат да се припокриват или да изглеждат асиметрични. Очите могат да са прекалено блестящи, размазани или да изглеждат кухи.
„Ако наистина си мислите: „А, това е човек, който изглежда малко странно“, проверете дали зеницата е кръгла“, предлага Гро. „Портретите на лица са особено трудни за разграничаване, защото често им липсват контекстуалните улики, които по-сложните сцени предоставят“, казва Камали.
И докато AI моделите като цяло са добри в създаването на реалистично изглеждащи лица, те са по-малко умели в ръцете. Ръцете може да нямат нокти, да се сливат или да имат странни пропорции.
Стилът
Снимка: AI
Друг признак, че изображението е генерирано от AI, е, че просто не изглежда като нормална фотография на човек. Кожата може да е восъчна и лъскава, цветовете да са пренаситени или лицето да е прекалено красиво. Гро предлага да се зададат следните въпроси: „Има ли този блясък? Изглежда ли по някакъв начин пренаситено? Прилича ли на това, което обикновено виждам в Instagram?“
Макар да не е очевидно на пръв поглед, ако разгледате няколко изображения, генерирани от изкуствен интелект, ще получите по-добра представа за тези стилистични артефакти.
Други характерни стилистични артефакти са
несъответствието между осветлението на лицето и осветлението на фона,
грешки, които създават петна, размазване. Прекалено кинематографично изглеждащи фонове, развята от вятъра коса и хиперреалистични детайли също могат да бъдат признаци, въпреки че много реални фотографии са редактирани или поставени така, че да имат същия ефект. Така че, макар и да са важни улики, те не са окончателни.
Функционални неправдоподобности
Тъй като тези AI модели за преобразуване на текст в изображения всъщност не знаят как работят нещата в реалния свят, обектите (и начинът, по който човек взаимодейства с тях) могат да предложат още една възможност да се разкрие фалшификат. Наблегнете на детайлите на обектите като копчета, часовници или катарами.
Нарушения на физичните закони
Снимка: Age of LLMS
По същия начин сенките, отраженията и перспективата също могат да дадат улики за произхода на изображението. Така например изображенията, създадени от изкуствен интелект, често се отличават с изкривявания или дълбочина, както и с грешки в перспективата. Помислете за стълбище, което изглежда, че води едновременно нагоре и надолу, или пък такова, което не води никъде.
„Когато става въпрос за по-сложни сцени, става очевидно, че дифузионните модели страдат от липса на разбиране на логиката“, отбелязва Накамура, „включително логиката на човешкото тяло и логиката на светлината, сенките и гравитацията.“
В снимките, генерирани от изкуствен интелект,
сенките често нарушават законите на физиката.
Те могат да падат под различни ъгли от източника си, сякаш слънцето грее от няколко позиции. Огледало може да отразява различно изображение.
Социокултурни неправдоподобности
@vblank_digital Mona Lisa Selfie #fyp #digitalart #aiart #incredible #monalisa #surrealism #selfie #viral #smartphone #trending #watchthis ♬ Vivaldi Winter Drill - veneris
Ето още нещо, което AI моделите не притежават в голяма степен: контекст.
„Когато си настроен към социокултурни неправдоподобности, можеш веднага да усетиш, когато нещо в изображението не е наред“, смята Камали. „Това усещане често подтиква към по-внимателно разглеждане, което ви кара да забележите други категории артефакти и неправдоподобности“.
Лишени от културна чувствителност и исторически контекст, AI моделите са склонни да
генерират дразнещи изображения, които е малко вероятно да се появят в реалния живот.
Разбира се, невъзможно е един човек да има чувствителност към всички потенциални култури или да е запознат с огромно количество исторически подробности, но някои неща са очевидни предупредителни знаци.
