Порнографски снимки на Тейлър Суифт, създадени от изкуствен интелект, се разпространяват онлайн.

Последва вълна от недоволство от нейни фенове, както и призиви за спешни мерки за регулация на ИИ.

Какво се случи?

През изминалата седмица фалшивите голи снимки на Тейлър Суифт обиколиха платформата Х (бившият Туитър). Феновете на известната певица бързо се мобилизириха и започнаха офанзива с хаштаг #ProtectTaylorSwift. Идеята – буквално да наводнят социалната мрежа с нейни истински снимки.

Започна се и организирана кампания по докладване на профилите, от които се появяваха фалшивите снимки на Суифт.

Организацията за засичане и следене на дийпфейк видеоклипове и снимки Reality Defender обяви, че е засекла огромни количества порнографски материали с образа на Тейлър Суифт, най-вече в Х. Някои от снимките стигнаха и до Фейсбук. „За жалост те стигнаха до милиони потребители преди някой да се заеме да ги свали“, каза шефът на организацията Мейсън Алън.

След разследване бяха открити над дузина вариации на Тейлър Суифт. На някои от кадрите тя е напълно гола и в порнографска ситуация. На други певицата е окървавена – жертва на побой.

„Ако Суифт реши да предяви съдебни претенции заради разпространението на тези фалшиви кадри, това може да се превърне в много ключово дело“, коментира Британи Спанос, която е редактор в списание Rolling Stone и води курс по Тейлър Суифт в университета в Ню Йорк. Тя ще получи и огромна подкрепа от феновете си, които се мобилизират много бързо в подобни ситуации.

Дийпфейк порнографията с Тейлър Суифт е вероятно да доведе до дело. През 2017 г. певицата осъди радио водещ, за който се твърди, че я е обарвал по време на гостуване. Тогава Суифт получи един долар обезщетение – сума, която нейният адвокат нарече „това е символичен един долар – стойността на случилото се е неизмерима за всички жени в подобни ситуации“.

Как реагираха технологичните компании?

От Асошиейтед прес са се свързали с ръководството на социалната мрежа.

„Екипите ни работят по премахването на всички идентифицирани изображения. Предприети са и стъпки към профилите, които ги разпространяват. Следим ситуацията“, коментираха от Х.

Съчетанието на думите Taylor Swift, Taylor Swift AI и Taylor AI са временно ограничени в Х, съобщиха още от компанията.

От Meta, компанията собственик на Фейсбук“, също коментираха случилото се. „Продължаваме да следим нашите социални платформи и ще предприемем нужното ако тези изображения се появят“, каза техен представител.

Според анализите фалшивите кадри са създадени от програми с ИИ, като най-разпространените са Stable Diffusion, Midhourney и DALL-E на OpenAI (компанията, собственик на ChatGPT).

От OpenAI коментираха, че техният алгоритъм има защити, които предотвратяват създаването на подобни изображения на публични фигури, сред които и Тейлър Суифт.

От компанията Microsoft също коментираха, че е започнало разследване дали техният алгоритъм не е отговорен за създаването на тези изображения.

Midjourney и Stable Diffusion все още не са коментирали случилото се.

Борбата с дийпфейк порнографията

Случилото се с Тейлър Суифт може да бъде повратна точка в развитието на ИИ и дийпфейк изображенията, както и тяхната регулация. В Съединените щати вече се говори за сериозно ограничение на създаването на подобни изображения, особено тези в порнографския спектър.

Появата на дийпфейк изображения през последните години нараства експоненциално, след като алгоритмите с изкуствен интелект станаха масово достъпни. За сравнение през 2019 г. CountDetector.AI са засекли 14 678 дийпфейк видеоклипа онлайн, докато през 2023 г. тази бройка е достигнала 95 820.

С дийпфейк масово се създава порнография – 96% от фалшивото съдържание е порнографското, а жертвите са 100% жени. Сайтовете с подобно съдържание са най-разпространени в Съединените щати и Южна Корея.

Порнографското съдържание се концентрира предимно върху известни личности – 99% от всички изображения са с известни актриси и певици.

Случилото се с Тейлър Суифт предизвика коментари и в американския Конгрес.

„Разпространението на порнографски изображения, генерирани от ИИ, може да причини необратими емоционални, финансови и репутационни щети на жертвите. За жалост – това са масово жени“, коментира демократът Джо Морел.

„Това, което се случи с Тейлър Суифт не е нещо ново. Жените са жертви на тези технологии от години, а с напредъка на ИИ създаването на дийпфейк става все по-лесно и евтино“, коментира също демократът Ивет Кларк.

„Очевидно е, че тези технологии се развиват много бързо. Независимо дали жертвата е Тейлър Суифт или някоя друга млада жена, трябва да създадем необходимата законодателна рамка, за да прекъснем този тренд“, коментира конгресменът Том Кийн.

По-големият проблем

Отново според статистиката на ContentDetector.AI по-големият проблем се крие на друго място – в световен мащаб 71% от хората нямат представа какво е дийпфейк. Въпреки това 57% твърдят, че могат да ги разпознаят.

Масово дийпфейк видеоклипове, както и клонирани гласове, се използват с цел финансови измами. Един от известните примери е на базирана във Великобритания енергийна фирма, която преведе 243 000 долара на фалшива сметка, след като им беше наредено да го направят с клониран глас на изпълнителния директор.

btv.bg

Оставете отговор

Please enter your comment!
Моля въведете името ви