Az internet világában egyre több AI által generált képpel operáló álprofil bukkant fel, amelyek özönlik el a közösségi média felületeit.

Egy friss kutatás rámutatott, hogy a közösségi médiában egyre gyakoribbak az álprofilok, amelyek mesterséges intelligencia által létrehozott képeket használnak. Ezek a hamis identitások komoly hatással vannak az online félretájékoztatás elterjedésére.

Az X (korábban Twitter) platformon végzett részletes elemzés több millió közösségi média profil alapos vizsgálatán alapul, és arra a következtetésre jutott, hogy több ezer, mesterséges intelligencia által generált profilképet használó fiók valószínűleg hamisítvány. Az elemzés során figyelembe vették a fiókok létrehozásának időpontját, a követők számát, a követett profilokat, a megosztott tartalmak típusát és az általános felhasználói magatartást.

A 2023-ban végzett kutatás során, amikor az X platformot még Twitter néven ismertük, a tudósok egy kezdeti mintát állítottak össze, amely körülbelül 15 millió felhasználói fiókból állt. Miután kizárták azokat a profilokat, amelyek nem tartalmaztak képet, megállapították, hogy a fennmaradó fiókok 0,052%-a AI által generált arcképet használt profilkép gyanánt. Bár ez az arány viszonylag csekély, több ezer ilyen fiókot sikerült azonosítani, összesen 7,723 AI-képpel.

"Első pillantásra talán nem tűnik túl soknak, azonban ezek a típusú képek rendkívül elterjedtek a Twitter világában" - nyilatkozta Jonas Ricker, a Ruhr Egyetem kutatója és a tanulmány fő szerzője. "Elemzéseink azt is mutatják, hogy sok esetben ezek a profilok politikai propaganda, illetve összeesküvés-elméletek terjesztésére létrehozott álprofilok."

Az álprofilok nem csupán félrevezető információkat osztottak meg, hanem számos jel mutatott arra, hogy ezek a fiókok nem valósak. Például ezek a profilok átlagosan kevesebb követővel büszkélkedtek, és kevesebb másik fiókot követtek, mint azok, akik nem használtak AI által generált képeket. A kutatók emellett világos mintázatokat is felfedeztek a fiókok létrehozásának időpontjai között.

Ricker elmondta, hogy megfigyelték, miszerint a hamis profilokkal rendelkező fiókok több mint 50%-a 2023 folyamán jött létre. Egyes esetekben mindössze néhány óra alatt több száz új fiókot regisztráltak, ami világosan jelzi, hogy ezek nem valódi felhasználók.

A kutatók egy kézi ellenőrzést is végeztek néhány fiók esetében, hogy megerősítsék kezdeti eredményeiket. Kilenc hónap elteltével visszatértek az AI-generált képekkel rendelkező fiókok ellenőrzésére, és megállapították, hogy ezek több mint felét a Twitter időközben letiltotta. Ricker szerint ez "újabb jel arra, hogy ezek a fiókok rosszindulatúan működtek."

Az álprofilok által közzétett tartalmak vizsgálata során a kutatók több figyelemre méltó témát tárták fel. Ezek a hamis fiókok rendszeresen osztották meg a Donald Trump megválasztott elnökkel, a COVID-19 járvánnyal és a vakcinákkal, valamint az ukrajnai konfliktussal kapcsolatos összeesküvés-elméleteket. Emellett lottókkal és különböző pénzügyi kérdésekkel, például kriptovalutákkal foglalkozó történeteket is terjesztettek. Bár önmagukban ezek a tartalmak nem bizonyítják a fiókok hamisságát, a kutatók úgy vélik, hogy az AI által generált képek és a megfigyelt mintázatok együttesen alátámasztják ezt a feltételezést.

"Csak spekulálhatunk arról, mi rejlik a háttérben" - fogalmazott Ricker. "Ugyanakkor valószínű, hogy bizonyos fiókokat kifejezetten a félretájékoztatás és a politikai propaganda terjesztésére alakítottak ki."

A kutatás során a szakértők a StyleGAN 2 technológia segítségével az AI által generált képek azonosítására összpontosítottak. Az ilyen képek iránti érdeklődés különösen a thispersondoesnotexist.com weboldal megjelenésével nőtt meg, amely olyan valóságtól elrugaszkodott portrékat alkot, amelyek teljes mértékben fiktív személyeket ábrázolnak.

"Feltételezzük, hogy ezt az oldalt gyakran használják AI-generált profilképek előállítására" - mondta Ricker. "Ez azért lehet, mert az ilyen képeket nehezebb visszakövetni, mint amikor valaki egy idegen valódi képét használja avatarként."

A kutatócsoport a jövőben újabb AI-modellek bevonását tervezi, amelyek segítségével még nagyobb arányban azonosíthatnak potenciálisan hamis profilokat. Úgy vélik azonban, hogy bármilyen eszközt is használjanak a fiókok létrehozására, az elv változatlan marad.

Ricker kifejtette, hogy a jelenlegi mesterséges intelligencia technológiák segítségével olyan rendkívül élethű képeket tudunk generálni, amelyek könnyen megtéveszthetik a felhasználókat. Ezeket a képeket a közösségi média platformokon felhasználva valóságnak tűnő profilok létrehozására is alkalmazhatják.

A tanulmány, amelynek címe "AI-generált arcok a valós világban: Nagyszabású esettanulmány a Twitter profilképeiről", a 27. Nemzetközi Támadások, Betörések és Védekezések Kutatási Szimpóziumán (RAID) került bemutatásra.