Neuroniniai tinklai puikiai moka kurti klastotes

Ekspertai įspėja apie naujus iššūkius ir grėsmes, kurias gali sukelti suklastotas ar sugeneruotas dirbtinio intelekto (neuroninio tinklo) turinys.

Technologijos
30. Jun 2023
122 peržiūros
Neuroniniai tinklai puikiai moka kurti klastotes

Jau tikriausiai esate pastebėje ne kartą, kaip milijonai žmonių patikėjo akivaizdžia apgaule, kurią kiti interneto vartotojai savo malonumui dalinosi tarpusavyje noredami suklaidinti kitus. Taigi kovo mėnesį „Reddit“ tinkle sklido bauginantys kadrai iš 2001 m. žemės drebėjimo, kurio taip ir nebuvo, taip pat madas demonstruojančio popiežiaus Pranciškaus nuotraukas su pūsta „Balenciaga“ striuke.

Neuroniniai tinklai kas mėnesį didina generavimo greitį ir kokybę, todėl dabar nepaprastai svarbu išmokti atskirti tikras nuotraukas nuo įžūlių padirbinių.

Norėdami užkirsti kelią sklisti netikrai informacijai, bandoma kurti specialias programas, kurios gali analizuoti abejotinus vaizdus ar kitą informaciją ir priimti savo verdiktą - tiesa tai ar ne. Tačiau kiek tokios programos yra veiksmingos ir patikimos?

Amerikietiškas laikraštis „The New York Times“ nusprendė patikrinti penkias tokias paslaugas: „Umm-maybe“, „Illuminarty“, „AI or Not“, „Hive“ ir „Sensity“. Tam mokslininkai minėtas tarnybas „pamaitino“ daugiau nei 100 fotografijų, kuriose buvo pavaizduoti įvairūs peizažai, architektūrinės struktūros, maistas, žmonių ir gyvūnų portretai. Daugelis vaizdų buvo tikri, bet likusieji, žinoma, buvo sukurti naudojant neuroninius tinklus (dirbtinį intelektą).

Norėdami sukurti tikroviškus padirbinius, mokslininkai naudojo AI generatorius – Midjourney , Stable Diffusion ir DALL-E . Kai tikri vaizdai buvo paimti iš senojo miesto nuotraukų archyvo ar buvo net mažai žinomi meno kūriniai.

Подробнее: https://www-securitylab-ru.translate.goog/news/539452.php?_x_tr_sl=en&_x_tr_tl=lt&_x_tr_hl=en&_x_tr_pto=wapp

Neuroniniai tinklai kas mėnesį didina generavimo greitį ir kokybę, todėl dabar nepaprastai svarbu išmokti atskirti tikras nuotraukas nuo įžūlių padirbinių.

Подробнее: https://www-securitylab-ru.translate.goog/news/539452.php?_x_tr_sl=en&_x_tr_tl=lt&_x_tr_hl=en&_x_tr_pto=wapp

Mokslininkai norėdami sukurti tikroviškai atrodančius niekada neegzistavusius vaizdus naudojo dirbtinio intelekto vaizdų generatorius – Midjourney, Stable Diffusion ir DALL-E.

Melo detektoriai (programos skirtos aptikti netikrą informaciją) ieško neįprastų pikselių išdėstymo modelių, kurie dažnai atsiranda dirbtinio generavimo metu. Tačiau tokios programos neatsižvelgia į vaizdo kontekstą ir logiką, todėl kartais gali nepastebėti akivaizdžių padirbinių arba supainioti tikrą nuotrauką su netikra.

Pavyzdžiui, viename iš patikrintų vaizdų Elonas Muskas buvo pavaizduotas tikroviškos kiborg merginos kompanijoje. Vaizdas buvo sukurtas naudojant Midjourney, bet sugebėjo apgauti du iš penkių melo detektorių kad vaizdas yra tikras.

Elonas Muskas pabučiuoja gražią kiborg merginą (sukurta AI)
Elonas Muskas pabučiuoja gražią kiborg merginą (sukurta AI)

Be to, dirbtinio intelekto melo detektoriai susiduria su sunkumais kai vaizdas buvo pakeistas iš pirminio šaltinio arba yra prastos kokybės. Tokie vaizdai dažnai randami internete, kur jie yra kopijuojami, išsaugomi iš naujo, sumažinami ar apkarpomi. Visa tai neigiamai veikia tuos parametrus, kuriais dažniausiai remiasi melo detektoriu algoritmai.

Pavyzdžiui, viename iš vaizdų buvo labai sena nuotrauka su milžinišku neandertaliečiu, stovinčiu šalia paprastų žmonių. Žinoma, vaizdas buvo sukurtas su Midjourney. Kai detektoriai išanalizavo didelės raiškos vaizdą, jie visi teisingai nustatė, kad jis yra netikras, tačiau, kai tyčia buvo sumažinta vaizdo kokybė, visi penki detektoriai pranešė, kad vaizdas yra tikras.

Milžiniškas neandertalietis, stovintis šalia paprastų žmonių (sukurtas dirbtinio intelekto)
Milžiniškas neandertalietis, stovintis šalia paprastų žmonių (sukurtas dirbtinio intelekto)

Tiesiog paprastas vaizdo kokybės suprastinimas, dirbtinis triukšmo pridėjimas gali padėti apgauti tokius detektorius, nes neuroniniai tinklai paprastai sukuria „pernelyg tobulus“ vaizdus.

Melo detektoriai daug geriau atpažino tikrus vaizdus. Eksperimentas parodė kad kartais abstrakčiojo menininko paveikslas melo detektoriaus gali būti įvardintas kad sukurtas dirbtinio intelekto.

„Konvergencija “ - Jacksonas Pollockas (tikras vaizdas)
„Konvergencija “ - Jacksonas Pollockas (tikras vaizdas)

Apskritai ekspertai mano, kad dirbtinio intelekto detektoriai neturėtų būti vienintelė apsauga nuo netikro turinio. Jie siūlo naudoti ir kitus metodus, pavyzdžiui, vandens ženklus, internetinius įspėjimus ir netikrų vaizdų platinimo apribojimus. Jie taip pat ragina užtikrinti didesnį tokio turinio kūrėjų ir platformų, kuriose jis platinamas, skaidrumą ir atskaitomybę.

Dirbtinis intelektas geba generuoti ne tik tikroviškus vaizdus, ​​bet ir tekstus, garso ir vaizdo įrašus, kuriais taip pat galima manipuliuoti viešąja nuomone, finansų rinkomis ir politiniais procesais. Tai sukuria naujų iššūkių ir grėsmių visuomenei, todėl reikia daugiau budrumo ir skepticizmo bet kokio interneto turinio atžvilgiu.

Komentarai

Prie šio įrašo komentarų nepridėta

Pridėti naują komentarą

Jei norite pridėti naują komentarą, turite būti prisijungę. Prisijungti
Kategorijos
Naujienos
naujausi ir skaitomiausi straipsniai
Verslas
transportas, energetika, mokslas, karjera
Sportas
krepšinis, futbolas, kitos sporto šakos
Laisvalaikis
kelionės, maistas, šeima, stilius, kultūra
Technologijos
programavimas, išmanieji telefonai, kompiuteriai
Išradimai
inovacijos, patentai, atradimai
Gamta
gyvūnai, augalai, gamtos ištekliai
Kosmosas
planetos, galaktikos, kosminės misijos
Archyvas
dokumentika, istorija, liudijimai, pasakojimai
Kita
orai, receptai, horoskopai, kryžiažodžiai
Naujausi komentarai