Šis raksts ir daļa no sērijas PROMPT.

Dezinformācija ir liels izaicinājums ne tikai plašsaziņas līdzekļu profesionāļiem un lietotājiem, bet arī demokrātiskajiem procesiem. ES finansētajā projektā “European Narrative Observatory” / PROMPT (Predictive Research On Misinformation and narrative Propagation Trajectories) tiek izmantoti lielie valodas modeļi (LLM), lai atklātu naratīvus un dezinformācijas modeļus tiešsaistē un atšifrētu to izcelsmi. Mērķis ir nodrošināt žurnālistus ar rīkiem, kas ļautu viņiem labāk atpazīt dezinformāciju. Turpmākajos mēnešos Eiropas Žurnālistikas observatorija regulāri publicēs ieskatus projektā un tā rezultātos.

Martins Lestra (Martin Lestra) un Džordans Rikers (Jordan Ricker) koordinē projektu Francijas pētniecības institūtā OPSCI. Intervijā EJO viņi skaidro, kas ir projekta būtība un kādus mērķus komanda cenšas sasniegt ar LLM palīdzību.

Martins Lestra ir OPSCI pētniecības institūta starptautisko partnerattiecību un pētniecības koordinators. Viņš ir vadījis vairākus starptautiskus sadarbības projektus datu un valsts politikas saskarē ESAO un Datactivist. Viņš ir politikas zinātņu doktors (Eiropas Universitātes institūts-EHESS) un docē Lionas Universitātē.

EJO: Kādi ir PROMPT projekta mērķi?

Martins Lestra: PROMPT ir Eiropas Komisijas finansēta Eiropas Naratīvu novērošanas observatorija, kas izmanto mākslīgo intelektu, lai identificētu un analizētu dezinformācijas naratīvu rašanos. Tā uzmanības centrā ir trīs tēmas, kas Eiropas Komisijai ir īpaši svarīgas: karš Ukrainā, LGBTQIA+ tiesības un brīvības un 2024. gada Eiropas Parlamenta vēlēšanas.

Nākamo 18 mēnešu laikā mēs strādāsim, lai atšifrētu šos naratīvus un to rašanos gan bezsaistē, gan tiešsaistē sešās valstīs (Francijā, Baltijas valstīs, Itālijā un Rumānijā) un 8 valodās (tostarp angļu un krievu valodā). Mēs pievērsīsimies arī to lomai sabiedriskās domas veidošanā un emociju kopumam kas ir “veiksmīgu” dezinformācijas naratīvu pamatā. Tiks izstrādāta metodoloģija, kas ļaus labāk izprast, kā rodas naratīvi un kā tie izplatās platformās. Mēs pievērsīsimies galvenajiem informācijas centriem ietekmīgos plašsaziņas līdzekļos, sociālajās platformās, kā arī Vikipēdijā.

Mērķis ir nodrošināt žurnālistus un aktīvistus ar jauniem rīkiem, lai atpazītu, paredzētu un novērstu dezinformācijas naratīvus.

PROMPT ir pilotprojekts, kas nozīmē, ka mēs mobilizējam modernākās zināšanas un mākslīgā intelekta tehnoloģijas, lai mēģinātu apkarot dezinformāciju. Mēssadarbojamies ar vienpadsmit partneriem astoņās ES valstīs no dažādām ekspertīzes jomām (matemātika, lingvistika, socioloģija, mediju studijas u. c.), jo īpaši ar mediju ekspertiem un žurnālistiem, piemēram, Erich Brost Institute (Vācija), Les Surligneurs (Francija), Re:Baltica (Baltijas valstis) vai Asociatia Digital Bridge (Rumānija).

Kas pamudināja izstrādāt šo projektu?

Mums ir skaidrs mērķis: veicināt veselīgas demokrātiskas debates. Mēs jau desmit gadus izsekojam viedokļus tiešsaistē un 20 gadus  komunikāciju un retoriku. Mēs redzam, kā ir attīstījusies dezinformācija – un cik niansēta tā ir (spektrs ir daudz sarežģītāks nekā tikai “viltus” vai “patiesas” ziņas). Esam strādājuši ar žurnālistiem un aktīvistiem un redzam, ka mākslīgā intelekta rīku jomā ir neizmantots potenciāls, kas varētu atbalstīt viņu darbu.

Projektu virza divi galvenie faktori – tehnoloģiskais un sabiedriskais. Tehnoloģiskais, – jo nesenie sasniegumi mākslīgā intelekta jomā, ko jau vairākus gadus esam integrējuši savā darbā, analizējot lielus sociālo datu apjomus, ir ļāvuši veikt ievērojamu lēcienu veiktspējas uzlabošanā. Tie ļauj veikt uzlabotu tiešsaistes izteikumu apstrādi ar LLM un to automatizētu kvalitatīvu kategorizēšanu, paplašinot analītiķu iespējas.

Sabiedriskais faktors izriet no tā, ka mēs uzskatām, ka cīņā pret dezinformāciju mēs varam uzvarēt tikai ar visaptverošu sabiedrības pieeju. Šajā jomā strādājošie speciālisti dažkārt jūtas vieni vai nepietiekami aprīkoti, saskaroties ar pieaugošajiem destabilizācijas pasākumiem. Mūsu mērķis ir arī sniegt viņiem papildu instrumentus.

Ar ko šis projekts atšķiras no citiem (iepriekšējiem) projektiem par mākslīgo intelektu, plašsaziņas līdzekļu ziņošanu un apmācību?

PROMPT ir otrā Eiropas Naratīvu novērošanas observatorija. Mūsu darbs balstās uz NODES (Naratīvu observatorija, kas sistemātiski apkaro dezinformāciju Eiropā) projektu, kurā galvenā uzmanība tika pievērsta tam, kā tiešsaistes dezinformācijas kopienas ir strukturētas un mijiedarbojas tādos jautājumos kā migrācija, klimata pārmaiņas un Covid-19.

Mūsu pētījums balstās uz šo darbu un sper soli tālāk, piemēram, izmantojot lielos valodas modeļus, lai padziļinātu naratīvu rašanās un izplatīšanas uzraudzību.

Tomēr PROMPT mērķis nav tikai izstrādāt kādu “burvju nūjiņu vai vislabāko modeli – mēs esam skeptiski noskaņoti pret šāda veida diskursiem. Runa drīzāk ir par noderīgākā modeļa izstrādi.

Ir bijuši daudzi akadēmiski centieni izstrādāt inovatīvas naratīvu analīzes metodes. Ļoti svarīgi, bet bieži iztrūkstoši, ir arī papildu centieni padarīt pētījumus noderīgus tiem, kas ikdienā cīnās ar dezinformāciju. Labi piemēri šajā jomā ir tādi projekti kā vera.ai, kas palīdz izstrādāt un testēt mākslīgā intelekta atbalstītus rīkus dezinformācijas atpazīšanai. Ar faktu pārbaudītājiem un Wikimedia France, kas ir daļa no PROMPT komandas, mēs esam pārliecināti, ka varam būtiski ietekmēt mūsu auditoriju. Vikipēdija ir ļoti liela tiešsaistes platforma, kas saskaņā ar ES datiem saskaras ar sistēmiskiem riskiem.

Mēs arī papildinām darbu faktu pārbaudes un medijpratības jomā, piemēram, Eiropas Digitālo mediju observatorijas (EDMO) vai Eiropas faktu pārbaudes standartu tīkla dalībnieku darbu. Esam gandarīti arī par iespēju izmantot Eriha Brosta institūta pieredzi, kas var paplašināt mūsu darbības jomu, aptverot ES mēroga žurnālistikas institūtu tīklu visās dalībvalstīs.

Džordans Rikers ir OPSCI pētniecības institūta izpilddirektors. Būdams viens no konsultāciju uzņēmuma “going public” līdzdibinātājiem, viņš izstrādāja digitālās stratēģijas. Viņš ir docējis mārketingu Sorbonne Nouvelle universitātē. Divarpus gadus viņš bija atbildīgs arī par Parīzes pilsētas digitālo klātbūtni.

Kā Eiropas Naratīvu novērošanas observatorija veicina cīņu pret dezinformāciju?

Lai atbildētu uz šo jautājumu, vispirms ir jāsaprot, kāpēc naratīvi ir svarīgi. Dezinformācijas naratīvi rada ievērojamus riskus un draudus ES valstīm. Nepatiesas un maldinošas informācijas izplatīšanai par karu Ukrainā ir liels potenciāls mazināt sabiedrības atbalstu nācijvalstu un ES kopīgai rīcībai Ukrainas atbalstam. Viltus naratīvi, kas vērsti pret LGBTQIA+ kopienu, var būtiski kaitēt šo grupu iekļaušanai un vienlīdzībai un ietekmēt cilvēktiesību īstenošanu. Ar vēlēšanām saistīti dezinformācijas naratīvi var maldināt vēlētājus un graut mūsu demokrātiju pamatus.

Dezinformācijas dalībnieki, tostarp tie, kurus atbalsta “negodīgas valstis”, kas cenšas destabilizēt mūsu demokrātijas, nenogurstoši strādā, lai sētu neapmierinātību un polarizētu sabiedrības diskursu. Mums tas ir jārisina šī problēma, izmantojot labākos pierādījumus un metodes. Tādi projekti kā PROMPT un citi, kas nodarbojas ar naratīviem, sniedz savu ieguldījumu centienos apkarot dezinformāciju tiešsaistē un bezsaistē. Galvenais ieguldījums ir dezinformācijas kampaņu nosaukšana, atklāšana, nosodīšana, apkarošana un sadārdzināšana.

Daudzus citus dezinformācijas aspektus nepieciešams analizēt padziļinātāk: piemēram, kā tā izplatās sociālajās platformās, izmantojot “universālus” retorikas modeļus vai vietējās lingvistiskās un kultūras īpatnības. Tas ir viens no galvenajiem jautājumiem, kas tiks risināts projektā PROMPT.

Kāda nozīme ir lielajiem valodas modeļiem (LLM) viltus ziņu atklāšanā plašsaziņas līdzekļos un internetā?

Dezinformācija nav tikai “viltus” un “patiesas” ziņas. Mēs uzskatām, ka dezinformācijai ir konceptuāli labvēlīgi un atkārtoti pasniegšanas veidi. Tomēr tajā pašā laikā valoda ir sarežģīta, un valodas struktūras un nozīmes var atšķirties atkarībā no valodas un diskursa veida (piemēram, agresīva, atklāta naida runa pret netiešu humoru). LLM ļoti labi spēj atpazīt un analizēt šīs sistēmiskās iezīmes un to variācijas plašā mērogā.

Lielākā daļa cilvēku pazīst LLM kā rīkus, kas palīdz rakstīt publicitātes tekstus. Tomēr GenAI var ne tikai atklāt dezinformāciju, bet arī ļoti vienkāršā veidā kontekstualizēt to žurnālistiem un faktu pārbaudītājiem. Citiem vārdiem sakot, gluži tāpat kā jūs jautājat ChatGPT par labākajiem dzimšanas dienas plāniem četrus gadus vecam bērnam, jūs varētu izmantot mūsu izstrādāto modeli, lai apspriestu maldinoša/nepatiesa apgalvojuma pazīmes, ko mākslīgais intelekts ir atpazinis: no kurienes tas radies, kur citur ir publicēti līdzīgi apgalvojumi, kādās valodās, kādus aizspriedumus izmanto šis apgalvojums un kādu retoriku tas izmanto, lai izplatītu dezinformāciju?

LLM var darīt daudz ko, bet galu galā tam jābūt noderīgam tiem, kas ir cīņas pret dezinformāciju priekšplānā, tāpēc žurnālisti un pilsoniskās sabiedrības pārstāvji ir galvenie projekta dalībnieki.

Kādām tēmām projekts pievēršas un kāpēc jūs izvēlējāties tieši tās?

Tēmas ir noteikusi Eiropas Komisija. Galvenā uzmanība tiek pievērsta ne tikai Covid-19, bet arī citām (un bieži vien ar to saistītām!) svarīgām problēmām. Nav pārsteigums, ka tas ietver arī agresijas karu pret Ukrainu. Interneta vidē notiek tik daudz notikumu, ka ir liels datu un zināšanu apjoms, uz kura PROMPT var balstīties.

Ar dzimuma identitāti un dzimuma izpausmēm saistītu nepatiesu, kaitīgu naratīvu (dzimumu dezinformācija) izplatīšanās pieaug. Bieži vien tā ir saistīta ar diskriminējošu vai pazemojošu runu pret sievietēm, homofobiju un LGBTQIA+ kopienas diskrimināciju. Tiek meklēti veidi, kā mazināt riskus sociālajai iekļautībai, demokrātijai un cilvēka pamattiesībām. Maldinošiem naratīviem vēlēšanu kontekstā, protams, ir milzīgs potenciāls ietekmēt sabiedrisko domu, balsošanas paradumus un demokrātiskos procesus.

Papildus tādiem jautājumiem kā migrācija un agresijas karš pret Ukrainu, mēs novērojam arī atkārtojošos dezinformācijas izplatīšanas modeļus. No mūsu iepriekšējiem pētījumiem, citiem pētniecības projektiem, kā arī žurnālistu un faktu pārbaudītāju darba rezultātiem, mēs esam secinājuši, ka konti, kuri vienā dienā izplata dezinformāciju par Covid vai vakcīnām, nākamajā dienā var atbalstīt Putina versiju par notikumiem Ukrainā. Līdzīgi naratīvi un apgalvojumi bieži parādās no vienām vēlēšanām līdz nākamajām.Tas nozīmē, ka PROMPT ir daudz ko piedāvāt un mācīties no citām dezinformācijas apkarošanas iniciatīvām.

Uzziniet vairāk par ENO/PROMPT projektu šeit.