Projektiem ir jāsniedz ieguldījums visos turpmāk minētajos sagaidāmajos rezultātos:

• Padziļināta izpratne par AI vadītu tehnoloģiju, tostarp AI ģenerētu dziļviltojumu (deepfakes) un automatizētas satura ģenerēšanas, ietekmi uz vienlīdzību, politisko līdzdalību, demokrātiskajiem procesiem, sabiedrības uzticēšanos un sociālo kohēziju, sniedzot uz pierādījumiem balstītas atziņas par to lomu atšķirību mazināšanā vai saasināšanā.
• Uz pierādījumiem balstītu politikas satvaru ieviešana atbildīgai, uzticamai un pārredzamai AI pārvaldībai, integrējot ētiskus, juridiskus un sabiedriskus apsvērumus, lai aizsargātu pamattiesības, mazinātu dezinformācijas riskus un nodrošinātu godīgu un drošu AI izvēršanu saskaņā ar saistībām, kas noteiktas ES regulā par mākslīgo intelektu^[1].
• Paaugstināta sabiedrības informētība un medijpratība, lai dotu iedzīvotājiem iespēju identificēt un kritiski izvērtēt dezinformāciju, dziļviltojumu izmantošanu ļaunprātīgos nolūkos un kaitējumu tiešsaistē, kā arī uz pierādījumiem balstītu rīku izmantošana šāda kaitējuma novēršanai, atklāšanai un mazināšanai.
• Stiprināta akadēmisko institūciju kapacitāte veikt sabiedrībai nozīmīgus AI pētījumus un virzīt uzticamu, ētisku AI modeļu izstrādi, ko veicina ciešāka akadēmisko aprindu un nozares sadarbība, kā arī labāka piekļuve, piemēram, skaitļošanas infrastruktūrai, augstas kvalitātes datu kopām, sadarbības rīkiem un finansējumam.

Straujā AI tehnoloģiju attīstība un ieviešana, kā arī to ļaunprātīga izmantošana, piemēram, mākslīgi ģenerēta un manipulēta satura radīšana, būtiski ietekmē demokrātiju, vienlīdzību, sociālo iekļaušanu un zināšanu radīšanu, kā arī veicina kibervardarbības pieaugumu. Lai gan AI var piedāvāt daudzas iespējas, tā nepareiza izmantošana var veicināt/pastiprināt nevienlīdzību un varas nelīdzsvarotību, izplatīt dezinformāciju un kibervardarbību pret sievietēm, bērniem un minoritātēm, koncentrēt datu kontroli un graut demokrātiskos procesus. Tādējādi šī tēma pievēršas gan AI ļaunprātīgai izmantošanai (piem., AI ģenerēta dezinformācija, deepfakes, kibervardarbība), gan tās netīšām sociālajām sekām (piem., algoritmu necaurredzamība, aizspriedumu pastiprināšana).

AI loma mediju ietekmēšanā un sabiedrības uzticībā prasa steidzamu uzmanību, jo AI ģenerēta vai manipulēta satura, tostarp deepfakes, pieaugums apdraud demokrātiskos procesus un epistēmiskās tiesības. Būtiska problēma ir tas, kā AI un mākslīgi ģenerēts saturs ietekmē kibervardarbību un kādu iespaidu tas atstāj uz indivīdiem vai grupām, kas neuzticas demokrātijai, jo īpaši gadījumos, kad šī neuzticēšanās krustojas ar galēji kreiso un galēji labējo populismu un ārvalstu iejaukšanos.

Projektu pieteikumos būtu jāizpēta, kā AI vadītas tehnoloģijas un to izmantošana var vai nu pastiprināt, vai mazināt^[2] nevienlīdzību un diskrimināciju dzimuma, seksuālās orientācijas, rases vai etniskās izcelsmes, reliģijas vai pārliecības, vecuma un invaliditātes dēļ, jo īpaši piekļuvē informācijai, lēmumu pieņemšanā un pārstāvniecībā. Ir nepieciešama kritiska analīze par to, kā dati – kas bieži atspoguļo pastāvošos sociālos aizspriedumus – var nostiprināt vai apstrīdēt dominējošās sociālās struktūras un drošību, un kā šādas tehnoloģijas veido sabiedrības uztveri un zināšanu radīšanu.

Pētījumā būtu jāizpēta arī riski, ko šīs tehnoloģijas rada demokrātiskajai integritātei, jo īpaši manipulējot ar sabiedrisko domu, vēlēšanu procesiem un pārvaldības sistēmām. Deepfakes un AI ģenerēta dezinformācija var sagrozīt faktus, izplatīt nepatiesus naratīvus un graut sabiedrības uzticēšanos. Šo problēmu risināšana prasa visaptverošu izpratni par to, kā AI var tikt (ļaunprātīgi) izmantots, lai veidotu politiskās kampaņas, mediju naratīvus, sabiedrības iesaisti, kā arī (ar dzimumu saistītas) dezinformācijas izplatīšanu. Projektu pieteikumi tiek aicināti pētīt, kā AI ģenerēts saturs dažādos medijos, tostarp izklaides medijos, ietekmē sabiedrisko domu, sociālos naratīvus, dzimumu stereotipus un normas, kā arī pilsonisko iesaisti.

Turklāt projektu pieteikumos būtu jāaplūko, kā kibervardarbība, tostarp tiešsaistes uzmākšanās, kibermobings, draudi un ar dzimumu saistīta vardarbība, tiek pastiprināta, tiešsaistes platformās kopīgojot manipulētu saturu, piemēram, deepfakes, deep nudes un AI vadītu sekstortion. Pētījumā būtu jāidentificē, kā AI var tikt izmantots kaitējuma pastiprināšanai un palielināšanai, kāda ir AI radītā rezultāta būtība un kuras grupas tas skar nesamērīgi, īpašu uzmanību pievēršot sievietēm un minoritātēm, kā arī jāizpēta intervences šo risku novēršanai un mazināšanai. Tas ietver ne tikai kibervardarbības netīšas reproducēšanas analīzi, izmantojot neobjektīvus rezultātus, bet arī veidus, kā lietotāji var ļaunprātīgi izmantot AI vadītas platformas, lai radītu un/vai izplatītu kaitīgu, diskriminējošu vai vardarbīgu saturu. Visaptverošs neregulētu AI izraisītu seksuālās izmantošanas, vardarbības un ar dzimumu saistīta kaitējuma risku novērtējums lielā mērā trūkst efektīvai regulēšanai, uzraudzībai un kriminālvajāšanai. Ir nepieciešams daudznozaru pārskats, lai novērtētu AI vadītus riskus, kas pakļauj bērnus, jauniešus, sievietes, vecāka gadagājuma cilvēkus un LGBTIQ personas šādai vardarbībai tiešsaistē un bezsaistē.

Projektu pieteikumos būtu jāveic pētījumi par politiku un konkrētu praksi, kas var efektīvi risināt AI tehnoloģiju radītos izaicinājumus, ņemot vērā ES regulu par mākslīgo intelektu un turpmākās vadlīnijas, kas tiek izstrādātas tās īstenošanas atbalstam. Projektu pieteikumos būtu jāidentificē labākā prakse un regulatīvie pasākumi, lai nodrošinātu ētisku AI ieviešanu un AI pratību, vienlaikus aizsargājot vienlīdzību un demokrātisko integritāti. Būtisks šī pētījuma aspekts ir atzīt AI pieaugošo lomu politikas un tiesas lēmumu veidošanā. Lai gan tā integrācija var uzlabot efektivitāti, joprojām pastāv bažas par neobjektivitāti un godīgumu. Projektu pieteikumi tiek aicināti izpētīt AI ietekmi uz tiesiskiem un politiskiem rezultātiem, tostarp neparedzētām sekām.

Turklāt projektu pieteikumos būtu jāņem vērā AI izmantošana un ietekme uz jauniešiem. Lai gan AI nav īpaši izstrādāts nepilngadīgajiem, jaunieši ir vieni no tā aktīvākajiem lietotājiem. Aizspriedumi AI ģenerētā vai manipulētā saturā, jo īpaši saistībā ar dzimumu, seksuālo orientāciju, etnisko un rases izcelsmi, var veidot jauno lietotāju uztveri, uzturēt stereotipus, ietekmēt iesaisti un garīgo un fizisko labklājību. Pētījumā būtu jāizpēta, kā AI sistēmas ietekmē šos aspektus, kā arī ar to saistītās iespējas un riskus, tostarp iespējamo psiholoģisko ietekmi, ko rada saskarsme ar neobjektīvu vai kaitīgu saturu.

Galvenajam uzsvaram jābūt uz starpdisciplināru pētījumu par AI lomu sabiedrības noturībā, cīņā pret dezinformāciju, pilsoniskās iesaistes uzlabošanā un marginalizēto kopienu atbalstīšanā. Projektu pieteikumos būtu jāizpēta iekļaujoši un inovatīvi rīki un metodoloģijas deepfakes, dezinformācijas un AI veicinātas kibervardarbības atklāšanai un mazināšanai, kas paredzēti plašai ieviešanai politikas veidotāju, tehnoloģiju izstrādātāju, mediju organizāciju un plašas sabiedrības vidū.

Šo daudzpusīgo izaicinājumu efektīva risināšana prasa apvienot uz datiem balstītu analīzi, izmantojot zināšanas no plaša jomu loka, tostarp gan akadēmiskās disciplīnas (piem., datorzinātnes un SSH disciplīnas, piemēram, komunikācijas un mediju zinātnes, ētika, tiesības, politikas zinātne, socioloģija, psiholoģija un dzimumu studijas), gan to personu lietišķās perspektīvas, kuras ir iesaistītas AI tehnoloģiju veidošanā un virzīšanā praksē.

Šim pētījumam būtu jāsniedz ieguldījums ES plašākā AI stratēģijā, atbalstot Mākslīgā intelekta akta īstenošanu un saskaņojot to ar ES politiskajām pamatnostādnēm 2024.–2029. gadam. Šim pētījumam būtu arī jāsniedz ieguldījums citu ES tiesību aktu sistēmu īstenošanā, piemēram, Direktīvas par vardarbības pret sievietēm un vardarbības ģimenē apkarošanu, kas kriminalizē dažādus kibervardarbības nodarījumus, tostarp ļaunprātīgus deepfakes, un Digitālo pakalpojumu akta, kas risina nelegāla satura jautājumus tiešsaistē, tostarp nepatiesu vai manipulētu informāciju, kas kūda uz naidu vai diskrimināciju. Tam būtu arī jāinformē globālās diskusijas par ētisku AI pārvaldību un atbildīgu inovāciju.

Projektu pieteikumi tiek aicināti identificēt citus attiecīgus ES finansētus projektus un izpētīt iespējamās sadarbības iespējas ar tiem.

Projektus, kas izvēlēti finansējuma saņemšanai, tiek aicināti sadarboties ar JRC, lai meklētu sinerģiju ar tā darbu inovāciju jomā publiskajā pārvaldē^[3].

[1] Eiropas Parlamenta un Padomes Regula (ES) 2024/1689 (2024. gada 13. jūnijs), ar ko paredz saskaņotus noteikumus par mākslīgo intelektu un groza Regulas (EK) Nr. 300/2008, (ES) Nr. 167/2013, (ES) Nr. 168/2013, (ES) 2018/858, (ES) 2018/1139 un (ES) 2019/2144 un Direktīvas 2014/90/ES, (ES) 2016/797 un (ES) 2020/1828 (Mākslīgā intelekta akts).

[2] Tostarp to, kā uzticamu un uz cilvēku orientētu AI var izmantot, lai atbalstītu satura moderēšanu, faktu pārbaudi un tiešsaistes uzraudzību.

[3] https://joint-research-centre.ec.europa.eu/projects-and-activities/innovations-public-governance_en