Paredzams, ka priekšlikumi sniegs ieguldījumu vienā vai vairākos no šiem punktiem:

• Izturīgi AI modeļi un sistēmas, kas spēj pretoties dažādām pretdarbīgas manipulācijas klasēm;
• Inovatīvi aizsardzības mehānismi AI modeļiem un sistēmām pret jaunām uzbrukumu grupām;
• Metodoloģijas uzbrukumu atklāšanai un mazināšanai, piemēram, datu saindēšana, "backdoor" izmantošana un nepareiza klasifikācija;
• AI sistēmas, kas izmanto privātumu uzlabojošas tehnoloģijas, kuras saglabā datu konfidencialitāti un atbilstību normatīvajiem aktiem, nodrošinot uzticamu AI ieviešanu uzņēmuma iekšienē (piemēram, valdībām un uzņēmumiem).

Pieaugošā paļaušanās uz AI kiberdrošībā, kritiski svarīgajā infrastruktūrā un lēmumu pieņemšanas procesos rada bažas par AI sistēmu drošību un noturību. Tā kā AI sistēmas kļūst arvien izplatītākas, tās arvien biežāk kļūst par mērķi pretinieku uzbrukumiem, kas manipulē ar ievades datiem, kompromitē apmācības datus vai ievieš slēptas ievainojamības. Šīs tēmas mērķis ir stiprināt AI sistēmu un algoritmu noturību pret dažādiem apdraudējumiem un uzbrukumiem, piemēram, uzlabojot to noturību pret pretinieku uzbrukumiem, "backdoor" injekcijām un datu saindēšanu. Priekšlikumos jāizstrādā reāllaika anomāliju noteikšana, mazināšanas metodes aizsardzībai pret pretinieku uzbrukumiem un robustas federated learning metodes, sinerģijā ar vadošajiem centieniem AI pārredzamības jomā un ievērojot AI Act. Paredzams, ka šī tēma:

• Izstrādās robustus AI modeļus, kas ir noturīgi pret pretinieku uzbrukumiem. Izpētīt metodes AI modeļu un sistēmu nostiprināšanai pret pretinieku perturbācijām, piemēram, pretinieku apmācību, robustu optimizāciju un aizsardzības mehānismus, kas uzlabo AI uzticamību.
• Uzlabos manipulētu vai saindētu apmācības datu noteikšanu. Pilnveidot metodoloģijas kompromitētu datu kopu identificēšanai un mazināšanai, izmantojot tādas metodes kā anomāliju noteikšana, izcelsmes izsekošana un automatizēti datu validācijas mehānismi.
• Pievērsīsies Private AI koncepcijai, izstrādājot mehānismus, kas ļauj AI modeļus apmācīt, izvietot un darbināt privātumu aizsargājošās vidēs, jo īpaši sensitīvos lietošanas gadījumos, piemēram, valdības un uzņēmumu vajadzībām. Tas ietver AI skaitļošanas un datu saglabāšanu uzticamās izpildes robežās (piemēram, uz vietas vai regulētās mākoņvidēs), kā arī esošo un jauno privātumu uzlabojošo metožu izmantošanu, piemēram, federated learning, drošu agregāciju, skaitļošanu ar šifrētiem datiem, kvantu drošu homomorfisko šifrēšanu un drošu secinājumu izdarīšanu dziļajā mācīšanās procesā, lai nodrošinātu personas un citu sensitīvu datu aizsardzību visā AI dzīves ciklā.