Šī tēma attiecas uz uz AI balstītām tehnoloģijām (tostarp GenAI) valsts iestādēm un kompetentajām iestādēm, tostarp valsts un pārrobežu kibercentriem, CSIRTs, publiskām struktūrām un privātām vienībām no NIS 2 direktīvas, NCCs [1] u. c. Tām ir būtiska loma centrālās operatīvās kapacitātes nodrošināšanā Eiropas kiberdrošības ekosistēmām. Tās var arī sniegt primāros ievades datus uz AI/ML balstītiem kiberdrošības rīkiem un risinājumiem, kas var stiprināt šādu iestāžu spēju analizēt, atklāt un novērst kiberdraudus un incidentus, kā arī atbalstīt augstas kvalitātes izlūkdienesta informācijas par kiberdraudiem sagatavošanu. Jo īpaši ģeneratīvā AI [2] ieviešana var būt gan izaicinājums, gan iespēja kiberdrošības [3] procesiem un lietotnēm.

Šīm veicinošajām tehnoloģijām būtu jāļauj efektīvāk izveidot un analizēt kiberdraudus izlūkdienesta informāciju (CTI), automatizēt liela mēroga procesus, kā arī nodrošināt ātrāku un mērogojamu CTI apstrādi un tādu modeļu identificēšanu, kas ļauj ātri atklāt un pieņemt lēmumus.

Ir jāpievēršas arī paša AI drošībai, jo īpaši sistēmām mācību fāzē, tostarp AI ļaunprātīgai izmantošanai, ko veic ļaunprātīgi dalībnieki. Tas ietver riska novērtējumu veikšanu un AI tehnoloģijām raksturīgo kiberdrošības risku mazināšanu, piegādes ķēdes drošības īstenošanu u. c., kā arī atbilstību AI Act, intelektuālā īpašuma tiesību aktiem un GDPR.

Papildus drošībai izstrādātajām AI tehnoloģijām ir jābūt efektīvām, stabilām un uzticamām. Jo īpaši uzticamu AI risinājumu esamība palīdzēs izvēršanas fāzē, kurā sociālā pieņemamība ir būtiska.

[1] Ja piemērojams un saskaņā ar individuālajām valstu stratēģijām.

[2] Kiberdrošība ģeneratīvā AI laikmetā, 2023. gada septembris, pieejams: https://www.mckinsey.com/featured insights/themes/cybersecurity-in-the-age-of-generative-ai.

[3] Nepieciešamība pēc uz AI balstītas kiberdrošības, lai cīnītos pret AI vadītiem kiberuzbrukumiem, 2024. gada aprīlis, pieejams: https://www.isaca.org/resources/news-and-trends/isaca-now-blog/2024/the-need-for-ai-powered cybersecurity-to-tackle-ai-driven-cyberattacks.

• Mākslīgā intelekta un dažādu ar mākslīgo intelektu darbināmu tehnoloģiju izvēršana kā atbalsta mehānisms Cyber Hubs, CSIRTs, NCSCs, NIS SPOCs un citām struktūrām.
• Jauni, uz mākslīgo intelektu balstīti kiberdrošības rīki, kas ir izstrādāti, pārbaudīti un validēti atbilstošos apstākļos un darīti pieejami Cyber Hubs, CSIRTs, NCSCs, NIS SPOCs un citām struktūrām.
• Uzlabota informācijas apmaiņa un sadarbība starp nacionālajiem un pārrobežu Cyber Hubs, CSIRTs, NCSCs, NIS SPOCs un citām attiecīgajām ieinteresētajām personām, ko atbalsta ar mākslīgā intelekta rīkiem iegūta CTI.
• Rīki kiberdrošības procesu automatizācijai, piemēram, CTI izveidei, analīzei un apstrādei, lai uzlabotu Cyber Hubs darbību.
• Oriģinālas Eiropas CTI plūsmas vai pakalpojumi.
• Nodrošināt, ka NIS sektoriem tiek izstrādāti un ieviesti vismodernākie un inovatīvākie droša mākslīgā intelekta risinājumi.
• Droši mākslīgā intelekta risinājumi un rīki, kas atbilst ES tiesību aktiem. Veicināt risku mazināšanu, kas saistīti ar mākslīgā intelekta ļaunprātīgu izmantošanu, īpašu uzmanību pievēršot mākslīgā intelekta ētikai un drošai izvēršanai.
• Ieguldījums kiberdrošu, uzticamu mākslīgā intelekta tehnoloģiju standartizācijā un sertifikācijā.

Šīs tēmas ietvaros veicamajām darbībām ir jāizstrādā un jāievieš kiberdrošības[1] sistēmas un rīki, kuru pamatā ir AI tehnoloģijas[2], risinot tādus aspektus kā apdraudējumu noteikšana, ievainojamību atklāšana, apdraudējumu mazināšana, incidentu novēršana, izmantojot pašatjaunošanos, datu analīzi un datu kopīgošanu. Šīm darbībām ir arī jāatbilst intelektuālā īpašuma tiesībām (IPR) un GDPR, atkarībā no apstrādātās informācijas veida. Piedāvātajiem AI risinājumiem ir jābūt arī kiberdrošiem.

Darbībām jāietver vismaz viena no šādām jomām:

• Nepārtraukta modeļu noteikšana un anomāliju identificēšana, kas var potenciāli norādīt uz jauniem apdraudējumiem, atpazīstot jaunus uzbrukumu vektorus un nodrošinot uzlabotu noteikšanu mainīgajā apdraudējumu vidē, tostarp IKT vai darbības tehnoloģiju infrastruktūrās, izmantojot atvērtās tehnoloģijas.
• CTI izveide, pamatojoties uz jaunām apdraudējumu noteikšanas iespējām.
• Incidentu reaģēšanas ātruma uzlabošana, izmantojot tīklu reāllaika uzraudzību, lai identificētu drošības incidentus un ģenerētu brīdinājumus vai ierosinātu automatizētas atbildes darbības.
• Ļaunprogrammatūras apdraudējumu mazināšana, analizējot koda uzvedību, tīkla trafiku un failu raksturlielumus, samazinot uzbrucējiem iespēju izmantot ļaunprogrammatūras.
• Ievainojamību identificēšana un atbalsts pārvaldībai, ņemot vērā vairākus informācijas avotus.
• Kiberdroši rīki un risinājumi, kas nodrošina riska samazināšanu AI, IoT un viedo tīklu vai citu ražošanas ķēžu krustpunktā.
• Atbalsts atkopšanai pēc incidentiem, izmantojot pašatjaunošanās spējas.
• Uzbrukumu iespējamības samazināšana un vājo vietu preventīva identificēšana, izmantojot automatizētu ievainojamību skenēšanu un iekļūšanas testēšanu.
• Uzņēmējdarbībai sensitīvu datu aizsardzība, analizējot piekļuves modeļus un atklājot neparastu uzvedību.
• Iespēju nodrošināšana organizācijām izmantot un kopīgot CTI un citu izmantojamu informāciju analīzei un atziņām, neapdraudot datu drošību un privātumu, izmantojot anonimizāciju.
• Rīki un risinājumi, kas nodrošina produktu drošību vai kiberdrošību pēc noklusējuma/projektēšanas stadijā saskaņā ar CRA prasībām.
• Rīku un pakalpojumu sniedzēji ir aicināti pieteikties šai tēmai, arī esot konsorcijā ar Cyber Hubs. Attiecīgos gadījumos ir jāveido saiknes ar ieinteresētajām personām augstas veiktspējas skaitļošanas jomā, kā arī jāveic darbības sadarbības veicināšanai ar šādām ieinteresētajām personām. Pamatotos gadījumos var tikt piešķirta piekļuve EuroHPC augstas veiktspējas skaitļošanas infrastruktūrai.
• Šīs tēmas ietvaros izstrādātās sistēmas, rīki un pakalpojumi tiks darīti pieejami licencēšanai National un/vai Cross-Border Cyber Hubs platformām, CSIRTs, kompetentajām iestādēm un citām attiecīgajām iestādēm ar labvēlīgiem tirgus nosacījumiem.
• Šo darbību mērķis ir nodrošināt ar AI darbināmas kiberdrošības spējas National un/vai Cross-Border Cyber Hubs, kā arī valsts iestādēm, tostarp Cyber Hubs un CSIRTs, kurām ir centrālā loma valsts iestāžu, kritisko infrastruktūru un būtisko pakalpojumu sniedzēju kiberdrošības nodrošināšanā. Šo vienību uzdevums ir uzraudzīt, izprast un proaktīvi pārvaldīt kiberdrošības apdraudējumus. Ņemot vērā to izšķirošo operatīvo lomu kiberdrošības nodrošināšanā Savienībā, iesaistīto tehnoloģiju raksturu, kā arī apstrādātās informācijas sensitivitāti, Cyber Hubs ir jāaizsargā pret iespējamām atkarībām un ievainojamībām kiberdrošībā, lai novērstu ārvalstu ietekmi un kontroli.
• Rīki AI risinājumu aizsardzībai un nodrošināšanai saskaņā ar ES tiesisko regulējumu, ņemot vērā prasību integrāciju attiecībā uz robustumu, veiktspēju, uzticēšanos un līdzsvarotu AI autonomiju.
• Ieguldījums ar AI darbināmu kiberdrošības risinājumu un sistēmu kiberdrošības sertifikācijā. AI sistēmu kiberdrošības sertifikācijas galvenais mērķis ES ir divējāds: mazināt AI tehnoloģijām raksturīgos kiberdrošības riskus un apliecināt atbilstību ES visaptverošajam tiesiskajam regulējumam, tostarp AI Act. Izveidojot standartizētu, pārredzamu un stingru sertifikācijas procesu, ES cenšas veicināt uzticēšanos AI tehnoloģijām gan lietotāju, gan izstrādātāju, gan regulatoru vidū.

[1] Multilayer Framework for Good Cybersecurity Practices for AI, ENISA, 2023. gada jūnijs, pieejams: https://www.enisa.europa.eu/publications/multilayer-framework-for-good-cybersecurity-practices-for-ai.

[2] Cybersecurity of AI and Standardisation, ENISA, 2023. gada marts, pieejams: https://www.enisa.europa.eu/publications/cybersecurity-of-ai-and-standardisation.