Apply AI Strategy^[1] arī tiecas stiprināt ES spējas un sasniegt izcilību AI jomā, lai atbalstītu Eiropas robežvērtības modeļu izstrādi. Kā daļa no Frontier AI Initiative, kas apvieno Eiropas vadošos dalībniekus šajā jomā, šī tēma atbalstīs suverēnu robežvērtības AI izstrādi, nodrošinot drošību jau projektēšanas stadijā. Šī tēma tieši veicina Apply AI Strategy īstenošanu. Sagaidāms, ka projektu rezultāti sekmēs visus turpmāk minētos paredzamos rezultātus:

• Stiprinātas Eiropas spējas robežvērtības AI modeļu izstrādē.
• Uzlabota robežvērtības AI modeļu skaitļošanas efektivitāte, kā rezultātā samazinās skaitļošanas izmaksas.
• Paaugstināta progresīvu AI sistēmu drošība, kuru pamatā ir robežvērtības AI modeļi, izstrādājot un ieviešot drošības principus jau projektēšanas stadijā un/vai AI aģentus, kas darbojas kā drošības vērtētāji.

Lai veicinātu progresīvu AI modeļu attīstību līdz visaugstākā līmeņa veiktspējai, vienlaikus nodrošinot energoefektivitāti, risinot skaitļošanas ierobežojumus un stiprinot drošību. Šīs tēmas pieeja ir divējāda. Pirmkārt, tās mērķis ir virzīt AI jomu uz priekšu, izstrādājot un apmācot progresīvu AI modeli. AI modelim ir jādemonstrē mūsdienīgs sniegums, jābūt multimodālām spējām un jābūt optimizētam aģentu AI spējām, piemēram, rīku izmantošanai, argumentācijai un autonomai problēmu risināšanai. Otrkārt, šī tēma atbalsta pētījumus par visaptverošām metodēm, kā samazināt progresīvu AI modeļu skaitļošanas prasības un nodrošināt to drošību, tostarp izmantojot tādas tehniskās metodoloģijas kā automatizēta testēšana un interpretējamība.

Galvenie virzītājspēki skaitļošanas ziņā efektīvām AI sistēmām ir steidzamie izaicinājumi, ko rada pieaugošā AI enerģijas pēda un pašreizējie skaitļošanas ierobežojumi. Mūsdienu AI modeļiem, īpaši progresīviem AI modeļiem, ir nepieciešami ievērojami skaitļošanas resursi, kas būtiski ietekmē vidi. Turklāt tie rada šķēršļus iekļūšanai tirgū tiem, kas vēlas attīstīt AI jomu. Galvenās pētniecības jomas ietver kompresijas un destilācijas metodes, kuru mērķis ir samazināt lielu AI modeļu sarežģītību. Inovācijas AI arhitektūrās ir arī nozīmīgas, koncentrējoties uz inovatīviem modeļiem, kas ievērojami samazina skaitļošanas prasības apmācībai un secinājumu izdarīšanai. Turklāt var apsvērt algoritmu pieejas, kuru mērķis ir samazināt skaitļošanas slodzi pirmsapmācības, pēcapmācības un secinājumu izdarīšanas laikā.

AI sistēmu drošības nodrošināšana ir būtiska, jo īpaši tāpēc, ka AI modeļi kļūst arvien sarežģītāki un visuresošāki. Iespējamās pētniecības jomas, kuras jāapsver, ietver neatbilstības novēršanu, jo īpaši lielo AI modeļu netīšu neatbilstību. Darbs šajā jomā varētu izpētīt metodes, kā atklāt un mazināt sarežģītu nepareizu uzvedību, piemēram, atbilstības simulēšanu, cilvēka uzraudzības atalgojuma manipulāciju un kodētu argumentāciju domāšanas ķēdē (CoT). Turklāt pētījumi varētu koncentrēties uz noturības uzlabošanu pret pretdarbības uzbrukumiem, "jailbreak" un "backdoor" ievainojamībām. Citas potenciālās inovāciju jomas ietver AI modeļu pārredzamības un interpretējamības uzlabošanu. Drošības pētījumos varētu arī apsvērt riskus, kas var rasties, ieguldot progresīvus modeļus aģentu AI sistēmās, būtiski veicinot uzticēšanos un drošu jaudīgu AI risinājumu ieviešanu.

Šī tēma sniedz ieguldījumu EU Frontier AI iniciatīvā. Projektam ir jāizveido ciešas saites ar Resource for AI Science in Europe (RAISE), nodrošinot, ka tā prioritātes informē par aplūkotajām pētniecības tēmām. Paredzams, ka aktivitātēs tiks iesaistīta Eiropas AI pētniecības kopiena, kā arī piesaistīti un noturēti labākie AI talanti, kas strādā ar progresīviem modeļiem un saistītām jomām.

Paredzams, ka visi priekšlikumi ietvers mehānismus progresa novērtēšanai un demonstrēšanai, tostarp kvalitatīvus un kvantitatīvus KPI, salīdzinošo novērtēšanu un progresa uzraudzību. Kad vien iespējams, priekšlikumiem jābalstās uz attiecīgu iepriekš finansētu darbību publiskajiem rezultātiem un tie jāizmanto atkārtoti. Komunicējami rezultāti būtu jākopīgo ar Eiropas R&D kopienu, izmantojot AI-on-demand platformu.

Šajā tēmā atlasītajam projektam ir jābūt saistītam ar resursiem, ko piedāvā AI Factories un Data Labs. Attiecīgā gadījumā tas varētu arī izveidot saites ar Eiropas uzņēmumiem, kas izstrādā progresīvus AI modeļus.

Paredzams, ka visos priekšlikumos tiks piešķirti uzdevumi kohēzijas aktivitātēm ar European Partnership on AI, data, and robotics (ADRA) un CSA HORIZON-CL4-2025-03-HUMAN-18: GenAI4EU central Hub.