Системи вештачке интелигенције високог ризика су централна тачка Европске уредбе о вештачкој интелигенцији ( Уредба (ЕУ) 2024/1689 ), обично познате као Закон о вештачкој интелигенцији, која уводи оквир заснован на ризику за развој, испоруку и коришћење система вештачке интелигенције (ВИ). Што је већи ризик по здравље, безбедност и основна права, то су обавезе теже.
За организације, усклађеност стога не почиње израдом техничке документације, већ исправном класификацијом. Прво утврдите који су системи вештачке интелигенције развијени, купљени или коришћени унутар организације. Затим процените да ли је систем забрањен , високог ризика, да ли подлеже обавезама транспарентности или да ли је ван било каквих специфичних обавеза.
Овај чланак наводи када се систем вештачке интелигенције може квалификовати као високоризичан, које обавезе се односе на добављаче и имплементаторе и које кораке организације могу предузети сада. Такође покрива тренутни временски оквир, укључујући промене у оквиру процеса Дигиталног омнибуса. Референтни датум за овај чланак је 25. јул 2026. године.
Када је систем вештачке интелигенције високог ризика?
Процена високоризичних система вештачке интелигенције врши се углавном у складу са чланом 6 и анексима I и III Закона о вештачкој интелигенцији. Постоје два начина.
Први пут се тиче система вештачке интелигенције који су део производа обухваћених европским законодавством о производима наведеним у Анексу I и који захтевају процену усаглашености од стране треће стране. Размислите о одређеним медицинским уређајима, машинама, лифтовима и играчкама. За ове системе, Закон о вештачкој интелигенцији надовезује се на постојећу процедуру процене усаглашености.
Други пут се тиче система вештачке интелигенције који се користе у областима наведеним у Анексу III: биометрија, критична инфраструктура, образовање и стручно оспособљавање, запошљавање и управљање радном снагом, приступ основним приватним и јавним услугама, спровођење закона, миграције, азил и контрола граница, као и спровођење правосуђа и демократски процеси. Не свака употреба у таквој области аутоматски доводи до класификације међу високоризичне системе вештачке интелигенције: такође се морају проценити специфична функција система и услови из члана 6.
Изузетак у члану 6(3)
Систем који спада у домен Анекса III не убраја се аутоматски међу системе вештачке интелигенције високог ризика: та класификација се искључује када не представља значајан ризик по здравље, безбедност или основна права људи и не утиче материјално на исход доношења одлука. То може бити случај када систем обавља само уски процедурални задатак, само побољшава активност коју је човек већ извршио, само указује на одступања од ранијег људског доношења одлука без замене те процене или обавља искључиво припремни задатак.
Ослањање на овај изузетак мора бити пажљиво образложено и документовано. Организација бележи не само закључак, већ и чињенице и процену на којој се тај закључак заснива. Добављач који сматра да систем из Анекса III не спада међу системе вештачке интелигенције високог ризика мора документовати ту процену пре него што се систем стави на тржиште или у употребу, а додатно подлеже обавези регистрације из члана 49(2).
У једној тачки, Уредба је апсолутна. Члан 6(3) предвиђа да се систем вештачке интелигенције наведен у Прилогу III увек убраја у системе вештачке интелигенције високог ризика када врши профилисање физичких лица. Изузетак се у том случају не може позвати.
Коју улогу има ваша организација?
Закон о вештачкој интелигенцији разликује неколико улога у ланцу. Две од њих су важне за већину организација. Страна која развија систем вештачке интелигенције или га пласира на тржиште под својим именом или заштитним знаком квалификује се као добављач. Страна која користи систем вештачке интелигенције у оквиру сопственог пословања, а да га није развила, генерално се квалификује као имплементатор.
Та расподела улога није статична. Организација која значајно модификује купљени систем, испоручује га даље под својим именом или заштитним знаком, или промени његову намену, и даље се може сматрати добављачем и тиме потпасти под тежи скуп обавеза. Утврдите за сваки систем коју улогу испуњавате и забележите ту процену.
Главне обавезе
Пружаоци високоризичних система вештачке интелигенције подлежу обавезама, укључујући оне из чланова 8 до 17, 43 и 47 до 49:
- систем управљања ризицима који покрива цео животни циклус
- управљање подацима, укључујући откривање и исправљање пристрасности у коришћеним подацима, укључујући обуку, валидацију и тестирање података
- техничка документација у складу са Анексом IV и евидентирање догађаја
- јасна упутства за употребу за имплементаторе
- дизајн који омогућава ефикасан људски надзор
- захтеви за тачност, робусност и сајбер безбедност
- систем управљања квалитетом, процена усаглашености, декларација ЕУ о усаглашености, ознака CE и регистрација у бази података ЕУ
За системе вештачке интелигенције високог ризика који се користе за даљинску биометријску идентификацију, како је наведено у Прилогу III, тачка 1(а), члан 14(5) намеће додатни захтев за људски надзор: никаква радња или одлука не сме се предузети на основу идентификације, осим ако је нису посебно верификовала и потврдила најмање два физичка лица са потребном компетенцијом, обуком и овлашћењем. Ово је познато као принцип четири ока.
Имплементатори подлежу лакшим, али не мање важним обавезама из чланова 26 и 27: коришћење у складу са упутствима за употребу, надлежни људски надзор, праћење рада система, пријављивање ризика и озбиљних инцидената и чување евиденције најмање шест месеци. Запослени који ће радити са системом, као и лица на која се он примењује, морају бити унапред обавештени.
Одређени имплементатори такође морају да спроведу процену утицаја на основна права, Процену утицаја на основна права према члану 27. Ово се у сваком случају односи на тела која се регулишу јавним правом, на приватне пружаоце јавних услуга и на имплементаторе који користе системе за бодовање кредита или за процену ризика осигурања у животном и здравственом осигурању.
Временска линија и тренутни статус
Закон о вештачкој интелигенцији ступио је на снагу 1. августа 2024. године и примењиваће се у фазама. У пракси је важно разликовати обавезе које се већ примењују, обавезе са будућим датумом примене и најављене измене чије формално ступање на снагу још није завршено.
Забрањене праксе (члан 5): Примењује се од 2. фебруара 2025.
Вештачка писменост (члан 4): Применљиво од 2. фебруара 2025.
Модели вештачке интелигенције опште намене: Применљиво од 2. августа 2025.
Обавезе транспарентности (члан 50): Примењује се од 2. августа 2026. године; није одложено
Висок ризик путем Анекса III: Формално још увек 2. августа 2026; када Омнибус ступи на снагу, најкасније 2. децембра 2027.
Висок ризик путем Анекса I: Формално још увек 2. августа 2027; када Омнибус ступи на снагу, најкасније 2. августа 2028.
Европска комисија је 19. новембра 2025. године објавила пакет „Дигитални омнибус“, предлажући одлагање примене обавеза за системе вештачке интелигенције високог ризика. Прелиминарни политички споразум постигнут је 7. маја 2026. године. Европски парламент је дао подршку 16. јуна 2026. године, а Савет је дао коначно одобрење 29. јуна 2026. године.
Међутим, на дан референтног датума овог чланка, објављивање у Службеном листу Европске уније још није завршено. Амандман ступа на снагу трећег дана након тог објављивања. До тада, првобитни временски оквир Закона о вештачкој интелигенцији остаје важећи закон, са 2. августом 2026. године као датумом примене обавеза високог ризика из Анекса III. Објављивање пре тог датума се углавном очекује, али још увек није потврђено.
Одлагање је, штавише, структурирано условно. Примена обавеза за системе вештачке интелигенције високог ризика везана је за одлуку Комисије којом се утврђује да су доступни неопходни хармонизовани стандарди и инструменти подршке, након чега следи прелазни период. Датуми 2. децембар 2027. и 2. август 2028. функционишу као датуми заштите, а не као једноставно одлагање.
Две тачке заслужују посебну пажњу. Прво, обавезе транспарентности из Члана 50 и обавеза писмености у вези са вештачком интелигенцијом из Члана 4 нису одложене: оне остају на свом првобитном временском оквиру. Друго, пакет додаје нову забрану Члану 5, усмерену на апликације вештачке интимне слике које генеришу без пристанка и на материјал сексуалног злостављања деце генерисан вештачком интимношћу.
За организације то значи да је планирање за децембар 2027. године разумно, али да вођење евиденције за сада треба да буде организовано као да је август 2026. и даље обавезујући, док Службени гласник не каже другачије.
Надзор и казне
У Холандији, имплементациони закон за Закон о вештачкој интелигенцији још увек недостаје на дан референтног датума овог чланка. Очекује се да холандска Агенција за дигиталну инфраструктуру и холандска Агенција за заштиту података преузму централну, координирајућу улогу, док ће секторски надзорници остати одговорни у својим областима. Међутим, прецизна расподела овлашћења и њен законски основ морају се утврдити на основу коначног холандског имплементационог закона.
Члан 99 Закона о вештачкој интелигенцији предвиђа неколико максималних категорија казни. Висина зависи од природе прекршаја и, где је то релевантно, од годишњег промета предузећа широм света. Највиши максимум се примењује на кршење забрањених пракси из члана 5; нижи максимум се примењује на кршење осталих обавеза, укључујући оне за добављаче и имплементаторе система вештачке интелигенције високог ризика; а најнижи се примењује на достављање нетачних, непотпуних или обмањујућих информација властима. Повољнији режим се примењује на мала и средња предузећа (МСП), укључујући стартапове. Стварна казна се одређује узимајући у обзир важећа правила о казнама и околности случаја.
Практични план
- Направите инвентар свих система вештачке интелигенције које ваша организација развија, купује или користи.
- Утврдите за сваки систем коју улогу испуњавате: добављача или имплементатора.
- Одредите категорију ризика за сваки систем и документујте ту процену, укључујући свако ослањање на изузетак из члана 6(3).
- Успоставити управљање вештачком интелигенцијом и именовати одговорног службеника.
- Обезбедити писменост у области вештачке интелигенције међу запосленима који раде са овим системима; та обавеза се већ примењује.
- Припремити мере транспарентности у складу са чланом 50 са очекивањима до 2. августа 2026. године.
- Благовремено започните техничку документацију и, где је потребно, процену утицаја на основна права.
- Прегледајте уговоре са добављачима о расподели улога, пружању информација и правима ревизије.
- Пратите објављивање Омнибус пакета у Службеном гласнику и прилагодите своје планирање у складу са тим.
Закључак
Закон о вештачкој интелигенцији фундаментално утиче на то како организације развијају, купују и користе вештачку интелигенцију. Најављено одлагање обавеза високог ризика пружа додатно време, али још увек није применљив закон, а обавезе које се већ примењују или ступају на снагу 2. августа 2026. године нису њиме погођене. Стога је разуман приступ планирати у односу на нове датуме, а истовремено остати спреман за старе. За шири преглед прописа, погледајте наш Комплетан водич кроз Закон ЕУ о вештачкој интелигенцији , који допуњује фокус овог чланка на системе вештачке интелигенције високог ризика.
Law & More помаже организацијама да попишу и класификују своје системе вештачке интелигенције, одреде своју улогу као добављача или имплементатора, прегледају и напишу уговоре са добављачима вештачке интелигенције и успоставе управљање вештачком интелигенцијом. Да ли желите да знате које обавезе тренутно важе за вашу организацију и који кораци би требало да буду приоритетни? Слободно нас контактирајте за разговор без обавеза.
Često postavljana pitanja
У наставку одговарамо на питања која нам најчешће постављају на ову тему.
Шта је Закон о вештачкој интелигенцији?
Европска уредба о вештачкој интелигенцији (Уредба (ЕУ) 2024/1689). Ступила је на снагу 1. августа 2024. године и примењиваће се у фазама, са обавезама које постају теже како се повећава ризик који представља систем вештачке интелигенције.
Када је систем вештачке интелигенције високог ризика?
На два начина: као део производа обухваћеног законодавством о производима наведеним у Анексу I, или кроз употребу у једној од области наведених у Анексу III. У овом другом случају, сама област није одлучујућа; специфична функција и услови из члана 6 такође се рачунају.
Да ли систем из Анекса III ипак може да спада ван категорије високог ризика?
Да, тамо где не представља значајан ризик и не утиче материјално на доношење одлука, на пример када обавља уски процедурални или чисто припремни задатак. Та процена мора бити документована. Тамо где систем врши профилисање физичких лица, изузетак се никада не примењује.
Да ли сам добављач или имплементатор?
Ви сте добављач ако развијате систем или га пласирате на тржиште под својим именом или заштитним знаком, а генерално сте имплементатор ако користите купљени систем. Ако значајно измените купљени систем или га даље испоручујете под својим именом, и даље можете постати добављач.
Које обавезе важе за добављаче?
Између осталог, управљање ризицима, управљање подацима, техничка документација, евидентирање, упутства за употребу, људски надзор, захтеви за тачност и сајбер безбедност, систем управљања квалитетом, процена усаглашености, CE ознака и регистрација у бази података ЕУ.
Које обавезе важе за имплементаторе?
Употреба у складу са упутствима, надзор надлежног људског тела, праћење, извештавање о ризицима и озбиљним инцидентима и чување евиденције најмање шест месеци. Запослени који су укључени и лица на која се систем примењује морају бити унапред обавештени.
Када се мора спровести процена утицаја на основна права?
Члан 27 ово захтева, између осталог, од тела која се регулишу јавним правом, приватних пружалаца јавних услуга и пружалаца услуга који користе системе за бодовање кредита или за процену ризика осигурања у животном и здравственом осигурању.
Да ли су обавезе високог ризика одложене?
Усвојеним амандманом примена се одлаже најкасније до 2. децембра 2027. године за Анекс III и 2. августа 2028. године за Анекс I. На дан референтног датума овог члана тај амандман још није објављен у Службеном листу, тако да првобитни датум 2. августа 2026. године формално и даље важи.
Шта већ важи данас?
Забрањене праксе из члана 5 и обавеза вештачке интелигенције од 2. фебруара 2025. године, и правила за моделе вештачке интелигенције опште намене од 2. августа 2025. године. Обавезе транспарентности из члана 50 ступају на снагу 2. августа 2026. године и нису одложене.
Ко надгледа Закон о вештачкој интелигенцији у Холандији?
Имплементациони закони још увек недостају. Очекује се да ће холандска Агенција за дигиталну инфраструктуру и холандска Агенција за заштиту података преузети централну, координирајућу улогу, заједно са секторским надзорницима. Коначна расподела овлашћења уследиће на основу холандских имплементационих закона.
Шта би моја организација требало сада да уради?
Почните са инвентаром свих система вештачке интелигенције које развијате, купујете или користите. За сваки систем евидентирајте коју улогу имате, која категорија ризика се примењује и које обавезе следе. Такође, успоставите управљање вештачком интелигенцијом, осигурајте писменост у области вештачке интелигенције и прегледајте уговоре са добављачима о расподели улога, пружању информација и правима ревизије.
