Системи вештачке интелигенције високог ризика: шта Закон о вештачкој интелигенцији захтева од ваше организације

Системи вештачке интелигенције високог ризика су централна тачка Европске уредбе о вештачкој интелигенцији ( Уредба (ЕУ) 2024/1689 ), обично познате као Закон о вештачкој интелигенцији, која уводи оквир заснован на ризику за развој, испоруку и коришћење система вештачке интелигенције (ВИ). Што је већи ризик по здравље, безбедност и основна права, то су обавезе теже.

За организације, усклађеност стога не почиње израдом техничке документације, већ исправном класификацијом. Прво утврдите који су системи вештачке интелигенције развијени, купљени или коришћени унутар организације. Затим процените да ли је систем забрањен , високог ризика, да ли подлеже обавезама транспарентности или да ли је ван било каквих специфичних обавеза.

Овај чланак наводи када се систем вештачке интелигенције може квалификовати као високоризичан, које обавезе се примењују на добављаче и имплементаторе и које кораке организације могу предузети сада. Такође утврђује временски оквир какав је сада, након одлагања обавеза високог ризика у складу са Дигиталним омнибусом.

Када је систем вештачке интелигенције високог ризика?

Процена високоризичних система вештачке интелигенције врши се углавном у складу са чланом 6 и анексима I и III Закона о вештачкој интелигенцији. Постоје два начина.

Први пут се тиче система вештачке интелигенције који су део производа обухваћених европским законодавством о производима наведеним у Анексу I и који захтевају процену усаглашености од стране треће стране. Размислите о одређеним медицинским уређајима, машинама, лифтовима и играчкама. За ове системе, Закон о вештачкој интелигенцији надовезује се на постојећу процедуру процене усаглашености.

Други пут се тиче система вештачке интелигенције који се користе у областима наведеним у Анексу III: биометрија, критична инфраструктура, образовање и стручно оспособљавање, запошљавање и управљање радном снагом, приступ основним приватним и јавним услугама, спровођење закона, миграције, азил и контрола граница, као и спровођење правосуђа и демократски процеси. Не свака употреба у таквој области аутоматски доводи до класификације међу високоризичне системе вештачке интелигенције: такође се морају проценити специфична функција система и услови из члана 6.

Изузетак у члану 6(3)

Систем који спада у домен Анекса III не убраја се аутоматски међу системе вештачке интелигенције високог ризика: та класификација се искључује када не представља значајан ризик по здравље, безбедност или основна права људи и не утиче материјално на исход доношења одлука. То може бити случај када систем обавља само уски процедурални задатак, само побољшава активност коју је човек већ извршио, само указује на одступања од ранијег људског доношења одлука без замене те процене или обавља искључиво припремни задатак.

Ослањање на овај изузетак мора бити пажљиво образложено и документовано. Организација бележи не само закључак, већ и чињенице и процену на којој се тај закључак заснива. Добављач који сматра да систем из Анекса III не спада међу системе вештачке интелигенције високог ризика мора документовати ту процену пре него што се систем стави на тржиште или у употребу, а додатно подлеже обавези регистрације из члана 49(2).

У једној тачки, Уредба је апсолутна. Члан 6(3) предвиђа да се систем вештачке интелигенције наведен у Прилогу III увек убраја у системе вештачке интелигенције високог ризика када врши профилисање физичких лица. Изузетак се у том случају не може позвати.

Коју улогу има ваша организација?

Закон о вештачкој интелигенцији разликује неколико улога у ланцу. Две од њих су важне за већину организација. Страна која развија систем вештачке интелигенције или га пласира на тржиште под својим именом или заштитним знаком квалификује се као добављач. Страна која користи систем вештачке интелигенције у оквиру сопственог пословања, а да га није развила, генерално се квалификује као имплементатор.

Та расподела улога није статична. Организација која значајно модификује купљени систем, испоручује га даље под својим именом или заштитним знаком, или промени његову намену, и даље се може сматрати добављачем и тиме потпасти под тежи скуп обавеза. Утврдите за сваки систем коју улогу испуњавате и забележите ту процену.

Главне обавезе

Пружаоци високоризичних система вештачке интелигенције подлежу обавезама, укључујући оне из чланова 8 до 17, 43 и 47 до 49:

• систем управљања ризицима који покрива цео животни циклус
• управљање подацима, укључујући откривање и исправљање пристрасности у коришћеним подацима, укључујући обуку, валидацију и тестирање података
• техничка документација у складу са Анексом IV и евидентирање догађаја
• јасна упутства за употребу за имплементаторе
• дизајн који омогућава ефикасан људски надзор
• захтеви за тачност, робусност и сајбер безбедност
• систем управљања квалитетом, процена усаглашености, декларација ЕУ о усаглашености, ознака CE и регистрација у бази података ЕУ

За системе вештачке интелигенције високог ризика који се користе за даљинску биометријску идентификацију, како је наведено у Прилогу III, тачка 1(а), члан 14(5) намеће додатни захтев за људски надзор: никаква радња или одлука не сме се предузети на основу идентификације, осим ако је нису посебно верификовала и потврдила најмање два физичка лица са потребном компетенцијом, обуком и овлашћењем. Ово је познато као принцип четири ока.

Имплементатори подлежу лакшим, али не мање важним обавезама из чланова 26 и 27: коришћење у складу са упутствима за употребу, надлежни људски надзор, праћење рада система, пријављивање ризика и озбиљних инцидената и чување евиденције најмање шест месеци. Запослени који ће радити са системом, као и лица на која се он примењује, морају бити унапред обавештени.

Одређени имплементатори такође морају да спроведу процену утицаја на основна права, Процену утицаја на основна права према члану 27. Ово се у сваком случају односи на тела која се регулишу јавним правом, на приватне пружаоце јавних услуга и на имплементаторе који користе системе за бодовање кредита или за процену ризика осигурања у животном и здравственом осигурању.

Временска линија и тренутни статус

Закон о вештачкој интелигенцији ступио је на снагу 1. августа 2024. године и примењиваће се у фазама. У пракси је важно разликовати обавезе које се већ примењују, обавезе са будућим датумом примене и најављене измене чије формално ступање на снагу још није завршено.

Забрањене праксе (члан 5): Примењује се од 2. фебруара 2025.

Вештачка писменост (члан 4): Применљиво од 2. фебруара 2025.

Модели вештачке интелигенције опште намене: Применљиво од 2. августа 2025.

Обавезе транспарентности (члан 50): примењују се од 2. августа 2026. године; нису одложене

Висок ризик путем Анекса III: примењује се од 2. децембра 2027. године, након одлагања

Висок ризик путем Анекса I: примењује се од 2. августа 2028. године, након истог одлагања

То одлагање је устаљена правна уредба. Европска комисија је 19. новембра 2025. године представила пакет дигиталног омнибуса са предлогом о одлагању обавеза за системе вештачке интелигенције високог ризика. Измена уредбе, Уредба (ЕУ) 2026/1744, објављена је у Службеном листу 24. јула 2026. године и ступила је на снагу 27. јула 2026. године.

Само је режим високог ризика померен. Обавезе из Поглавља III за системе класификоване путем Анекса III сада се примењују од 2. децембра 2027. године, а оне за системе класификоване путем Анекса I од 2. августа 2028. године. Све остало је задржало свој првобитни датум, тако да одлагање није створило општу паузу у Закону о вештачкој интелигенцији.

Одлагање није безусловно на начин на који би то била једноставна промена датума. Примена обавеза високог ризика повезана је са доступношћу хармонизованих стандарда и пратећих инструмената потребних за њихово усклађивање, а нови датуми функционишу као спољна граница тог аранжмана, а не као циљ који се може даље померити. Планирање под претпоставком још једног продужења је стога неразумно.

Две тачке заслужују посебну пажњу. Прво, обавезе транспарентности из Члана 50 и обавеза писмености у вези са вештачком интелигенцијом из Члана 4 нису одложене: Члан 50 се примењује од 2. августа 2026. године, а Члан 4 од 2. фебруара 2025. године. Друго, пакет додаје нову забрану Члану 5, усмерену на апликације вештачке интимне слике без пристанка и на материјал сексуалног злостављања деце генерисан вештачком интимном интелигенцијом.

За организације то значи да је децембар 2027. датум за планирање документације високог ризика, док су обавезе у погледу транспарентности, писмености и опште намене ствар тренутне усаглашености, а не припреме.

Надзор и казне

У Холандији, имплементациони акт за Закон о вештачкој интелигенцији још увек није ступио на снагу. Нацрт је објављен на јавну расправу 20. априла 2026. године. Он даје холандском органу за заштиту података (Autoriteit Persoonsgegevens) улогу надзорника за области у којима није именован секторски надзорник, са посебном јединицом за вештачку интелигенцију, а холандском органу за дигиталну инфраструктуру (RDI) даје координациону улогу, док секторски надзорници задржавају своје домене. Док се тај закон не усвоји и не ступи на снагу, прецизна расподела овлашћења и национални режим казни нису утврђени.

Члан 99 Закона о вештачкој интелигенцији предвиђа неколико максималних категорија казни. Висина зависи од природе прекршаја и, где је то релевантно, од годишњег промета предузећа широм света. Највиши максимум се примењује на кршење забрањених пракси из члана 5; нижи максимум се примењује на кршење осталих обавеза, укључујући оне за добављаче и имплементаторе система вештачке интелигенције високог ризика; а најнижи се примењује на достављање нетачних, непотпуних или обмањујућих информација властима. Повољнији режим се примењује на мала и средња предузећа (МСП), укључујући стартапове. Стварна казна се одређује узимајући у обзир важећа правила о казнама и околности случаја.

Практични план

• Направите инвентар свих система вештачке интелигенције које ваша организација развија, купује или користи.
• Утврдите за сваки систем коју улогу испуњавате: добављача или имплементатора.
• Одредите категорију ризика за сваки систем и документујте ту процену, укључујући свако ослањање на изузетак из члана 6(3).
• Успоставити управљање вештачком интелигенцијом и именовати одговорног службеника.
• Обезбедити писменост у области вештачке интелигенције међу запосленима који раде са овим системима; та обавеза се већ примењује.
• Спровести мере транспарентности из члана 50; оне се примењују од 2. августа 2026. године.
• Благовремено започните техничку документацију и, где је потребно, процену утицаја на основна права.
• Прегледајте уговоре са добављачима о расподели улога, пружању информација и правима ревизије.
• Планирајте документацију високог ризика за 2. децембар 2027. за системе из Анекса III и 2. август 2028. за системе из Анекса I.

Шта Закон о вештачкој интелигенцији захтева од ваше организације

Закон о вештачкој интелигенцији фундаментално утиче на то како организације развијају, купују и користе вештачку интелигенцију. Одлагање обавеза високог ризика купује време за најтежи део режима, али оставља све остало на снази: забране из Члана 5, обавеза писмености у вези са вештачком интелигенцијом, правила за моделе вештачке интелигенције опште намене и обавезе транспарентности из Члана 50 важе данас. Добијено време је најбоље потрошити на класификацију и документацију, јер су то кораци који се касније не могу сажети. За шири преглед прописа, погледајте наш Комплетан водич кроз Закон ЕУ о вештачкој интелигенцији , који допуњује фокус овог чланка на системе вештачке интелигенције високог ризика.

Law & More помаже организацијама да попишу и класификују своје системе вештачке интелигенције, одреде своју улогу као добављача или имплементатора, прегледају и напишу уговоре са добављачима вештачке интелигенције и успоставе управљање вештачком интелигенцијом. Ако желите да знате које обавезе тренутно важе за вашу организацију и који кораци би требало да буду приоритетни? слободно нас контактирајте.

Često postavljana pitanja

У наставку одговарамо на питања која нам најчешће постављају на ову тему.