Предузећа широм Холандије све више користе алате вештачке интелигенције како би побољшала своје пословање. Многа се суочавају са забуном око тога шта закон захтева.
Ако развијате, купујете или користите системе вештачке интелигенције у Холандији, морате се придржавати Европског закона о вештачкој интелигенцији, који поставља строга правила о томе како се вештачка интелигенција може користити у пословању. Прописи који су ступили на снагу 2024. године утичу на скоро сваку компанију која користи вештачку интелигенцију, од малих предузећа која примењују четботове до великих организација које граде прилагођене системе.
Разумевање вашег законске обавезе У складу са холандским и европским законима, неопходно је да се пре интеграције вештачке интелигенције у ваше пословање изврши провера. Правила се разликују у зависности од врсте система вештачке интелигенције који користите и како га користите.
Неке примене вештачке интелигенције су потпуно забрањене, док друге захтевају пажљиву документацију и надзор. Ваше одговорности у вези са усклађеношћу такође зависе од тога да ли развијате системе вештачке интелигенције или их једноставно користите.
Овај водич објашњава законске захтеве за коришћење алата вештачке интелигенције у вашем пословању према холандском законНаучићете како да идентификујете своје обавезе, разумете категорије ризика, заштитите се података и приватности, сналазе се у питањима интелектуалне својине и развијају практичне стратегије усклађености.
Разумевање алата вештачке интелигенције и холандског правног пејзажа
Холандија се позиционирала као лидер у регулацији вештачке интелигенције у Европи, са вишеструким надзорним телима која прате све, од заштите података до финансијских услуга. Ваше пословање ће се сусрести са технологијама вештачке интелигенције, од једноставних четботова до сложених система машинског учења, при чему сваки подлеже различитим регулаторним захтевима у зависности од нивоа ризика и примене.
Дефиниција и врсте АИ технологија
Вештачка интелигенција се односи на рачунарске системе који обављају задатке који обично захтевају људску интелигенцију. У пословним контекстима, наићи ћете на неколико различитих типова.
Генеративна вештачка интелигенција креира нови садржај попут текста, слика или кода. Алати попут ChatGPT-а од OpenAI-а спадају у ову категорију и често се користе за корисничку подршку, креирање садржаја и израду докумената.
Системи машинског учења анализирају обрасце података како би доносили предвиђања или одлуке. Ови системи омогућавају откривање превара, управљање залихама и анализу понашања купаца.
Предиктивна вештачка интелигенција користи историјске податке за предвиђање исхода као што су трендови продаје или потребе за одржавањем. Четботови обрађују интеракције са купцима путем аутоматизованих разговора.
Ови алати се крећу од једноставних система заснованих на правилима до софистицираних асистената покретаних вештачком интелигенцијом. Вештачку интелигенцију можете користити и за анализу докумената, процену ризика или персонализоване маркетиншке кампање.
Свака врста носи различите обавезе усклађености са Холандски закон.
Трендови усвајања вештачке интелигенције у холандском пословању
Холандска предузећа брзо интегришу вештачку интелигенцију у свим секторима. Полупроводничка индустрија је водећа на глобалном нивоу, а компаније развијају врхунску технологију која покреће АИ системи широм света.
У финансијским услугама, вештачка интелигенција покреће откривање превара и побољшање корисничке услуге. Здравствене организације користе вештачку интелигенцију за дијагностичку подршку и планирање лечења.
Малопродајна предузећа користе вештачку интелигенцију за оптимизацију залиха и персонализована искуства куповине. Производни погони имплементирају системе предиктивног одржавања како би смањили застоје.
Холандска влада активно подржава усвајање вештачке интелигенције кроз разне иницијативе. Холандска коалиција за вештачку интелигенцију окупља предузећа, истраживачке институције и владине органе како би промовисала одговоран развој вештачке интелигенције.
Владини субјекти пружају центре за иновације и регулаторне просторе, посебно за финансијску технологију. Ова подршка одражава генерално позитиван поглед на економски потенцијал вештачке интелигенције, уравнотежен пажљивом пажњом посвећеном ризицима у вези са транспарентношћу и одговорношћу.
Кључна регулаторна тела у Холандији
твој Обавезе усклађености са вештачком интелигенцијом укључити више холандских власти. Холандска агенција за заштиту података (Ауторитеит Персоонсгегевенс) служи као национално координационо тело за Надзор вештачке интелигенције.
Основала је Дирекцију за координацију алгоритама посебно ради надгледања система вештачке интелигенције и спровођења Закон о вештачкој интелигенцији ЕУОво тело се фокусира на транспарентне алгоритме, ревизију, управљање и усклађеност са Законом ЕУ о вештачкој интелигенцији током 2025. године.
Ако послујете у финансијским услугама, имаћете посла са два додатна регулатора. Управа за финансијска тржишта (AFM) бави се надзором понашања, фокусирајући се на заштиту потрошача од манипулативног дигиталног маркетинга и тамних образаца.
Де Недерландше Банк (Холандска централна банка) надгледа пруденцијална питања, укључујући исправност, одговорност и правичност система вештачке интелигенције. Управа за потрошаче и тржиште (Ауторитет за потрошњу и тржиште) спроводи правила фер конкуренције и законе о заштити потрошача.
Регулише усклађеност са Законом о дигиталним услугама, Законом о управљању подацима и Законом о подацима. Сваки регулатор је интензивирао надзор специфичан за вештачку интелигенцију и објавио смернице за предузећа у својим секторима.
Основни регулаторни оквир за усклађеност са вештачком интелигенцијом
Закон ЕУ о вештачкој интелигенцији успоставља примарни европски правни оквир за вештачку интелигенцију, уз подршку постојећих закона о заштити података као што је GDPR и новијих прописа, укључујући Закон о подацима и Закон о управљању подацима. Имплементација прати фазни временски оквир са одређеним роковима који одређују када различити захтеви ступају на снагу.
Преглед Закона ЕУ о вештачкој интелигенцији и његова имплементација у Холандији
Закон ЕУ о вештачкој интелигенцији, формално познат као Закон о вештачкој интелигенцији, ствара регулаторни систем заснован на ризику за системе вештачке интелигенције широм Европске уније. Он категорише примене вештачке интелигенције у четири нивоа ризика: неприхватљив, висок, ограничен и минималан ризик.
Холандска влада је објавила свој Водич за Закон о вештачкој интелигенцији (верзија 1.1) како би помогла организацијама да разумеју како се ова правила примењују у пракси. Овај водич пружа приступ у четири корака: идентификујте ризик који ваш систем представља, потврдите да испуњава дефиницију вештачке интелигенције ЕУ, утврдите да ли сте добављач или имплементатор и мапирајте своје специфичне обавезе.
Забрањена употреба вештачке интелигенције укључују системе друштвеног бодовања, алате за предиктивно полицијско деловање и апликације које манипулишу људским понашањем на штетне начине. Системи вештачке интелигенције високог ризика функционишу у критичним областима као што су здравствена заштита, образовање, запошљавање и спровођење закона.
Модели опште намене и генеративни модели вештачке интелигенције имају одвојене обавезе у вези са транспарентношћу и смањењем ризика. Прописи укључују изузетке за одређене моделе отвореног кода који испуњавају специфичне критеријуме.
Однос са постојећим прописима (GDPR, Закон о подацима, Закон о управљању подацима)
Закон о вештачкој интелигенцији функционише упоредо са Општом уредбом о заштити података, а не да је замењује. Ако ваш систем вештачке интелигенције обрађује личне податке, морате се истовремено придржавати оба оквира.
Захтеви GDPR-а се и даље примењују на прикупљање података, обраду и индивидуална права. Потребни су вам законски основ за обрада података, морају спроводити процене утицаја на заштиту података за обраду високог ризика и водити евиденцију о активностима обраде.
Закон о подацима регулише дељење података и права приступа између предузећа и корисника. Утиче на системе вештачке интелигенције који генеришу или користе индустријске или комерцијалне податке.
Закон о управљању подацима успоставља правила за посреднике података и промовише дељење података у сврху јавног интереса. Закон о сајбер отпорности додаје безбедносне захтеве за производе вештачке интелигенције са дигиталним елементима.
Ово ствара преклапајуће обавезе где ваш систем вештачке интелигенције мора да испуњава стандарде сајбер безбедности заједно са правилима специфичним за вештачку интелигенцију.
Фазна имплементација и кључни рокови за усклађеност
Закон ЕУ о вештачкој интелигенцији прати постепени временски оквир за спровођење. Различити захтеви постају обавезни у различитим датумима.
Забрањене праксе вештачке интелигенције ступио је на снагу 2. фебруара 2025. Морате одмах престати да користите све системе вештачке интелигенције који спадају у ову категорију.
Захтеви за моделе вештачке интелигенције опште намене ступају на снагу 2. августа 2025. Системи вештачке интелигенције високог ризика морају се ускладити са захтевима до 2. августа 2027. године, што ће добављачима и имплементаторима дати више времена за имплементацију неопходних контрола.
Обавезе за имплементаторе високоризичних система прате исти рок од 2. августа 2027. године. Владини органи се суочавају са додатним захтевима, укључујући процене утицаја на основна права и регистрацију система у базама података ЕУ пре имплементације.
Процене ризика, документација и имплементација контрола захтевају значајно време и ресурсе да би се правилно завршиле.
Законске обавезе у вези са заштитом података и приватношћу
Холандска предузећа која користе алате вештачке интелигенције морају да се придржавају строгих захтева за заштиту података у складу са ГДПР, што појединцима даје снажна права на приватност над њиховим личним подацима. Холандска агенција за заштиту података активно спроводи ова правила и очекује од компанија да покажу законита обрада, спроводе одговарајуће процене ризика и брзо реагују на безбедносне инциденте.
Обрада личних података и сагласност
Потребан вам је правни основ према Општој уредби о заштити података (GDPR) пре него што обрађујете било какве личне податке путем система вештачке интелигенције (AI). Холандски орган за заштиту података (DPA) је јасно ставио до знања да обучавање AI модела на подацима са интернета који су прикупљени често не испуњава законске захтеве, посебно када су у питању посебне категорије личних података.
Подаци посебне категорије укључују информације о расном пореклу, политичким ставовима, верским уверењима, здравственим картонима и биометријске информацијеМорате испунити строже услове да бисте обрађивали ове осетљиве податке.
Сагласност је један правни основ за обраду, али захтева одређене услове. Ваш захтев за сагласност мора бити јасан, одвојен од осталих услова и дат слободно.
Корисници морају бити у могућности да повуку сагласност једнако лако као што су је дали. Остали правни основи укључују извршење уговора, законске обавезе, виталне интересе, јавне задатке или легитимне интересе.
Требало би да документујете који правни основ се примењује на сваку активност обраде. Холандски закон о заштити података захтева да подаци о обуци морају бити законито прибављени и правилно обрађени како би се уклонили нежељени лични подаци.
Не можете се ослањати на аргумент да су подаци већ били јавно доступни на мрежи.
Процене утицаја на заштиту података и приватност већ дизајнирана
Морате спровести Процену утицаја на заштиту података (DPIA) када је вероватно да ће ваша обрада података помоћу вештачке интелигенције резултирати високим ризиком по права појединаца. Холандски DPA очекује DPIA за већину генеративних апликација вештачке интелигенције које обрађују личне податке.
Ваша процена утицаја на заштиту података треба да идентификује које личне податке обрађујете, да опише операције обраде, процени неопходност и сразмерност и да процени ризике за појединце. Такође морате да наведете мере за решавање тих ризика.
Приватност по дизајну значи да од самог почетка уграђујете заштиту података у своје системе вештачке интелигенције. Требало би да имплементирате минимизацију података, ограничавајући прикупљање на оно што је строго неопходно за вашу наведену сврху.
Техничке мере су од великог значаја. Технологије попут генерисања проширеног претраживањем (RAG) могу помоћи у смањењу репродукције нетачних или нежељених личних података у резултатима вештачке интелигенције.
Потребни су вам јасни описи сврхе за све активности обраде података помоћу вештачке интелигенције. Општа уредба о заштити података (GDPR) забрањује коришћење личних података у сврхе које нису компатибилне са разлогом због којег сте их првобитно прикупили.
Ако ваша обрада укључује систематско праћење великих размера или податке посебне категорије, морате именовати службеника за заштиту података. Ова особа надгледа усклађеност и служи као контакт особа за холандски орган за заштиту података.
Управљање кршењем безбедности података и ризицима сајбер безбедности
Морате обавестити холандски орган за заштиту података у року од 72 сата од сазнања о кршењу безбедности личних података. То укључује неовлашћени приступ, случајни губитак или непримерено откривање путем система вештачке интелигенције.
Када кршење представља висок ризик за права и слободе појединаца, морате такође обавестити погођене појединце без непотребног одлагања. Ваше обавештење треба да објасни кршење јасним језиком и опише кораке које људи могу предузети да би се заштитили.
Сајбер напади усмерени на системе вештачке интелигенције стварају јединствене ризике. Модели вештачке интелигенције могу се манипулисати нападима тровања података за обуку или непријатељским улазима дизајнираним да произведу штетне резултате.
Закон о отпорности на сајбер индустрију, који ступа на снагу широм ЕУ, додаће безбедносне захтеве за производе вештачке интелигенције. Требало би да се припремите сада имплементацијом јаких контрола приступа и оквира управљања.
Документујте своје безбедносне мере и процедуре за реаговање на инциденте. Холандска агенција за заштиту података очекује да покажете одговарајуће техничке и организационе мере за заштиту личних података.
Морате успоставити системе који омогућавају појединцима да остваре своја права на приватност, укључујући приступ, исправку, брисање и приговор. Техничка архитектура модела вештачке интелигенције ово чини изазовним, али холандски орган за заштиту података сматра да је то обавезно без обзира на техничке потешкоће.
Категорије ризика и обавезе за коришћење вештачке интелигенције
Закон ЕУ о вештачкој интелигенцији утврђује различите нивое ризика који одређују ваше обавезе усклађености, од потпуних забрана одређених пракси до правила транспарентности за вештачку интелигенцију опште намене. Разумевање где ваш систем спада у ове категорије обликује све, од захтева за документацију до људски надзор протоколи.
Идентификовање забрањених пракси вештачке интелигенције
Неке апликације вештачке интелигенције су потпуно забрањене Законом ЕУ о вештачкој интелигенцији јер угрожавају основна права. Не можете примењивати системе који манипулишу људским понашањем путем подсвесних техника или искоришћавају рањивости на основу старости, инвалидитета или социоекономског статуса.
Друштвено бодовање од стране влада или у њихово име је забрањено. То укључује системе попут холандског SySteem Risico Indicatie (SyRI), који је укинут 2020. године због кршења права на приватност.
Биометријска идентификација у реалном времену у јавним просторима је такође забрањена, са малим изузецима за спровођење закона у одређеним околностима. Препознавање емоција на радним местима и у образовним установама суочава се са ограничењима.
Ако ваши вештачка интелигенција (AI) алгоритми покушају да закључе емоције или категоризују људе на основу биометријских података у овим контекстима, вероватно кршите пропис. Ове забране ступају на снагу одмах по ступању на снагу Закона, не остављајући грејс период за прилагођавање.
Системи вештачке интелигенције високог и ограниченог ризика
Системи вештачке интелигенције високог ризика суочавају се са најстрожим регулаторним захтевима. То укључује примене у критичној инфраструктури, одлукама о запошљавању, приступу образовању, спровођењу закона, контроли граница и спровођењу правосуђа.
Ако ваш систем утиче на кредитну способност, реаговање у ванредним ситуацијама или управљање радницима, вероватно се квалификује као систем високог ризика.
Морате одржавати детаљну техничку документацију за високоризичне вештачке интелигенције. То обухвата изворе података за обуку, архитектуру модела, резултате тестирања и предвиђене случајеве употребе.
Редовне оцењивања усаглашености постају обавезне, заједно са регистрацијом у бази података ЕУ.
Окидач система ограниченог ризика обавезе транспарентностиЧетботови и генератори садржаја морају да открију корисницима своју вештачку интелигенцију.
Ако ваш систем производи дипфејкове или синтетички садржај, морате га јасно означити. Модели вештачке интелигенције опште намене захтевају транспарентност у погледу података за обуку, потрошње енергије и усклађености са ауторским правима.
Фазна имплементација значи да се примењују различити рокови на основу нивоа ризика вашег система.
Захтеви за транспарентност и људски надзор
Људски надзор је основни принцип поуздане вештачке интелигенције према прописима. За системе високог ризика, морате осигурати да људи могу интервенисати, поништити одлуке или зауставити операције када је то потребно.
Ово је законски захтев повезан са заштитом основних права. Ваши механизми надзора морају бити ефикасни, а не симболични.
Дизајнирајте интерфејсе који омогућавају оператерима да разумеју резултате вештачке интелигенције и да смислено интервенишу. Документујте ко је одговоран за коначне одлуке и успоставити јасне путеве ескалације када систем производи сумњиве резултате.
Транспарентност се протеже даље од ознака за откривање информација. Морате дати јасне информације о могућностима, ограничењима и нивоима тачности вашег система вештачке интелигенције.
За системе који директно утичу на појединце, објашњења аутоматизованих одлука постају неопходна. Ово је усклађено са постојећим правилима заштите података, а истовремено додаје обавезе специфичне за вештачку интелигенцију у вези са тумачењем и одговорношћу.
Интелектуална својина, ауторска права и права на податке
Алати вештачке интелигенције стварају сложена питања власништва према холандском и законодавству ЕУ, посебно у вези са тим ко је власник садржаја генерисаног вештачком интелигенцијом и да ли ваше предузеће може легално да користи материјале заштићене ауторским правима за обучавање модела.
Холандски закон о ауторским правима захтева људско стваралаштво ради заштите, док права на базе података и правила о патентима додају додатне слојеве које треба размотрити.
Заштита ауторских права дела генерисаних вештачком интелигенцијом
Холандски закон о ауторским правима (Auteurswet) дозвољава само заштита ауторских права дела створених људским интелектуалним напором.
Садржај генерисан искључиво системима вештачке интелигенције без значајног људског доприноса не може добити заштиту ауторских права у Холандији. Ово је у складу са законом ЕУ о ауторским правима и недавним смерницама власти попут Канцеларије за ауторска права САД.
Ваше предузеће може да полаже право на ауторска права ако правите значајне креативне изборе када користите алате вештачке интелигенције. Примери укључују одабир одређених подстицаја, курирање резултата или комбиновање елемената генерисаних вештачком интелигенцијом са вашим оригиналним радом.
Холандски грађански законик подржава овај приступ када људска креативност остаје доминантан фактор. Документујте свој креативни процес када радите са алатима вештачке интелигенције.
Водите евиденцију о захтевима, изменама и одлукама које доносите. Ови докази јачају ваш став ако власнички спорови Појављују се.
Без доказа о људском уносу, ваш садржај генерисан вештачком интелигенцијом улази у јавни домен где га свако може слободно користити.
Патентно право и права на базе података
Европски завод за патенте (ЕПО) не признаје системе вештачке интелигенције као проналазаче према патентном праву. У вашим патентним пријавама морају бити наведени људски проналазачи који су дали значајан допринос проналасцима уз помоћ вештачке интелигенције.
Холандски закон о патентима строго прати овај захтев. Права на базе података према холандском закону штите значајна улагања у добијање, верификацију или представљање колекција података.
Ваше предузеће може захтевати суи генерис права на базу података за скупове података које састављате, чак и када користите алате вештачке интелигенције за обраду. Заштита траје 15 година од завршетка и захтева доказивање значајног улагања у креирање или одржавање базе података.
Ова имовинска права постоје одвојено од ауторских права. Можете заштитити своје скупове података за обуку путем права на базу података, док сами резултати вештачке интелигенције могу бити лишени ауторске заштите.
Разматрања о текстуалном и анализи података
Закон ЕУ о ауторским правима дозвољава рударење текста и података (TDM) у одређене сврхе у складу са члановима 3 и 4 Директиве о јединственом дигиталном тржишту.
Члан 3 дозвољава ТДМ за научна истраживања од стране истраживачких организација и институција културне баштине. Члан 4 пружа шира ТДМ права за било коју сврху, али носиоци ауторских права могу да се одрекну задржавајући своја права.
Проверите да ли ваши добављачи алата за вештачку интелигенцију поштују механизме за искључивање. Многи генеративни системи вештачке интелигенције прикупљају јавно доступан садржај без провере услова лиценцирања.
Ово ствара правне ризике за ваше пословање ако подаци за обуку укључују дела заштићена ауторским правима где су носиоци права приговорили коришћењу TDM-а. Холандска имплементација ових TDM изузетака вам даје ограничену слободу да анализирате материјале заштићене ауторским правима.
Комерцијална употреба модела вештачке интелигенције обучених на садржају заштићеном ауторским правима остаје правно неизвесна. Размотрите коришћење лиценцираних скупова података или садржаја експлицитно објављеног за обуку вештачке интелигенције како бисте смањили ризике од кршења ауторских права.
Вештачка интелигенција у осетљивим пословним контекстима
Холандски регулатори очекују да финансијске институције уравнотеже иновације са заштитом основних права. Запошљавање и пријаве у јавном сектору суочавају се са појачаним надзором након алгоритамских кварова у владиним системима.
Ови осетљиви контексти захтевају посебне заштитне мере које превазилазе опште мере усклађености са вештачком интелигенцијом.
Спречавање прања новца и откривање превара
Финансијске институције у Холандији могу користити вештачку интелигенцију и анализу података за за борбу против прања новца (AML провере и откривање преваре.
Значајна пресуда Апелационог трибунала за трговину и индустрију из 2022. године потврдила је да је онлајн банка Bunq имала право да проверава клијенте користећи вештачку интелигенцију као део својих процедура „Упознај свог клијента“.
Овом одлуком је решен спор који датира из 2018. године, када је ДНБ (De Nederlandsche Bank) у почетку довела у питање да ли Bunq-ов приступ заснован на вештачкој интелигенцији испуњава регулаторне захтеве за усклађеност са прописима о спречавању прања новца.
Судска пресуда је утврдила да су нове технологије попут анализе података и вештачке интелигенције прихватљиви алати за испуњавање функција чувара капије у поступцима спречавања прања новца.
Ваша имплементација и даље мора да испуњава основне регулаторне стандарде за спречавање прања новца. Пресуда трибунала не елиминише захтеве за надзор, али потврђује да методе засноване на технологији могу да их задовоље када су правилно дизајниране.
Осигуравајуће компаније које је DNB интервјуисао 2021. године изјавиле су да одржавају људски надзор у својим системима за откривање превара. Ниједан осигуравач није користио потпуно аутоматизоване одлуке вештачке интелигенције без људске интервенције.
Овај приступ одражава лекције из скандала са дечјим накнадама у Холандији, где су аутоматизовани системи погрешно утврдили превару. Осигуравачи су доследно наводили да људи прегледају све захтеве које алгоритми означе као потенцијално преварне.
Пријаве за запошљавање и људске ресурсе
Системи вештачке интелигенције који се користе у одлукама о запошљавању носе значајан правни ризик према холандском закону. Владин приступ вештачкој интелигенцији усмерен на човека наглашава да поштовање јавних вредности и људских права мора да води дизајн и примену вештачке интелигенције.
Овај принцип директно утиче на то како можете користити вештачку интелигенцију у запошљавању, процени учинка и управљању запошљавањем.
Ваше пријаве за људске ресурсе морају избегавати дискриминацију и осигурати правну једнакост. Холандска влада посебно истиче аутономију и приватност као јавне вредности на које системи вештачке интелигенције могу утицати.
Ове забринутости су посебно акутне у контекстима запошљавања где алгоритамске одлуке утичу на егзистенцију људи. Требало би да имплементирате процесе људске провере за препоруке за запошљавање које генерише вештачка интелигенција.
Овај захтев је у складу са ширим холандским нагласком на људски надзор у осетљивим аутоматизованим одлукама. Документујте свој процес доношења одлука и одржавајте транспарентност о томе како вештачка интелигенција утиче на резултате запошљавања.
Приручник за етички одговорне иновације, који је развило Министарство унутрашњих послова и односа са Краљевством, пружа практичне смернице. Његових седам основних принципа укључују обезбеђивање квалитета података, одржавање транспарентности и одговорности и праћење система за потребна прилагођавања.
Вештачка интелигенција у образовању и јавном сектору
Апликације вештачке интелигенције у јавном сектору у Холандији суочавају се са строгом контролом након скандала са накнадама за бригу о деци. У том случају, хиљаде родитеља су лажно оптужене за превару од стране холандских пореских власти због дискриминаторних алгоритама за самоучење који се користе за регулисање расподеле накнада за бригу о деци.
Овај скандал је фундаментално променио холандску политику вештачке интелигенције. Влада сада захтева приступ усмерен на човека који јача, а не слаби јавне вредности и људска права.
Ако пружате услуге вештачке интелигенције организацијама јавног сектора, ваши системи морају да испуњавају ове повишене стандарде. Министарство финансија је у јулу 2023. године креирало оквир за истраживање алгоритама како би мапирало алгоритамску контролу унутар владиних организација.
Овај оквир обухвата четири теме: управљање и одговорност, приватност, квалитет података и модела и безбедност информација. Холандски регистар алгоритама сада укључује преко 700 алгоритама из различитих владиних тела, укључујући општину... Amsterdam и Холандска банка социјалног осигурања.
Вештачка интелигенција у јавном сектору мора бити транспарентна и одговорна. Алатке за етички одговорне иновације захтевају од вас да укључите грађане и заинтересоване стране, поштујете релевантне законе и пратите системе уз потребна прилагођавања.
Образовне институције и владине агенције очекују од добављача да покажу усклађеност са овим принципима пре набавке.
Финансијске институције и регулаторна очекивања
DNB и Холандска агенција за финансијска тржишта (AFM) објавили су заједничке смернице у априлу 2024. године о утицају вештачке интелигенције у финансијском сектору. Ови регулатори признају да су тренутне законске одредбе које посебно налажу одговорну употребу вештачке интелигенције ограничене, али очекују да ће се овај регулаторни оквир проширити како утицај вештачке интелигенције расте.
Ваша финансијска институција мора да се позабави шест кључних аспеката приликом примене вештачке интелигенције: стабилност, одговорност, правичност, етику, вештине и транспарентност. Смернице ДНБ-а из 2019. године утврђују ове аспекте као прелиминарне ставове о одговорној употреби вештачке интелигенције у финансијским услугама.
Финансијске институције користе вештачку интелигенцију за четботове, верификацију идентитета, анализу података о трансакцијама, откривање превара, анализу правних докумената и трговачке операције.
Регулатори прилагођавају своје методе надзора како би проценили праксе управљања ризицима, оперативне модалитете и исходе система вештачке интелигенције. DNB наглашава да би то могло захтевати јачање сопственог знања о вештачкој интелигенцији и процену начина на који институције управљају алгоритамским доношењем одлука.
Говор ДНБ-а из октобра 2024. године „2024: Одисеја вештачке интелигенције“ потврдио је посвећеност регулатора стварању регулаторне сигурности око надзора вештачке интелигенције у складу са Европским законом о вештачкој интелигенцији.
У говору су посебно истакнута основна права, укључујући приватност и недискриминацију, као кључна за надзор вештачке интелигенције у финансијама. Стратегија AFM-а за период 2023-2026. идентификује дигитализацију као кључни тренд.
Регулатор промовише оквире за одговорно доношење одлука за апликације вештачке интелигенције и очекује транспарентност у коришћењу података о купцима и алгоритамском доношењу одлука током прихватања од стране купаца, одређивања цена финансијских производа, окружења за избор и активности онлајн циљања.
Платформа за сарадњу у области дигиталне регулације (SDT), коју су у октобру 2021. године покренули више регулатора, укључујући Ауторитеит Консумент ен Маркт (ACM), AFM и холандски орган за заштиту података, координира спровођење закона у дигиталном сектору.
Ова платформа је основала посебне коморе за надгледање примена вештачке интелигенције у различитим индустријама.
Оперативне стратегије за усклађеност и управљање
Ефикасно управљање вештачком интелигенцијом захтева конкретне системе надзора, јасне праксе документовања и континуирану едукацију запослених како би се испунили захтеви поштовање прописа стандарди према холандском закону.
Изградња оквира за управљање вештачком интелигенцијом
твој Оквир управљања АИ требало би да успостави јасне улоге и одговорности за примену и надзор вештачке интелигенције.
Почните тако што ћете створити одбор за управљање вештачком интелигенцијом који укључује правне, техничке и пословне заинтересоване стране. Овај одбор надгледа вашу стратегију за вештачку интелигенцију и осигурава усклађеност са захтевима холандског Управног одбора за дигиталну инфраструктуру.
Документујте процес процене ризика за сваки систем вештачке интелигенције. Класификујте системе према нивоу ризика и примените одговарајуће контроле.
Апликације високог ризика захтевају строжији надзор него алати ниског ризика. Креирајте јасне политике за дељење података и коришћење дигиталне инфраструктуре.
Ваш оквир треба да прецизира ко може приступити системима вештачке интелигенције, које податке могу користити и како се одлуке преиспитују. Поставите процесе одобравања за нове алате вештачке интелигенције пре примене.
Укључите техничке мере заштите као што су контрола приступа, шифровање података и редовне безбедносне процене. Ваш оквир мора да се бави начином на који ћете поступати са кваровима вештачке интелигенције или неочекиваним резултатима.
Писменост и обука запослених у области вештачке интелигенције
Обука за вештачку интелигенцију помаже вашем особљу да разуме и могућности и ограничења вештачке интелигенције. Запослени треба да знају када резултати вештачке интелигенције захтевају људски преглед и када треба да ескалирају забринутости.
Обезбедите обуку специфичну за улогу. Правним тимовима је потребно другачије знање од оперативног особља.
Фокусирајте се на практичне сценарије са којима ће се запослени сусрести у свом свакодневном раду. Обрадићете основе начина на који системи вештачке интелигенције доносе одлуке, уобичајене предрасуде и проблеме са квалитетом података.
Обучите особље о политикама ваше организације у вези са вештачком интелигенцијом, укључујући захтеве за руковање подацима и забрањене употребе. Закажите редовне курсеве освежавања знања како се ваша стратегија за вештачку интелигенцију буде развијала.
Нови алати и регулаторни захтеви значе да обука не може бити једнократни догађај. Пратите стопе завршетка и процените разумевање кроз практичне вежбе.
Праксе документације, праћења и ревизије
Водите детаљне евиденције о вашим вештачкој интелигенцији (AI) системима, укључујући њихову намену, изворе података и логику доношења одлука. Документујте све промене модела или података за обуку.
Ови записи доказују усклађеност са прописима током инспекција. Континуирано пратите перформансе вештачке интелигенције.
Пратите стопе тачности, обрасце грешака и повратне информације корисника. Подесите упозорења за необично понашање или пад учинка.
Кључни захтеви за документацију:
- Системски инвентари са класификацијама ризика
- Евиденција обраде података и документација о сагласности
- Процене утицаја за апликације високог ризика
- Дневници инцидената и корективне мере
- Ревизорски трагови одлука вештачке интелигенције
Редовно спроводите интерне ревизије ваших вештачке интелигенције. Проверите да ли они и даље испуњавају своју намену и да ли су у складу са важећим прописима.
Спољне ревизије пружају независну верификацију вашег напори за усаглашеностЗакажите ово најмање годишње или када имплементирате значајне промене у својој вештачкој интелигенцији.
Етичка и основна права
Системи вештачке интелигенције у вашем послу морају поштовати основна права заштићена холандским законом и Европском конвенцијом о људским правима, посебно у погледу недискриминације и праведног третмана.
Разумевање како алгоритамска пристрасност утиче на исходе и одржавање људског надзора у аутоматизованим процесима су суштински захтеви за усклађеност.
Обезбеђивање основних права и недискриминација
Ваши алати за вештачку интелигенцију морају бити у складу са заштитом основних права уграђеном у холандско уставно право и Европску конвенцију о људским правима.
Ова права укључују приватност, једнакост и слободу од дискриминације на основу заштићених карактеристика као што су раса, пол, старост или инвалидитет.
Холандски судови су све више испитали системе вештачке интелигенције који утичу права појединцаПотребно је да процените да ли ваше вештачке интелигенције (AI) примене утичу на одлуке о запошљавању, становању, кредитима или јавним услугама.
Ове области добијају појачану законску заштиту. Закон о вештачкој интелигенцији захтева да документујете како ваши системи штите основна права.
Ово укључује спровођење процена утицаја пре примене високоризичних апликација вештачке интелигенције. Такође би требало да успоставите јасне процедуре за појединце да оспоре одлуке донете под утицајем вештачке интелигенције које утичу на њихова права.
Модели вештачке интелигенције опште намене представљају јединствене изазове јер се њихове широке могућности могу применити на начине који непредвидиво утичу на основна права.
Морате проценити како ови модели функционишу у вашем конкретном случају употребе, уместо да се ослањате искључиво на опште процене добављача.
Алгоритамска пристрасност и људско доношење одлука
Алгоритамска пристрасност се јавља када системи вештачке интелигенције систематски производе неправедне резултате за одређене групе. Подаци за обуку, дизајн модела и контекст примене могу увести пристрасност која крши принципе недискриминације према холандском закону.
Морате редовно тестирати своје системе вештачке интелигенције на пристрасност у односу на заштићене карактеристике. То значи испитивање да ли се резултати значајно разликују између демографских група без легитимног оправдања.
Уобичајени извори пристрасности укључују историјске податке који одражавају прошлу дискриминацију и нерепрезентативне скупове података за обуку. Погрешан избор карактеристика такође може довести до пристрасности.
Људски надзор је и даље законски обавезан у многим контекстима. Не можете у потпуности делегирати овлашћење за доношење коначних одлука системима вештачке интелигенције када су у питању основна права.
Ваше особље мора имати обуку, информације и овлашћења да смислено прегледа и поништи препоруке вештачке интелигенције. Холандски судови очекују да покажете да људски рецензенти активно интерагују са резултатима вештачке интелигенције, уместо да само одобравају аутоматизоване предлоге.
Документујте своје процесе прегледа и осигурајте да доносиоци одлука разумеју ограничења и потенцијалне пристрасности система вештачке интелигенције.
Одговорно руковање аутоматизованим доношењем одлука
Аутоматизовано доношење одлука (ADM) односи се на одлуке које доносе системи вештачке интелигенције уз ограничено или никакво људско учешће. Према GDPR-у, појединци имају права у вези са ADM-ом која производе правне последице или слично значајне утицаје на њих.
Морате обавестити људе када ADM утиче на њих и пружити им смислене информације о логици која је укључена. Ово не захтева откривање пословних тајни, али појединцима је потребно довољно детаља да би разумели и оспорили одлуке.
Такође би требало да понудите јасан поступак за захтевање људске провере. Одређене одлуке не могу се искључиво ослањати на ADM према холандском закону.
То укључује одлуке са значајним последицама по запослење, кредитну способност или приступ основним услугама. Потребно вам је људско учешће које иде даље од пуке примене аутоматизованог резултата.
Водите евиденцију о својим ADM процесима, укључујући и како сте утврдили одговарајући ниво људског надзора. Холандски регулатори и судови ће испитати да ли ваше структуре управљања адекватно штите права појединаца.
Најчешћа питања (FAQ)
Холандска предузећа која користе алате вештачке интелигенције морају да се придржавају захтева у вези са транспарентношћу доношења одлука и заштитом података у складу са Општом уредбом о заштити података (GDPR). Стандарди недискриминације, разматрања интелектуалне својине, i оквири одговорности утврђени су и Законом о вештачкој интелигенцији и важећим холандским законом.
Које су правне импликације примене вештачке интелигенције за процесе доношења одлука у холандским предузећима?
Закон о вештачкој интелигенцији класификује системе вештачке интелигенције који се користе у доношењу одлука на основу њиховог нивоа ризика. Системи високог ризика који се користе у запошљавању, управљању људским ресурсима или приступу основним услугама суочавају се са строгим захтевима од августа 2026. године.
Морате имплементирати људски надзор за системе за доношење одлука које користи вештачка интелигенција са високим ризиком. То значи да особа мора бити у могућности да прегледа и поништи одлуке које генерише вештачка интелигенција.
Ваше предузеће не сме да користи системе вештачке интелигенције који доносе одлуке путем друштвеног бодовања. То укључује награђивање или кажњавање људи на основу понашања или личних карактеристика.
Када ваш систем вештачке интелигенције утиче на одлуке о запошљавању, унапређењима или отпуштањима, морате обавестити запослене и кандидате за посао. Холандски закон о раду захтева транспарентност у вези са аутоматизованим доношењем одлука процеси.
Како би компаније у Холандији требало да поступају са личним подацима када користе алате вештачке интелигенције, у складу са GDPR-ом?
Морате идентификовати правни основ за обраду личних података путем система вештачке интелигенције пре примене. Уобичајени правни основи укључују сагласност, уговорну нужност или легитимне интересе.
Члан 22 Опште уредбе о заштити података (GDPR) даје појединцима право да не буду предмет искључиво аутоматизованог доношења одлука са правним или значајним последицама. Морате дати смислене информације о укљученој логици и значају обраде.
Ваш систем вештачке интелигенције мора да примењује принципе минимизирања података. Прикупљајте само личне податке неопходне за одређену сврху.
Потребно је да спроведете Процену утицаја на заштиту података (DPIA) када ваш систем вештачке интелигенције обрађује личне податке на начине који представљају висок ризик по права појединаца. Системи вештачке интелигенције високог ризика према Закону о вештачкој интелигенцији обично захтевају DPIA.
Правила о ограничењу складиштења примењују се на податке о обуци. Не можете чувати личне податке дуже него што је потребно за потребе система вештачке интелигенције.
Који кораци су потребни да би се осигурало да системи вештачке интелигенције нису дискриминаторни и да су у складу са холандским законима о равноправности?
Морате тестирати своје системе вештачке интелигенције на пристрасност пре примене. То укључује проверу дискриминације на основу заштићених карактеристика као што су раса, пол, старост, инвалидитет и сексуална оријентација.
Закон о вештачкој интелигенцији забрањује системе који класификују појединце у осетљиве категорије користећи биометријске податке. Не можете користити вештачку интелигенцију за категоризацију људи на основу порекла, здравственог стања или сексуалне оријентације путем препознавања лица или сличних технологија.
Ваши подаци за обуку морају бити репрезентативни и разноврсни. Пристрасни или нерепрезентативни скупови података могу довести до дискриминаторних исхода који крше холандске законе о равноправности.
Потребна вам је документација која показује како сте проценили и ублажили ризике од дискриминације. Ово постаје део ваше техничке документације за системе вештачке интелигенције високог ризика.
Редовно праћење након распоређивања помаже у идентификацији дискриминаторних образаца који се појављују током времена. Морате благовремено решити сва питања дискриминације.
Можете ли да наведете одговорности холандских предузећа у погледу транспарентности и објашњивости рада вештачке интелигенције?
Морате обавестити кориснике када комуницирају са системима вештачке интелигенције као што су четботови. Људи имају право да знају да комуницирају са вештачком интелигенцијом, а не са човеком.
Системи вештачке интелигенције високог ризика захтевају свеобухватну техничку документацију. То укључује информације о могућностима система, ограничењима и намени.
Када користите вештачку интелигенцију за класификацију биометријских података, морате објаснити појединцима како систем функционише. Ова обавеза транспарентности важи чак и за системе који нису високог ризика.
Садржај који креира или уређује вештачка интелигенција мора да носи јасне ознаке. Потребно је да означите текст, слике и други садржај генерисан вештачком интелигенцијом како бисте омогућили аутоматско откривање.
Вашим запосленима је потребна довољна писменост у области вештачке интелигенције како би разумели и надгледали системе вештачке интелигенције са којима раде. Програми обуке помажу у испуњавању овог захтева за транспарентност.
Морате да пружите имплементаторима ваших вештачке интелигенције упутства за правилну употребу. Ова упутства треба да обухвате намену, могућности и ограничења система.
Која су кључна разматрања за права интелектуалне својине приликом укључивања садржаја или података генерисаних вештачком интелигенцијом у пословно окружење?
Холандски закон о ауторским правима тренутно не признаје системе вештачке интелигенције као ауторе. Само људски ствараоци могу имати ауторска права према важећем законодавству.
Потребно је да разјасните права власништва за садржај генерисан вештачком интелигенцијом у уговорима о раду и споразумима са извођачима радова. Стандардне клаузуле о интелектуалној својини можда неће адекватно обухватити дела генерисана вештачком интелигенцијом.
Обука система вештачке интелигенције на материјалу заштићеном ауторским правима покреће правна питања. Требало би да процените да ли се ваша употреба квалификује као законски изузетак према холандском закону о ауторским правима.
Права на базе података штите колекције података у Холандији. Коришћење база података за обучавање система вештачке интелигенције може захтевати лиценце од носиоца права на базу података.
Изуми генерисани вештачком интелигенцијом представљају изазове за патенте. Холандски закон о патентима захтева људске проналазаче, иако се ова област наставља развијати.
Морате поштовати права интелектуалне својине трећих страна приликом примене алата вештачке интелигенције. То укључује осигуравање да ваш систем вештачке интелигенције не репродукује заштићена дела без овлашћења.
Како холандски прописи решавају питања одговорности која произилазе из употребе вештачке интелигенције у пословним операцијама?
Ви остајете одговорни за штету коју проузрокују системи вештачке интелигенције које примените. Холандски закон о деликтима сматра предузећа одговорним за штету насталу услед њиховог пословања, укључујући процесе вођене вештачком интелигенцијом.
Закон о вештачкој интелигенцији уводи казне за непоштовање прописа. Пуштање забрањених система вештачке интелигенције на тржиште може резултирати казнама и правним поступцима од стране погођених страна.
Правила о одговорности за производ примењују се на системе вештачке интелигенције уграђене у физичке производе. Ако ваш производ омогућен вештачком интелигенцијом проузрокује штету, важећи закон о одговорности за производ одређује вашу одговорност.
Морате одржавати осигурање које одговара ризицима које ваши системи вештачке интелигенције представљају. Ово је посебно важно за примене вештачке интелигенције високог ризика.
Уговорни аранжмани са добављачима вештачке интелигенције треба јасно да расподеле одговорност. Споразуми треба да прецизирају ко сноси одговорност када системи вештачке интелигенције не раде исправно или узрокују штету.
Захтеви за документацију према Закону о вештачкој интелигенцији помажу у успостављању одговорности. Правилна евиденција показује ваше напоре у погледу усклађености и дужну пажњу у споровима око одговорности.
