Ко је одговоран када вештачка интелигенција направи грешку у Холандији?

Када систем вештачке интелигенције направи грешку у Холандији, одговорност се одређује према уобичајеним правилима холандског грађанског права: обично је то страна која је испоручила или користила систем по уговору или организација која га је распоредила без довољно пажње. Главни изузетак је произвођач неисправног производа, који може бити одговоран без кривице. У наставку ћете пронаћи правне основе које се примењују, како уговори преносе ризик, шта додају Закон о вештачкој интелигенцији и нова правила о одговорности за производе и како се носити са проблемом доказивања.

Не постоји посебан закон о одговорности за вештачку интелигенцију. Одговорност произилази из уговора између странака, одговорност за неизвршење обавезе које се може приписати према члану 6:74 Холандског грађанског законика (BW), деликт према члану 6:162 BW, одговорност за помоћна средства и за неодговарајуће предмете коришћене у извршењу и правила о одговорности за производ у члановима 6:185 до 6:193 BW. Закон ЕУ о вештачкој интелигенцији намеће јавноправне обавезе и казне добављачима и имплементаторима, али сам по себи не даје жртви право на одштету.

То је практична полазна тачка. Она објашњава зашто се већина спорова о одговорности вештачке интелигенције у Холандији заснива на уговору и дужности пажње, а не на нечему специфичном за технологију.

Које холандске правне основе се примењују на штету од вештачке интелигенције?

Општа правила Грађанског законика, написана за друге ситуације, који судови сада примењују на вештачку интелигенцију. Који судови одговарају вашем случају одређује кога можете сматрати одговорним, шта морате доказати и колико можете добити.

Не постоји холандски закон о одговорности за вештачку интелигенцију, а нема ни европског. То су путеви који постоје.

• Приписиво неизвршење уговора (члан 6:74 BW). Уобичајени поступак где стране имају договор. Добављач је обећао систем са одређеним својствима, а није их испоручио, или га је имплементатор користио ван договорених ограничења.
• Одговорност за помоћна лица (члан 6:76 BW). Страна која користи другу особу за извршење обавезе одговорна је за ту особу као за себе. Ово је важно када добављач вештачке интелигенције подизвођачки уговара развој или хостинг модела.
• Одговорност за неодговарајуће предмете коришћене у извршењу (члан 6:77 BW). Ако је предмет који се користи за извршење обавезе неподобан, настали неуспех се приписује дужнику, осим ако би то било неразумно у датим околностима. Према овој одредби, болница или рачуноводствена фирма могу бити одговорне за неисправан алат који су користиле. Изузетак је ужи него што тужени имају тенденцију да претпоставе.
• Деликтно право (члан 6:162 BW). Рута за свакога ко није обухваћен уговором, као што је пацијент, одбијени кандидат за посао или корисник саобраћаја. Подносилац захтева мора да докаже незаконито дело, приписивање штете, узрочност и релативност (прекршено правило мора да штити од ове врсте штете).
• Одговорност за запослене и неподређене извођаче радова (чланови 6:170 и 6:171 BW). Организација одговара за грешке људи који за њу раде. То укључује и запосленог који се некритички ослањао на резултате машине.
• Одговорност за производ (чланови 6:185 до 6:193 Закона о индустријским производима). Строга одговорност произвођача за неисправан производ, без доказа о кривици. Да ли се чисти софтвер рачуна као производ према важећем тексту је спорно. Ревидирана европска директива решава то питање.

Шта додаје GDPR?

Систем вештачке интелигенције који обрађује личне податке мора бити у складу са GDPR-ом ( AVG ). То даје особи на коју се подаци односе додатно право.

Члан 22. Опште уредбе о заштити података (GDPR) ограничава одлуке засноване искључиво на аутоматизованој обради које имају правне последице или сличне значајне ефекте на особу. Члан 82. GDPR-а даје посебно право на надокнаду материјалне и нематеријалне штете проузроковане повредом. У пракси, подносилац захтева са углом заштите података често ће га поднети уз тужбу за деликт. Контролор тада мора да докаже да је поступио у складу са захтевом, што јача позицију подносиоца захтева.

Зашто би требало да почнете са уговором?

Јер између предузећа, одговор на питање ко је одговоран за грешку вештачке интелигенције обично је написан у споразуму много пре него што било шта крене по злу. Холандски закон даје странама широку слободу да расподеле тај ризик.

Добављачи вештачке интелигенције користе ту слободу. Њихови стандардни услови обично описују резултат као индикативан и одричу се подобности за одређену сврху. Они ограничавају одговорност на накнаде плаћене током ограниченог периода и у потпуности искључују последичне губитке.

Да ли клаузуле о ограничењу важе?

Чешће него што клијенти очекују, али не увек. Суд може да поништи клаузулу када би ослањање на њу било неприхватљиво по стандардима разумности и правичности.

Тај тест се налази у члану 6:248 BW. Холандски судови га најлакше примењују када је штета проузрокована намером или намерном непажњом добављача или његовог менаџмента. У општим условима и одредбама, клаузула такође може бити поништива као неразумно теретна према члану 6:233 BW. Потрошачи имају додатну заштиту од законских листа у члановима 6:236 и 6:237 BW.

Које уговорне клаузуле заиста одлучују о споровима око вештачке интелигенције?

Практичне клаузуле, више од ограничења одговорности. Оне су одређивале ко је шта обећао и ко је морао да провери резултат.

Шта је добављач гарантовао у вези са тачношћу, подацима за обуку и тестирањем пристрасности? Ко мора да валидира резултат пре него што неко предузме мере на основу њих? Која страна поседује логове и колико дуго се чувају? Да ли добављач мора да пријави пад перформанси модела? Да ли се добављач обавезује да ће систем одржавати у складу са Законом о вештачкој интелигенцији и ко плаћа ако то не учини? Преговарачки уговор о вештачкој интелигенцији који одговара на та питања вреди више од било које клаузуле о износу штете.

Када је имплементатор професионална фирма која делује за клијенте, постоји други слој. Фирма која користи алат вештачке интелигенције у својим услугама остаје одговорна свом клијенту за резултат. Према члану 6:77 BW, неподобност алата се у принципу приписује фирми, а не клијенту. Да ли фирма може да пренесе тај ризик на свог добављача зависи искључиво од уговора о снабдевању. Зато ова два сета услова треба читати упоредо.

Коју дужност бриге има организација која примењује вештачку интелигенцију?

Мора да поступа као што би то учинио разумно пажљив дистрибутер. Ван уговора, одговорност се заснива на том питању.

Холандски судови процењују ово на начин на који процењују било коју дужност пажње. Колико је вероватна била штета? Колико би озбиљна била? Колико су биле оптерећујуће мере предострожности? Шта је најсавременија технологија дозвољавала? Примењено на вештачку интелигенцију, у пракси се појавио препознатљив стандард.

• Погодност за стварну употребу. Систем валидиран за једну популацију, скуп података или земљу није аутоматски погодан за другу. Његово коришћење ван услова у којима је тестиран је класично кршење дужности бриге.
• Значајан људски надзор. Особа која прегледа резултате треба да има информације, време и овлашћење да одступи од њих. Надзор који постоји само на папиру, где рецензент одобрава стотине резултата на сат, не нуди никакву заштиту.
• Праћење након пуштања у рад. Перформансе модела се мењају како се свет мења. Организација која никада не мери тачност након лансирања не може показати да је била пажљива.
• Транспарентност према погођеној особи. Обавештавање људи да је вештачка интелигенција коришћена и како, обавеза је Закона о вештачкој интелигенцији у дефинисаним случајевима. То је такође фактор када суд одлучује да ли је понашање било незаконито.
• Документација. Записи, записи верзија, резултати тестирања и разлози за прихватање или поништавање излаза. Без њих, организација не може да оспори тврдњу, шта год се заправо догодило.

И обрнуто је тачно. Организација која игнорише исправан излаз вештачке интелигенције или игнорише упозорење које је систем дао, подлеже истој дужности бриге. Питање никада није да ли је вештачка интелигенција коришћена. Питање је да ли је доношење одлука у вези са њом било исправно.

Како се одговорност за производ примењује на вештачку интелигенцију, сада и од децембра 2026. године?

Данас је произвођач неисправног производа објективно одговоран према члановима 6:185 до 6:193 BW, али није јасно да ли је самостални софтвер производ. Ревидирана директива ЕУ изричито прописује да је софтвер, укључујући вештачку интелигенцију, производ за производе пласиране на тржиште након 9. децембра 2026. године.

Која су тренутна правила?

Произвођач је одговоран за смрт, телесне повреде и штету на имовини у приватној употреби, без потребе да оштећена страна доказује кривицу. Производ је неисправан ако не пружа безбедност коју особа може очекивати.

То очекивање узима у обзир презентацију производа, његову разумно очекивану употребу и тренутак када је стављен у промет. Оштећена страна мора доказати недостатак, штету и узрочну везу. Према члану 6:191 BW, потраживање застарева три године након што је оштећена страна сазнала или је требало да сазна за штету, недостатак и произвођача. У сваком случају застарева десет година након што је производ стављен у промет.

За вештачку интелигенцију, слабост овог режима је структурне природе. Написан је за опипљива добра. Није јасно да ли се самостални софтвер рачуна као производ. А систем који мења своје понашање након што је пуштен у оптицај незгодно се уклапа са дефектом који се процењује у тренутку оптицаја.

Шта се мења у складу са новом Директивом о одговорности за производ?

Директива (ЕУ) 2024/2853 од 23. октобра 2024. године замењује директиву из 1985. године и одговара на већину ових примедби. Софтвер, укључујући системе вештачке интелигенције, је изричито производ.

Више страна може бити одговорно. Поред произвођача, директива обухвата увознике, овлашћене представнике, пружаоце услуга испуњења поруџбина и, у дефинисаним случајевима, страну која значајно модификује производ који је већ на тржишту. Приликом процене квара, суд може узети у обзир ефекте учења након примене и могућност пружања ажурирања. Минимални праг за штету на имовини нестаје. Надокнадива штета изричито укључује уништење или оштећење података и медицински признату психолошку штету.

Кључно за вештачку интелигенцију, суд може наложити туженом да открије доказе које поседује. Обориве претпоставке о мањкавости и узрочности примењују се тамо где техничка или научна сложеност претерано отежава доказивање за подносиоца захтева.

Када нова правила ступају на снагу у Холандији?

Државе чланице морају транспоновати директиву до 9. децембра 2026. године, а она се примењује на производе пласиране на тржиште након тог датума. Холандски имплементациони закон још није усвојен.

Предлог закона ( Implementatiewet richtlijn herziening productaansprakelijkheid , bill 36906) мења Књиге 6 и 7 Грађанског законика. Поднет је Представничком дому ( Tweede Kamer ) 2. марта 2026. године. Датум ступања на снагу биће одређен краљевским декретом. До тада, важећи чланови 6:185 до 6:193 BW настављају да се примењују. Производи који су већ на тржишту када нова правила ступе на снагу остају под старим режимом. Стога ће неколико година ова два система функционисати упоредо, а датум када је систем стављен на тржиште одлучиће који се примењује.

Шта Закон о вештачкој интелигенцији ради, а шта не ради?

Закон о вештачкој интелигенцији утврђује правила безбедности и надзора производа и спроводи се административним казнама. Не ствара право на надокнаду штете: жртва која жели одштету и даље мора да поднесе захтев у складу са Грађанским закоником.

Закон о вештачкој интелигенцији, Уредба (ЕУ) 2024/1689, класификује системе по ризику и директно забрањује мали број пракси. Он намеће обавезе добављачима високоризичних система вештачке интелигенције у погледу дизајна, документације, управљања подацима, људског надзора, тачности и праћења након што се систем нађе на тржишту. Додаје лакше обавезе транспарентности за системе који интерагују са људима или генеришу синтетички садржај, као и посебна правила за моделе вештачке интелигенције опште намене. Надзорни органи га спроводе.

Зашто је Закон о вештачкој интелигенцији и даље важан за грађанску одговорност?

Зато што пружа писани стандард на основу којег суд може да процени дужност пажње. Његово кршење указује на одговорност; поштовање истог пружа вашу одбрану.

Организација која је игнорисала обавезу документације, надзора или праћења, на први поглед је пала испод стандарда који испуњава пажљиви имплементатор. Докази о усклађености делују у супротном смеру са истом снагом. Технички досије, евиденција о управљању ризицима и логови су управо оно што је туженом потребно када стигне захтев.

Који датуми Закона о вештачкој интелигенцији сада важе?

Распоред се променио 2026. године. Многи планови усклађености су израђени на основу првобитних датума, тако да је вредно прецизно их навести.

Уредба је ступила на снагу 1. августа 2024. године. Забрањене праксе и обавеза писмености у вези са вештачком интелигенцијом примењују се од 2. фебруара 2025. године. Правила о моделима вештачке интелигенције опште намене, управљању и казнама примењују се од 2. августа 2025. године. Већи део регулативе, укључујући обавезе транспарентности, почео је да се примењује 2. августа 2026. године.

Савет је дао коначно одобрење за пакет поједностављења („дигитални омнибус“) 29. јуна 2026. године, а он је ступио на снагу у јулу 2026. године. Њиме се обавезе за самосталне системе високог ризика наведене у Анексу III одлажу до 2. децембра 2027. године. Системи високог ризика уграђени у производе који су већ обухваћени законодавством ЕУ о производима следе 2. августа 2028. године. Рок за националне регулаторне „пешчанике“ померен је на 2. август 2027. године. Системи који су већ на тржишту пре 2. августа 2026. године имају рок до 2. децембра 2026. године да испуне обавезу машински читљивог означавања за садржај генерисан вештачком интелигенцијом. Пакет је такође ублажио обавезу писмености у вези са вештачком интелигенцијом и додао нове забране за системе вештачке интелигенције који генеришу материјал о сексуалном злостављању деце или интимне слике без пристанка.

Одлагање није укидање. Забране, обавезе транспарентности и правила за моделе опште намене примењују се сада. Одложене обавезе високог ризика описују понашање које суд већ може третирати као применљиви стандард неге. Организације које паузирају своје програме до 2027. године могу открити да их грађанско право прво сустиже.

Ко ће надгледати Закон о вештачкој интелигенцији у Холандији?

То се уређује посебним холандским имплементационим актом, који још није ступио на снагу. Пошто је Закон о вештачкој интелигенцији пропис, он се директно примењује без обзира на све.

Дана 20. априла 2026. године, влада је ставила на јавну расправу нацрт Закона о имплементацији Регулативе о вештачкој интелигенцији ( Uitvoeringswet AI-verordening ). Нацрт даје централну улогу холандском Агенцији за заштиту података ( Autoriteit Persoonsgegevens ) и холандском Агенцији за дигиталну инфраструктуру ( Rijksinspectie Digitale Infrastructuur ). Постојећи секторски надзорници врше надзор у својим областима. Оно што још увек недостаје је национални оквир за спровођење закона и санкције.

Како доказујете да је систем вештачке интелигенције изазвао штету?

То је најтежи део тужбе за одговорност за вештачку интелигенцију, много више од правног основа. Морате доказати да је овај систем, а не особа која га је користила или неки други узрок, произвео штету.

Замислите модел који је непрозиран, који је поново обучен од инцидента и чији су логови чувани тридесет дана. За подносиоца захтева, то је зид доказа.

Шта се десило са Директивом о одговорности за вештачку интелигенцију?

Повучен је. Европски одговор је требало да буде претпоставка узрочности, али тај предлог никада није постигнут договор.

Предлог Комисије за Директиву о одговорности за вештачку интелигенцију, представљен у септембру 2022. године, увео би претпоставку узрочности и право да се наложи откривање доказа о системима високог ризика. Комисија га је формално повукла, а повлачење је објављено у Службеном гласнику 6. октобра 2025. године. Ништа га није заменило.

Које холандске процедуралне алате можете користити?

Захтев за увид у податке и стручно испитивање које је наложио суд. Заједно са претпоставкама у ревидираној Директиви о одговорности за производе, то су алати који остају.

Од 1. јануара 2025. године, право увида у податке које поседује друга страна налази се у члановима 194 до 195а холандског Законика о грађанском поступку (Rv). Ове одредбе су замениле стари члан 843а Rv. Праг је нижи него раније: морате учинити вероватним да имате интерес за увид у одређене податке. Такође можете затражити од суда да именује вештака или да наложи претходно вештачење ( voorlopig deskundigenbericht ).

У пракси, рани и прецизни захтев за логове, верзије модела, извештаје о валидацији и евиденцију о инцидентима више доприноси тужби него било који аргумент о терету доказивања. Са стране одбране, иста поента је у другом смеру. Организација која не може да достави те записе ће открити да суд извлачи закључке из њиховог одсуства.

Политика чувања података је стога питање одговорности, а не само ИТ питање. Тамо где се примењује Закон о вештачкој интелигенцији, добављачи и имплементатори система високог ризика морају да чувају аутоматски генерисане логове током дефинисаног минималног периода. Тамо где се то не дешава, рокови застарелости за основни захтев су бољи водич. Тридесет дана није довољно.

Како ово функционише у секторима где је најважније?

Иста правила важе свуда, али сваки сектор има свој додатни слој. Ево пет где видимо највише питања.

Здравствена заштита. Систем дијагностичке подршке не скида одговорност са лекара. Однос лечења остаје код пружаоца неге у складу са споразумом о медицинском лечењу из чланова 7:446 и накнадних Закона о вештачкој интелигенцији. Стандард је онај разумно компетентног стручњака. Уколико сам алат није погодан, члан 6:77 Закона о вештачкој интелигенцији то приписује пружаоцу неге, осим ако приписивање не би било неразумно, а судови рестриктивно примењују тај изузетак. Софтвер који се квалификује као медицински уређај има своје обавезе према Уредби о медицинским уређајима, поред Закона о вештачкој интелигенцији.

Регрутовање и људски ресурси. Систем који бира или филтрира кандидате је високо ризичан према Закону о вештачкој интелигенцији. Такође је потпуно у домету закона о једнаком третману. Индиректна дискриминација путем прокси променљиве је незаконита чак и ако је нико није намеравао. Ту тачку развијамо у нашем чланку о одговорности за алгоритамску пристрасност . Послодавац, а не добављач, је тај који се суочава са кандидатом. Члан 22 GDPR-а ограничава искључиво аутоматизовано одбијање, а раднички савет ( ondernemingsraad ) има право гласа у увођењу система који прате или процењују запослене.

Друмски саобраћај. Холандски закон већ има правило објективне одговорности које се примењује без обзира на ниво аутоматизације. Према члану 185 Закона о друмском саобраћају из 1994. године ( Wegenverkeerswet 1994 ), власник или ималац моторног возила одговоран је за штету нанесену незаштићеним учесницима у саобраћају, као што су пешаци и бициклисти, у судару на јавном путу, осим ако није било више силе. Судска пракса поставља ту одбрану веома високо. Возач такође може бити одговоран за деликт, а произвођач за производ ако је систем био неисправан. Аутоматизација помера равнотежу између тих праваца. Она не уклања први.

Финансијске услуге. Институција која користи моделе за кредитно бодовање, праћење трансакција или саветовање остаје подложна дужности пажње у Закону о финансијском надзору ( Wet op het financieel toezicht ) и надзору регулатора. Пропусти у управљању моделима третирају се као пропусти у управљању институције, а не добављача.

Садржај и комуникације. Генеративни системи стварају другачију врсту изложености: кршење права интелектуалне својине, клеветнички или обмањујући садржај и објављивање личних података. Одговорност овде прати уобичајена правила за страну која објављује. Чињеница да је машина написала текст није одбрана. Наш чланак о одговорности за садржај генерисан вештачком интелигенцијом детаљно излаже тај став.

Када грешка вештачке интелигенције проузрокује телесне повреде, на пример у здравству или на путу, захтев за ту повреду је захтев за накнаду штете због телесне повреде. Law & More Не бавимо се тужбама за телесне повреде; тај део упућујемо специјализованом адвокату за телесне повреде. Саветујемо о уговорима, дужности пажње и усклађености са Законом о вештачкој интелигенцији у вези са тим.

Како можете смањити изложеност пре него што нешто крене наопако?

Успостављањем одговарајућих докумената и аранжмана сада. Већину онога што штити организацију чине записи који се не могу веродостојно креирати након инцидента.

• Мапа где се вештачка интелигенција заправо користи. Већина организација потцењује ово, јер алати вештачке интелигенције долазе уграђени у софтвер који компанија већ лиценцира. Класификујте сваку употребу према Закону о вештачкој интелигенцији и забележите своје образложење.
• Препишите уговоре. Експлицитно се бавите гаранцијама тачности, пореклом података за обуку, тестирањем пристрасности, обавезама ажурирања, усклађеношћу са Законом о вештачкој интелигенцији, власништвом и задржавањем логова, правима ревизије и извештавањем о инцидентима. Такође, проверите како се ограничење одговорности добављача односи на вашу сопствену изложеност према клијентима.
• Учините људски надзор стварним. Дајте рецензентима информације, време и мандат да се не слажу и забележите то када се не слажу.
• Намерно се логујте. Одлучите шта се чува, колико дуго и ко ће то чувати. Ускладите то са роковима ограничења, а не са трошковима складиштења.
• Тестирајте на пристрасност и померање по распореду. Задржите резултате, чак и када су неповољни. Документовани проблем који је решен је далеко боља позиција од недокументованог који није решен.
• Проверите своје осигурање. Полисе професионалне одговорности и полисе опште одговорности нису написане имајући у виду аутономне системе. Писано питајте свог осигуравача да ли је покрићем потраживање које произилази из одлуке донете уз помоћ вештачке интелигенције и задржите одговор.

Укратко

• Не постоји посебан закон о одговорности за вештачку интелигенцију: уговор, дужност пажње (члан 6:162 Беничког уговора), чланови 6:76 и 6:77 Беничког уговора и одговорност за производ одлучују ко плаћа.
• Између предузећа, уговор распоређује највећи део ризика; клаузуле о ограничењу обично важе, али не у случајевима намере или намерне непажње.
• Директива (ЕУ) 2024/2853 изричито прописује да је софтвер производ за производе пласиране на тржиште након 9. децембра 2026. године; холандски имплементациони закон је још увек у поступку.
• Закон о вештачкој интелигенцији не даје право на надокнаду, али поставља стандард неге; обавезе високог ризика из Анекса III сада се примењују од 2. децембра 2027. године.
• Доказ је право бојно поље: логови, записи верзија и резултати тестова одлучују већину случајева.

Често постављана питања о одговорности вештачке интелигенције

Како можемо помоћи са одговорношћу за вештачку интелигенцију?

Правни став о одговорности за вештачку интелигенцију је утврђенији него што јавна дебата сугерише. Не постоји празнина у холандском праву. Уговор, дужност пажње, правила о помоћним средствима и неодговарајућим објектима и одговорност за производ већ покривају ову област. Ревидирана Директива о одговорности за производ решава преостала питања о софтверу за производе пласиране на тржиште након 9. децембра 2026. Оно што се мења није да ли можете бити одговорни, већ колико лако подносилац захтева може то доказати и колико ће вам ваше сопствене документације бити прочитано.

Law & More саветује добављаче и кориснике система вештачке интелигенције управо о тим тачкама. Наш ИТ право Тим прегледа и преговара о уговорима о вештачкој интелигенцији и софтверу, процењује где се имплементација налази у складу са Законом о вештачкој интелигенцији и шта то значи за вашу дужност бриге, помаже у успостављању управљања и евидентирања који ће бити применљиви у поступцима и заступа и против страна у споровима око штете настале аутоматизованим одлукама. Нисте сигурни где се налазите? Реците нам о својој ситуацији. Обавестићемо вас о вашим могућностима у року од једног радног дана.