Одговорност за системе вештачке интелигенције у Холандији увек пада на особу или компанију, никада на софтвер. У пракси су важна два становишта: корисник, што значи појединац или организација која примењује систем и доноси одлуке помоћу њега, и произвођач, што значи страна која је развила систем, ставила га на тржиште или га испоручила. Који од њих двоје сноси губитак зависи од тога где се квар догодио, шта је свако од њих знао и шта каже уговор између њих. Овај чланак разматра оба становишта; сам оквир кривичног права, од функционалног извршења до корпоративне одговорности према члану 51 Кривичног законика, изложен је у нашем пратећем чланку о томе да ли алгоритам може бити делимично одговоран.
Зашто систем никада није оптужени
Холандски закон признаје две врсте лица: физичка и правна лица. Систем вештачке интелигенције није ни једно ни друго. Он не може имати права, не може бити позван на суд, не може бити кажњен новчаном казном и не може му се наложити да плати одштету, јер не поседује ништа и нема правно постојање одвојено од компаније која га води. Предлози за стварање треће категорије, понекад назване електронска личност, разматрани су на европском нивоу и нису довели до никуда, из разлога који је више практичан него филозофски: возило одговорности без имовине и без могућности да промени своје понашање пребацило би ризик са страна које заправо могу да спрече штету.
Дакле, питање никада није да ли је машина одговорна. То је који људски или корпоративни актер у ланцу није испунио своју дужност, а тај ланац има предвидљив облик: страна која је направила модел, страна која га је претворила у производ, страна која га је испоручила или интегрисала, организација која га је применила и појединац који је притиснуо дугме. Одговорност за системе вештачке интелигенције је вежба лоцирања квара у том ланцу и његовог упаривања са правним основом.
Две од тих правних основа доминирају. За корисника, опште право деликтне одговорности и дужност пажње која долази са коришћењем моћног алата у туђем правцу. За произвођача, одговорност за производ, која уопште не захтева кривицу. Све остало, укључујући и кривично дело, надовезује се на ово.
Позиција корисника
Корисници потцењују своју изложеност јер систем доживљавају као црну кутију коју је неко други направио. У правном смислу, особа која одлучи да примени алат, конфигурише га, доставља му податке и делује на основу његових резултата нешто ради, а то деловање се процењује по сопственим заслугама.
Када је систем само инструмент прекршаја
Најлакши случајеви су они у којима се систем вештачке интелигенције користи намерно. Генерисање убедљиве фактуре ради преваре компаније је превара према члану 326 Кривичног законика, без обзира да ли је писмо саставила особа или модел, а фалсификовање документа остаје фалсификат према члану 225 без обзира на алат. Коришћење модела за писање кода који проваљује у систем и даље је компјутерски упад према члану 138аб. Генерисање и дистрибуција манипулисаних слика стварне особе може се сматрати клеветом, а тамо где је материјал сексуалне природе, то спада под кривична дела из Закона о сексуалним преступима који се примењује од 1. јула 2024. године. Упорно узнемиравање појединца уз помоћ вештачке интелигенције може представљати праћење према члану 285б, које се гони само по тужби жртве.
Ништа од овога није нови закон. Технологија мења обим и вероватноћу обмане, а не елементе преступа. Оно што мења јесу докази: упити, евиденција налога, излази модела и време креирања датотека су материјал који повезује преступ са особом, а корисници који претпостављају да се садржај генерисан вештачком интелигенцијом не може пратити обично греше.
Немарна употреба: чешћи ризик
Много више организација упада у невоље због непажње него због намере. Образац је познат. Систем се купује за једну сврху, а користи за другу. Његов излаз се третира као одлука, а не као сигнал. Нико не проверава случајеве у којима је погрешан, јер људима који њиме управљају никада није речено каква је стопа грешака или где не успева. Када се штета материјализује, организација открива да нема евиденцију о томе како је донета одлука.
У грађанском смислу, ово је једноставан деликт: члан 6:162 Грађанског законика чини лице одговорним за незаконито дело које му се може приписати, а које проузрокује штету. Кршење дужности пажње у друштву једна је од категорија незаконитости, а садржај те дужности је одређен оним што би пажљив оператер у том положају урадио. Послодавац је поред тога одговоран за грешке својих запослених према члану 6:170, а страна која користи помоћно лице за извршење уговорне обавезе одговара за то помоћно лице према члану 6:76, што је одредба која обухвата организацију која користи модел добављача за пружање сопствене услуге.
Дужност пажње више није у потпуности препуштена судовима да је измишљају. Закон ЕУ о вештачкој интелигенцији даје имплементаторима система високог ризика конкретне обавезе: користити систем у складу са упутствима, доделити људски надзор људима са компетенцијом и овлашћењем да га врше, осигурати да су улазни подаци под њиховом контролом релевантни, пратити рад и обуставити употребу када се појави ризик, чувати евиденцију и обавестити раднике и њихове представнике пре него што имплементира такав систем на послу. Те обавезе су регулаторне, али суд који процењује немар ће их прочитати као опис како изгледа пажљиво понашање. Организација која је игнорисала упутства за употребу није само неусаглашена; она је предала тужбу тужиоцу.
Пристрасност аутоматизације заслужује посебно помињање јер је то место где надзор тихо закаже. Рецензент који одобрава скоро све што систем предлаже не врши надзор, а организација која мери своје запослене на основу пропусности је ефикасно дизајнирала тај исход. Правно питање је да ли је људска одлука заиста донета, а печат се не квалификује.
Где корисник не може пренети ризик
Три тачке редовно изненађују организације које су претпоставиле да добављач сноси ризик.
Прво, према оштећеној трећој страни корисник је видљива страна. Муштерија којој је одбијен кредит, запослени кога је одбио алат за скрининг, пацијент коме је дата погрешна тријажа: они склапају уговор са добављачем или се њима бави добављач и тужиће га. Да ли добављач може да добије одштету од свог добављача је посебно питање које зависи од уговора и не одлаже потраживање против њега.
Друго, општа правила о заштити података примењују се независно од свега осталог. Ако систем обрађује личне податке, имплементатор је обично контролор, одговоран за правни основ, транспарентност, процену утицаја и безбедност. Одлука донета искључиво аутоматизованим средствима која производи правне последице или слично значајно утиче на особу, регулисана је посебно и даје тој особи право на људску интервенцију и да оспори исход. Наш преглед Опште уредбе о заштити података утврђује тај режим.
Треће, модификација мења вашу улогу. Имплементатор који стави своје име на систем, промени његову намену или га значајно модификује постаје добављач према Закону о вештачкој интелигенцији и наслеђује обавезе добављача. Претварање модела опште намене у алат за проверу за регулисану одлуку је управо она врста корака који прелази ту границу. Организације које граде на туђем моделу требало би да утврде на којој се страни налазе пре него што покрену систем, а не након инцидента.
Позиција произвођача
Изложеност произвођача иде другачијим путем и строжа је. Одговорност за производ према члановима 6:185 и наредним Грађанског законика чини произвођача одговорним за штету насталу услед недостатка његовог производа, без потребе да оштећена страна докаже кривицу. Производ је неисправан када не пружа безбедност коју особа има право да очекује, узимајући у обзир његову презентацију, употребу која се разумно може очекивати од њега и време када је пуштен у промет. Подносилац захтева мора да докаже штету, недостатак и узрочну везу између њих, што је у случају вештачке интелигенције место где лежи права борба.
Режим има фиксна ограничења. Потраживања се морају поднети у року од три године од дана када је оштећена страна сазнала, или је требало да сазна, за штету, недостатак и идентитет произвођача, а право истиче десет година након што је одређени производ стављен у промет. Одговорност према овом режиму не може се искључити или ограничити уговором и покрива смрт, телесне повреде и штету на другој имовини која се користи у приватне сврхе, до нижег прага. Произвођач има ограничен скуп одбрана, укључујући одбрану ризика од развоја, која се примењује тамо где стање научног и техничког знања у време стављања у промет није могло открити недостатак.
Реформа која мења позицију софтвера
Према важећем холандском режиму, производ је покретна ствар, а питање да ли самостални софтвер испуњава услове оспорава се годинама. Тај аргумент је сада окончан. Ревидирана Директива о одговорности за производе, Директива (ЕУ) 2024/2853, ступила је на снагу 8. децембра 2024. године и мора бити транспонована у национално право до 9. децембра 2026. године; она се примењује на производе пласиране на тржиште или у употребу након тог датума, тако да важеће одредбе Грађанског законика и даље регулишу производе који су били у оптицају пре њега. Четири промене су битне за одговорност за системе вештачке интелигенције.
Софтвер, укључујући системе вештачке интелигенције и дигиталне производне датотеке, изричито је производ. Круг одговорних страна се шири изван произвођача и укључује страну која значајно модификује производ ван контроле произвођача, овлашћеног представника, увозника и, у дефинисаним околностима, добављача услуга испуњења поруџбина и онлајн платформу. Надокнадива штета се проширује на уништење или оштећење података који се не користе професионално, што је права категорија губитка код софтверских кварова. Производ може бити неисправан због онога што се дешава након што је стављен на тржиште: квар у потребном ажурирању софтвера, неиспоручивање безбедносних ажурирања или ефекти континуираног учења где је произвођач задржао контролу над њим.
Реформа такође директно напада проблем доказивања. Суд може наложити туженом да открије релевантне доказе на захтев тужиоца, а ако тужени не поступи по том захтеву, претпоставља се недостатак доказа. Обориве претпоставке о недостатку и узрочности примењују се када се тужилац суочава са прекомерним потешкоћама у њиховом доказивању због техничке или научне сложености, под условом да тужилац учини вероватноћу вероватном. За тужиоца суоченог са моделом који нико не може у потпуности да објасни, то је разлика између спорног и немогућег случаја.
Уговор, усаглашеност и ограничења клаузула о искључењу
Између предузећа прво поље борбе је обично уговор, а не закон. Добављач система вештачке интелигенције дугује оно што је пристао да дугује: испоручени систем мора да одговара уговору и да поседује квалитете које је купац имао право да очекује. Уколико је добављач обећао ниво тачности, ниво доступности или усклађеност са Законом о вештачкој интелигенцији, неиспорука је кршење уговора, а уобичајена правна средства за извршење, одштету и раскид уговора следе након уредног обавештења о неизвршењу обавезе.
Добављачи одговарају клаузулама о ограничењу и искључењу, а те клаузуле су обично на снази између комерцијалних страна. Оне нису неограничене. Клаузула се може поништити тамо где би ослањање на њу било неприхватљиво према стандардима разумности и правичности, што је пут који судови предузимају у случајевима намерне непажње или озбиљне грешке на страни добављача, а тамо где је клаузула општег карактера, може бити неважећа ако другој страни никада није пружена стварна прилика да је узме у обзир. Одговорност према режиму одговорности за производ не може се уопште искључити у односу на оштећену страну. У пракси, преговори се односе на ограничења, изузетке за кршење података и повреду интелектуалне својине, надокнаду штете за регулаторне казне и обавезу добављача да достави документацију и евиденцију која је купцу потребна за одбрану. Наша страница о захтевима за накнаду штете наводи како се ти захтеви граде.
Шта Закон о вештачкој интелигенцији ради, а шта не ради
Закон о вештачкој интелигенцији је регулаторни инструмент. Он говори добављачима и имплементаторима шта да раде и даје надзорницима овлашћења да га спроводе; не ствара право на надокнаду штете за особу оштећену системом вештачке интелигенције. Предложена Директива о одговорности за вештачку интелигенцију, која би ускладила грађанске тужбе и увела обелодањивање и претпоставке у свим областима, повучена је. Оно што је остало је горе описана комбинација: национално деликтно и уговорно право, плус реформисани режим одговорности за производ.
То не чини Закон о вештачкој интелигенцији ирелевантним за одговорност. Он је важан на три начина. Он утврђује стандард неге, тако да је непоштовање прописа доказ нехата. Он генерише документа, јер техничка документација, упутства за употребу, евиденције и датотека за постпродајно праћење постоје по закону и могу се захтевати у поступцима. И он додељује улоге, тако да питање ко је добављач, а ко имплементатор, које је раније било предмет расправе, сада има правни одговор. Наша пракса у области ИТ права бави се тим питањима класификације пре него што постану спорови.
Где се корисник и произвођач сусрећу
Већину стварних инцидената не узрокује један квар на једном крају ланца. Узрокује их модел обучен на подацима који нису представљали популацију на коју је примењен, интегрисан од стране добављача који га није тестирао у том контексту, примењен од стране организације која га је користила у сврху коју упутства нису покривала, и њиме управља особље које никада није речено која су његова ограничења. Холандски закон нема проблема са тим: више страна може бити одговорно за исту штету, свака је одговорна за целу штету према оштећеној страни, а оне накнадно решавају интерну расподелу између себе према својим доприносима.
Доња табела приказује где се обично налази одговорност и на ком основу.
| Журка | Типичан основ одговорности | Шта одлучује о исходу |
|---|---|---|
| Добављач или произвођач | Одговорност за производ без кривице; уговорна одговорност према купцу. | Да ли је систем нудио безбедност која се могла очекивати и шта је заправо писало у документацији и упутствима. |
| Страна која значајно мења | Ступа у позицију произвођача за модификовани производ. | Да ли је промена превазишла предвиђену сврху или је направљена ван контроле оригиналног произвођача. |
| Организација која распоређује | Деликт, кршење сопствене дужности пажње, одговорност за запослене и помоћне раднике. | Коришћење у складу са упутствима, квалитет људског надзора, улазни подаци, евидентирање и праћење. |
| Појединачни оператер | Лична одговорност је ретка; кривична одговорност тамо где се систем користи намерно. | Намера или тешка грешка, и да ли је послодавац одговоран уместо тога. |
Афера са холандским накнадама за бригу о деци је референтна тачка којој се враћа свака холандска дискусија, и она илуструје образац пре него владавину права: непрозиран систем класификације ризика, одлуке донете о његовом резултату без стварне индивидуалне процене и последице које су у потпуности пале на људе који су их примали. Њене правне последице биле су административне и политичке, а не кривичне, а ми разматрамо шта она показује, а шта не показује о кривичној одговорности у нашем чланку о вештачкој интелигенцији и кривичном праву.
Проблем доказа и како се он мења
Ко год поднесе тужбу, мора је доказати, а у случајевима вештачке интелигенције доказивање је тежак део. Тужилац мора да покаже шта је систем урадио, зашто је то било погрешно и да је та грешка проузроковала губитак. Информације потребне за то налазе се код туженог, а у сложеном моделу може бити заиста тешко реконструисати их чак и интерно.
Три догађаја мењају ту равнотежу. Вођење евидентирања је сада законски захтев за системе високог ризика, тако да евиденција која је раније била опционална мора да постоји. Објављивање доказа у тужбама за одговорност за производ постаје доступно у оквиру реформисаног режима, поткрепљено претпоставком неисправности уколико тужени не поступи послушно. А холандски грађански поступак већ дозвољава странци да захтева достављање одређених идентификованих докумената за које има легитиман интерес, што се редовно користи за добијање извештаја о испитивању, евиденција инцидената и интерних процена ризика.
За окривљеног, практични закључак је непријатан, али јасан: документација коју чувате је документација која ће бити прочитана против вас, а документација коју нисте чували такође ће бити коришћена против вас. Комплетни, датирани, поштени записи о тестирању, познатим ограничењима, инцидентима и њиховом решавању су најјача доступна одбрана, јер показују да је организација користила процену уместо да се надала најбољем. Тамо где инцидент такође има кривичну димензију, на пример, неовлашћени приступ системима или манипулација подацима, кривични оквир за компјутерски криминал и сајбер криминал у Холандији примењује се уз грађанску тужбу, а кривична истрага ће запленити управо исти материјал.
Аутономни системи у физичком свету
Када систем вештачке интелигенције управља возилом, дроном или помера роботску руку, примењује се додатни слој одговорности, и он је генерално строжији од свега што је до сада поменуто. Физичка повреда повлачи одговорност за ризик, која не пита да ли је неко био непажљив.
За моторна возила, члан 185 Закона о друмском саобраћају из 1994. године чини власника или имаоца моторног возила одговорним за штету нанесену пешацима и бициклистима, осим ако није постојала виша сила, стандард који је веома тешко испунити. То правило је без обзира на то да ли је управљао човек или систем помоћи возачу: власник прво одговара, а сваки захтев против произвођача софтвера следи потом. Тестирање истински самовозећих возила на јавним путевима захтева дозволу према посебном холандском закону о експериментисању, а услови везани за ту дозволу, укључујући присуство и улогу надзорника, постају део стандарда бриге.
Беспилотне летелице су регулисане европским прописима о дронима, а регистрација оператера и захтеви зависни од категорије које у Холандији спроводи Rijksinspectie Digitale Infrastructuur. Оператор који лети ван своје категорије или без потребне компетенције не само да крши правила авијације; он је такође изашао из оквира понашања које би суд назвао опрезним, што решава питање нехата пре него што техничка дебата о аутопилоту уопште почне.
Уз ове режиме стоји опште правило о неисправним предметима. Поседник покретне ствари која не испуњава стандарде који могу бити постављени за њу и која тиме ствара посебну опасност, одговоран је за штету коју та опасност проузрокује. То правило се односи на физичку машину чак и када је основни квар у њеном софтверу, што је један од разлога зашто власник индустријског робота или аутоматизованог складишног система не може једноставно да укаже на продавца. Тамо где се примењује режим одговорности за производ, два система међусобно делују, а оштећена страна ће обично следити онај пут који је најлакше доказати.
Практична последица за организације које управљају машинама са аутономним функцијама је да осигурање и уговор морају бити уређени око објективне одговорности, а не око анализе засноване на кривици. Вреди имати регресни захтев против добављача, али то не спречава да захтев прво стигне на ваша врата.
Смањење изложености са обе стране
Мере које смањују одговорност за системе вештачке интелигенције су исте мере које омогућавају да системи правилно функционишу, због чега се исплати предузети без обзира на регулаторни календар.
За организацију која имплементира систем, почните са инвентаром: који системи су у употреби, ко их је испоручио, о чему одлучују или на шта утичу и ко њима управља. Утврдите своју улогу за сваки од њих, јер се дужности добављача и имплементатора разликују. Затим запишите предвиђену сврху и останите у њој; најчешћи узрок одговорности која се може избећи је коришћење алата за нешто за шта није валидиран. Дајте људима који управљају системом стварно овлашћење да га пониште и мерите их по процени, а не по количини. Водите евиденцију и чувајте је довољно дуго да буде корисна у спору. Бележите инциденте, укључујући и блиске промашаје, и бележите шта је предузето поводом њих.
За произвођача или добављача, еквивалентна листа пролази кроз цео животни циклус: документовано управљање ризицима, управљање подацима које се може објаснити регулатору, тестирање на популацији на којој ће се систем заправо користити, упутства за употребу која су искрена у вези са ограничењима и стопама грешака, а не охрабрујућа, канал за купце за пријављивање проблема и политика ажурирања која каже ко је одговоран за безбедносне закрпе и колико дуго. Реформисани режим одговорности за производ чини ову последњу тачку оштријом него што је раније била: неиспоручивање ажурирања која сте се обавезали да ћете обезбедити може само по себи учинити производ неисправним.
Обе стране треба да третирају уговор као вежбу расподеле ризика, а не као формалност. Важне клаузуле су опис намере, гаранције о усклађености и учинку, обавеза предаје документације и логова, обавезе обавештавања о инцидентима у оба смера, ограничење одговорности и његови изузеци, надокнаде за потраживања трећих лица и регулаторне казне, као и аранжмани о изласку који одређују шта се дешава са моделом и подацима ако се однос заврши. Ограничење које се преговара апстрактно, без позивања на то шта систем заправо одлучује, не штити никога.
Коначно, имајте на уму кривичну изложеност чак и када је непосредни ризик грађанске природе. Гоњење компаније због квара вештачке интелигенције је и даље неуобичајено, али елементи су уобичајени: дужност, кршење услова, предвидљива штета и организација за коју се може доказати да је прихватила ризик. Када се систем користи за нешто очигледно незаконито или када компанија настави да користи систем за који зна да узрокује штету, кривични пут је отворен, а анализа је у потпуности изложена у нашем чланку о холандском кривичном праву и пратећем чланку о алгоритмима и кривичној одговорности.
Često postavljana pitanja
Може ли вештачка интелигенција бити сведок на суду?
Кратак одговор је не, барем не у тренутном правном окружењу. Концепт сведока је фундаментално људски. Да би био сведок, особа мора бити у стању да положи заклетву, обећавајући да ће говорити истину. Такође мора имати лично знање о предметним догађајима и бити у стању да издржи унакрсно испитивање, где се стављају под сумњу њено памћење, перцепција и кредибилитет.
Вештачка интелигенција једноставно не испуњава ове критеријуме. Нема свест, не може да положи заклетву и не поседује лична сећања у људском смислу. У најбољем случају, може да представи податке које је обрадила. Због тога је много више личи на доказ, као што је снимак са сигурносне камере, него на стварног сведока. Изводи вештачке интелигенције свакако могу бити представљени на суду, али би људски стручњак који објашњава те податке заправо служио као сведок.
Која је разлика између грађанске и кривичне одговорности за вештачку интелигенцију?
Ова разлика је кључна кад год вештачка интелигенција проузрокује штету. Иако и грађански и кривични поступци подразумевају правну одговорност, њихова сврха, терет доказивања и казне су потпуно различити светови.
Ево једноставног начина да размислите о томе:
- Грађанске одговорности: Овде се ради о поновном исцељењу жртве. Фокус је на надокнади штете, попут финансијских губитака због неисправног алгоритма или повреда од аутономног возила. Стандард доказивања је нижи – често „равнотежа вероватноћа“.
- Кривична одговорност: Овде се ради о кажњавању неправде учињене против самог друштва. То захтева доказивање кривице „ван разумне сумње“ – што је много већа препрека – и може довести до строгих казни попут затвора или високих новчаних казни.
Када је у питању вештачка интелигенција, компанија би могла да се суочи са грађанском тужбом за надокнаду штете коју је проузроковао њен производ. Али да би кривичне оптужбе биле оправдане, тужилац мора да докаже да је људски актер имао „криви ум“ ( mens rea ). Управо зато се одговорност везује за особу, а не за машину.
Како се моја организација може припремити за закон ЕУ о вештачкој интелигенцији?
С обзиром на то да су прописи попут Закона ЕУ о вештачкој интелигенцији већ на снази и примењују се у фазама, чекање да последње обавезе ступе на снагу је ризична стратегија. Проактивно усклађивање је једини начин да ефикасно ублажите своје правне ризике.
Ево неколико кључних корака за почетак:
- Класификујте своје вештачке интелигенције (AI) системе: Прво, потребно је да утврдите у коју категорију ризика спадају ваше вештачке интелигенције – неприхватљив, висок, ограничен или минималан. Ова класификација ће диктирати ваше специфичне обавезе усклађености.
- Спровођење процене ризика: За све системе високог ризика, морате извршити темељне процене како бисте идентификовали и решили потенцијалне штете по основна права. Ово није само вежба штиклирања поља; то је дубинско истраживање утицаја вашег система.
- Обезбедите транспарентност и документацију: Водите прецизне евиденције о дизајну ваше вештачке интелигенције, скуповима података који се користе за обуку и њеним процесима доношења одлука. Ова документација је неопходна за демонстрирање усклађености и одговорности уколико дође до инцидента.
Law & More саветује организације које граде системе вештачке интелигенције и организације које их користе о расподели ризика у уговорима, о класификацији и обавезама према Закону о вештачкој интелигенцији, као и о одбрани или покретању тужби када је систем проузроковао губитак. Реците нам о вашој ситуацији. Обавестићемо вас о вашим могућностима у року од једног радног дана.
