Политика вештачке интелигенције у компанијама: како припремити своју организацију за Закон ЕУ о вештачкој интелигенцији
Вештачка интелигенција (ВИ) се развија великом брзином и постала је неотъемљив део свакодневних пословних операција. Од генеративних ВИ алата и четботова до система који се користе за регрутовање, аналитику купаца и доношење одлука, све више организација се ослања на ВИ системе, често без потпуне јасноће о правним и организационим обавезама које долазе са њима.
Са Законом ЕУ о вештачкој интелигенцији, то се фундаментално мења. Од организација се очекује да доносе информисане одлуке о коришћењу вештачке интелигенције и да активно управљају повезаним ризицима. Овај чланак објашњава како развити практичну, изводљиву и правно робусну политику вештачке интелигенције, тако да ваша организација буде спремна за Закон ЕУ о вештачкој интелигенцији и да настави да се придржава постојећих правила као што је Општа уредба о заштити података (GDPR).
Шта је политика вештачке интелигенције и зашто је неопходна?
Политика вештачке интелигенције је скуп интерних правила која дефинишу како, зашто и под којим условима се вештачка интелигенција може користити унутар организације. Она пружа смернице запосленима и помаже менаџменту да одржи надзор и контролу како се технологија развија.
Вештачка интелигенција више није ограничена само на ИТ одељења или велике технолошке компаније. Многе функције вештачке интелигенције су уграђене у постојећи софтвер, као што су CRM системи, HR алати и маркетиншке платформе. Запослени такође често експериментишу са јавним алатима вештачке интелигенције на сопствену иницијативу. Без јасних заштитних ограда, то може довести до кршења приватности, дискриминације, недостатка транспарентности или погрешног доношења одлука.
Закон ЕУ о вештачкој интелигенцији и Општа уредба о заштити података (GDPR) намећу јасне одговорности организацијама. Оне укључују обавезе у вези са управљањем ризицима, коришћењем података, људским надзором и транспарентношћу. Добро осмишљена политика вештачке интелигенције помаже у превођењу тих захтева у свакодневну праксу.
Правни оквир: Закон ЕУ о вештачкој интелигенцији, Општа уредба о заштити података и запошљавање закон
Закон ЕУ о вештачкој интелигенцији прати приступ заснован на ризику. Системи вештачке интелигенције су класификовани у различите категорије, од минималног ризика до неприхватљивог ризика. За употребу вештачке интелигенције високог ризика, као што су системи за регрутовање и селекцију, бодовање кредита или друге одлуке са значајним утицајем на појединце, примењују се строги захтеви.
Ови захтеви обухватају, између осталог, управљање ризицима и документацију, квалитет и порекло података, транспарентност у погледу начина рада система и његових ограничења, као и ефикасан људски надзор са могућношћу интервенције. Одређене праксе вештачке интелигенције су потпуно забрањене, укључујући специфичне облике манипулативне вештачке интелигенције и друштвеног бодовања.
Поред тога, GDPR остаје у потпуности применљив. Тамо где системи вештачке интелигенције обрађују личне податке, посебно су релевантни основни принципи као што су минимизирање података, законитост, безбедност и ограничења аутоматизованог доношења одлука. Могу се применити и закони о раду и правила заштите потрошача, на пример у апликацијама вештачке интелигенције везаним за људске ресурсе или апликацијама вештачке интелигенције окренутим ка купцима. Политика вештачке интелигенције повезује ове законске захтеве са свакодневним пословним операцијама.
Сврха и обим снажне политике вештачке интелигенције
Ефикасна политика вештачке интелигенције није теоријски документ; то је практични компас за свакога ко ради са вештачком интелигенцијом. Требало би да објасни зашто организација користи вештачку интелигенцију, шта жели да постигне, који ризици настају и како се од запослених очекује да одговорно користе алате вештачке интелигенције.
Дефинисање обима је кључно. Политика треба да прецизира на која одељења се примењује, као што су људски ресурси, маркетинг, корисничка служба, финансије, операције и истраживање и развој. Такође треба да разјасни које врсте система спадају под политику, укључујући купљени софтвер за вештачку интелигенцију, интерне моделе, генеративне алате за вештачку интелигенцију, четботове, алате за бодовање и системе за препоруке. Коначно, требало би да се бави питањем да ли је и под којим условима дозвољено појединачно експериментисање са јавним алатима за вештачку интелигенцију.
Кључне компоненте политике вештачке интелигенције
Политика вештачке интелигенције треба да почне са јасним дефиницијама, усклађеним са широким концептом вештачке интелигенције према Закону ЕУ о вештачкој интелигенцији, али написаним језиком који запослени могу да разумеју. Запослени треба да буду у стању да препознају када користе систем вештачке интелигенције који спада у политику. Практични примери по областима, као што су људски ресурси, интеракција са купцима и интерни процеси, помажу да се ово оживи.
Политика би затим требало да прави разлику између дозвољене употребе вештачке интелигенције, ограничене употребе под одређеним условима и забрањене употребе. Забрањена употреба укључује праксе вештачке интелигенције класификоване као неприхватљив ризик према Закону ЕУ о вештачкој интелигенцији. За случајеве употребе са ограниченим ризиком, политика може да пропише услове као што су обавезе транспарентности или претходно одобрење. Дозвољена употреба може бити повезана са заштитним мерама као што су процена ризика, ПУИА и додатне техничке и организационе мере.
Управљање је још један кључни елемент. Политика треба јасно да дефинише ко је у крајњој линији одговоран за усклађеност са вештачком интелигенцијом, ко је овлашћен да бира или имплементира нове апликације вештачке интелигенције и ко надгледа поштовање прописа и решавање инцидената. Избор добављача и управљање добављачима су такође важни. Организације треба да процене да ли добављачи могу да испуне захтеве Закона ЕУ о вештачкој интелигенцији и да осигурају да су те обавезе правилно одражене у уговору.
Подаци, приватност, безбедност и транспарентност
Пошто вештачка интелигенција зависи од података, политика треба да дефинише који подаци могу, а који не могу бити обрађивани путем система вештачке интелигенције. Требало би да се бави минимизирањем података, анонимизацијом или псеудонимизацијом где је то прикладно, периодима чувања и одвајањем података о обуци од производних података. За системе високог ризика често је потребна комбинована процена која узима у обзир и Закон ЕУ о вештачкој интелигенцији и Општу уредбу о заштити података (GDPR).
Системи вештачке интелигенције и подаци на које се ослањају морају бити правилно обезбеђени. Политика треба да опише како су организована права приступа, како се коришћење евидентира и прати и како се поступа са инцидентима и кршењем података.
Закон ЕУ о вештачкој интелигенцији захтева транспарентност када појединци интерагују са системима вештачке интелигенције или када вештачка интелигенција генерише садржај. Политика стога може захтевати да запослени, купци и друге заинтересоване стране буду обавештени кад год се вештачка интелигенција користи, укључујући кључне карактеристике и ограничења.
Људски надзор, пристрасност и квалитет одлука
За системе вештачке интелигенције са значајним утицајем на појединце, људски надзор је неопходан. Политика треба да прецизира када је људски надзор или људско доношење одлука обавезан и како се овај надзор спроводи у пракси. Такође је препоручљиво периодично тестирати системе вештачке интелигенције на пристрасност, стопе грешака и нежељене последице, посебно у областима као што су људски ресурси и укључивање купаца.
Обука и писменост у области вештачке интелигенције
Закон ЕУ о вештачкој интелигенцији захтева од организација да промовишу писменост у области вештачке интелигенције. Политика вештачке интелигенције би стога требало да укључује оквир обуке са основним нивоом за све запослене и напреднију обуку за одређене улоге као што су људски ресурси, ИТ, тимови за податке и менаџмент. Редовна ажурирања су неопходна како би се пратио технолошки и правни развој.
Од почетног инвентара до зреле политике вештачке интелигенције
Функционалност политике вештачке интелигенције се обично развија у фазама. Прво, организација идентификује које се апликације вештачке интелигенције користе, укључујући функције вештачке интелигенције уграђене у постојећи софтвер и алате које су усвојили запослени. Затим, ове апликације се класификују по ризику. Следи процена правног и организационог ризика, након чега се израђује политика вештачке интелигенције и усклађује са постојећим оквирима за приватност, безбедност информација и људске ресурсе. Политика се затим имплементира у процесе, уговоре и системе. Коначно, обука, комуникација, праћење и периодична ажурирања осигуравају да политика остане ефикасна током времена.
Закључак
Закон ЕУ о вештачкој интелигенцији јасно ставља до знања да ад хок или неструктурирано експериментисање са вештачком интелигенцијом више није одрживо. Организације које рано улажу у добро осмишљену политику вештачке интелигенције смањују правни ризик и граде поверење са запосленима, купцима и регулаторима.
Да ли желите да знате да ли је ваша организација спремна за Закон ЕУ о вештачкој интелигенцији или вам је потребна подршка у изради или имплементацији политике вештачке интелигенције? Контактирајте нас Law & More. Радо ћемо помоћи.
ČPP
Да ли је политика вештачке интелигенције обавезна према Закону ЕУ о вештачкој интелигенцији?
Закон ЕУ о вештачкој интелигенцији не захтева експлицитно од организација да имају документ под називом „Политика вештачке интелигенције“. Међутим, у пракси је политика вештачке интелигенције неопходна како би се показала усклађеност са обавезама које намећу Закон о вештачкој интелигенцији и Општа уредба о заштити података, као што су управљање ризицима, људски надзор, транспарентност и писменост у области вештачке интелигенције.
Које организације подлежу Закону ЕУ о вештачкој интелигенцији?
Закон ЕУ о вештачкој интелигенцији примењује се на практично све организације које развијају, пласирају на тржиште или користе системе вештачке интелигенције унутар Европске уније. То укључује не само технолошке компаније, већ и послодавце, пружаоце услуга и организације које користе вештачку интелигенцију у људским ресурсима, маркетингу, интеракцији са купцима, финансијама или процесима доношења одлука.
Да ли се Закон ЕУ о вештачкој интелигенцији примењује ако користимо само стандардни софтвер који је доступан на тржишту?
Да. Чак и тамо где су функционалности вештачке интелигенције уграђене у софтвер треће стране, организација која користи систем остаје одговорна за његову употребу. Ослањање на добављача не уклања обавезе корисника према Закону ЕУ о вештачкој интелигенцији и Општој уредби о заштити података.
Која је разлика између система вештачке интелигенције ниског, ограниченог и високог ризика?
Закон ЕУ о вештачкој интелигенцији класификује системе вештачке интелигенције на основу нивоа ризика који представљају за основна права и интересе појединаца. Високоризична вештачка интелигенција обухвата системе који се користе за регрутовање и селекцију, процену запослених, процену кредитне способности или приступ основним услугама. Ови системи подлежу знатно строжим захтевима.
Да ли све вештачке интелигенције морају бити унапред процењене?
У пракси, да. Организације би требало да направе инвентар и процене апликације вештачке интелигенције пре примене и класификују их према ризику. За вештачку интелигенцију високог ризика потребна је темељна процена, често у комбинацији са проценом утицаја на заштиту података у складу са Општом уредбом о заштити података (GDPR).
Како се политика вештачке интелигенције односи на GDPR?
Закон ЕУ о вештачкој интелигенцији и Општа уредба о заштити података (GDPR) се међусобно допуњују. Док се Закон о вештачкој интелигенцији фокусира на управљање, управљање ризицима и функционисање система вештачке интелигенције, GDPR регулише обраду личних података. Ефикасна политика вештачке интелигенције интегрише оба оквира и обезбеђује доследну усклађеност.
Да ли је процена утицаја на заштиту података увек потребна када се користи вештачка интелигенција?
Не увек, али често. Ако систем вештачке интелигенције обрађује личне податке и вероватно ће резултирати високим ризиком за појединце, процена утицаја на заштиту података је обавезна према Општој уредби о заштити података (GDPR). У случају вештачке интелигенције високог ризика према Закону ЕУ о вештачкој интелигенцији, процена утицаја на заштиту података је често неизбежна у пракси.
Да ли системи вештачке интелигенције могу да доносе аутономне одлуке о запосленима или купцима?
Само под строгим условима. Општа уредба о заштити података (GDPR) ограничава потпуно аутоматизовано доношење одлука, а Закон ЕУ о вештачкој интелигенцији захтева значајан људски надзор за високоризичне системе вештачке интелигенције. У многим случајевима, човек мора бити у могућности да интервенише, прегледа или поништи одлуке донете на основу вештачке интелигенције.
Да ли политика вештачке интелигенције може ограничити коришћење јавних алата вештачке интелигенције запосленима?
Да. Једна од кључних сврха политике вештачке интелигенције је да дефинише да ли и под којим условима запослени могу да користе јавне алате вештачке интелигенције. Ово обично укључује правила о уносу поверљивих информација, личних података или осетљивих пословних информација.
Ко је одговоран за усклађеност са политиком вештачке интелигенције?
Политика вештачке интелигенције треба јасно да расподели одговорност за усклађеност са вештачком интелигенцијом. Коначна одговорност обично лежи на вишем менаџменту или управном одбору, са важним улогама за правни сектор, усклађеност, ИТ и људске ресурсе. Без јасног управљања, ефикасан надзор је мало вероватан.
Који су ризици ако организација нема политику вештачке интелигенције?
Одсуство политике о вештачкој интелигенцији повећава ризик од непоштовања Закона ЕУ о вештачкој интелигенцији и Опште уредбе о заштити података (GDPR). То може довести до значајних казни, мера спровођења закона, штете по репутацију и потенцијалне грађанске одговорности. Такође отежава регулаторима демонстрирање одговорног управљања вештачком интелигенцијом.
Колико често треба преиспитати политику вештачке интелигенције?
Политику вештачке интелигенције не треба третирати као статички документ. Редовни прегледи су неопходни, посебно када се уводе нови системи вештачке интелигенције, мењају се закони или регулаторне смернице или се дешавају инциденти. Годишњи преглед се често сматра минимумом.
Да ли је вештачка писменост обавезна за све запослене?
Закон ЕУ о вештачкој интелигенцији захтева од организација да предузму мере за промоцију писмености у области вештачке интелигенције. То не значи да сваки запослени мора постати технички стручњак, али треба да разумеју шта је вештачка интелигенција, како се користи унутар организације и који су ризици укључени.
Када је препоручљиво потражити правни савет?
Правни савет је посебно препоручљив приликом примене високоризичних система вештачке интелигенције, када постоји неизвесност у вези са законитошћу одређених апликација или када се појаве питања у вези са спровођењем закона, ревизијама или одговорношћу. Рана правна провера може спречити скупе корективне мере касније.
