Кога јавните институции набавуваат ИТ услуги или системи управувани од алгоритам, мора да ја осигурат ефективната заштита на човековите права. Оваа одговорност доаѓа од меѓународни и/или уставни обврски, кои честопати се пренесени во подетални норми за специфични права (на пример, кога станува збор за правото на заштита на податоци или правото на недискриминација) и во блиска иднина ќе бидат надополнети од дополнителни правни инструменти, вклучително и Законот за вештачка интелигенција на ЕУ. При набавката на ИТ услуги/производи, јавните институции треба јасно да наведат кои јавни вредности и демократски принципи треба да се зачуваат и заштитат и треба вистински да се размисли дали технолошкото решение е ефективно и соодветно за решавање специфичен проблем или следење специфична јавна политика.
Процените на влијанието врз човековите права имаат клучна улога во ова размислување и тие се суштински за да се осигури довербата на јавноста во технологијата. За да се постигне ова, процените на влијанието треба да бидат задолжителна практика онаму каде што соодветно се разгледуваат, проценуваат и целосно се почитуваат јавните вредности и импликациите за човековите права. Без оглед на донесената методологија, процесот на процена мора да биде транспарентен, отчетен, партиципативен и вграден во поширокиот општествен контекст врз кој би можела да влијае технологијата.
Во рамки на проектот „Техничка и интегрирана заштита на лични податоци – градење инклузивен дигитален ексоситем“ од страна на меѓусекторската работна група за бизнис и човекови права беа развиени Показатели за процена на влијанието на ИТ услугите/производите врз човековите права во постапките за набавка. Овие показатели служат за да се провери дали јавните институции што набавуваат ИТ услуги/производи, вклучително системи на вештачка интелигенција или системи управувани од алгоритам и продавачите/програмерите на овие системи имаат подготвени ефективни механизми за да го оценат нивното влијание врз човековите права и да се справат со ризиците од предизвикување штета и да ги ублажат. Показателите можете да ги преземете овде.
Сподели:
