Нивото на свесност на граѓаните, невладините организации, медиумите, академската заедница, но и самите држави, за системите за автоматско донесување одлуки (АДО) и вештачката интелигенција (ВИ) е ниско и тоа треба да се промени бидејќи овие системи ќе продолжат да влијаат врз благосостојбата на граѓаните. НВО-ата треба да соработуваат меѓусебно и со државните власти за да разговараат за придобивките и ризиците од овие системи.
Ова меѓу другото беше кажано на сесијата „Алгоритми, приватност и безбедност. Да зборуваме за човековите права“, во рамките на 17-тата меѓународна конференција „е-Општество“ во организација на „Метаморфозис“, на која говореа претставници на граѓанското општество и правни експерти од РСМ, Европа и Америка.
„Кога станува збор за употребата на АДО и ВИ, особено на АДО во официјална државна употреба, невладините организации во голема мера молчат за ризиците, придобивките и несаканите ефекти што може да ги донесе овој процес. Ова може да биде од различни причини, како што се недостаток на стручно техничко знаење за проверка на алгоритми, недостаток на човечки и финансиски ресурси, а можеби и едно општо чувство дека оваа тема е „многу техничка“ и дека и припаѓа на многу мал број на засегнати страни, но исто така може да се има чувство на несоодветност за коментирање на најновите случувања и трендови“, нагласи Гоце Арсовски, службеник за програмска поддршка во Фондацијата Метаморфозис.
Невладините организации (НВО) можат да помогнат да се подигне свеста за употребата на системите за автоматско донесување одлуки или на вештачката интелигенција.
„Се согласувам дека нивото на јавна свест за АДО не е на вистинското ниво. Невладините организации можат да помогнат затоа што работиме со позатворени заедници на локално ниво и тие можат да помогнат преку нудење на објаснувања за јавноста околу тоа која е целта на користење на АДО. „Невладините организации можат да обезбедат грантови за истражувања во оваа област, исто како што владите мора да обезбедат одредени средства од буџетот“, рече Олга Кирилиук, менаџерка за технички програми во Американската адвокатска комора.
Орсолија Винче, правен експерт во „К-мониторинг“ од Унгарија наведува дека државните функционери не се запознаени со овој процес, а НВО-ата не се вклучени.
„ВИ во основа не е позната како тема за НВО-ата, ние сме невладина организација за борба против корупцијата и потоа се вклучивме во оваа област. Не гледаме голема вклученост на невладините организации во оваа област, имаме коалиција за вештачка интелигенција (ВИ) и некои се дел од неа, но имаме и една етичка група која работи во однос на законодавството за тоа како да се регулираат алгоритмите. Кога станува збор за регулативите за АДО, малку доцниме. „Она што го дознавме од нашата студија е дека државните функционери не се свесни за процесот„ – истакна Винче.
Криштоф Издебски, експертот за право и политики во Фондацијата „Стефан Батори„ од Полска, зборуваше за електронскиот систем за распределба на судските предмети во Полска, кој е сличен на системот АКМИС што се користи во РСМ за распределба на судските предмети.
„Се обидов да го добијам алгоритамот на системот од Министерството за правда, првично не го даваа, но потоа го добивме случајот и сега алгоритамот е објавен на страницата на Министерството за правда. Луѓето мислеа дека ова не е отворен систем, и дека можеби се работи за манипулативен систем. За нас експертите беше важно да им покажеме дека спроведувате АДО што има влијание врз правата и обврските на граѓаните. „Значи, секое донесување на одлуки, вклучително и АДО, мора да бидат транспарентни“, нагласи Издебски.
Сите панелисти се согласија дека невладините организации, без разлика на нивното поле на делување, треба да бидат вклучени во дискусиите за ова прашање.
