„Расудувањето е уникатно за луѓето“- експерт на ОН за растечката улога на ВИ во правдата

„Расудувањето е уникатно за човечките суштества... Вештачката интелигенција всушност не е расудување. Тоа е предвидување

Вештачката интелигенција (ВИ) се движи во судниците низ целиот свет многу побрзо отколку што повеќето луѓе сфаќаат, ветувајќи брзина и ефикасност, а воедно тивко го преобликува начинот на кој се спроведува правдата.

Но она што започна како алатка за олеснување на преоптоварените судови, сега покренува подлабоки прашања за праведноста, одговорноста и самото значење на пресудата.

Овие прашања се во срцето на новиот извештај на ОН за ВИ во правосудните системи, предупредувајќи дека многу судови прифаќаат дигитални алатки „на ад хок основа“, без безбедносни мерки за заштита на судската независност.

Неговата авторка, Маргарет Сатертвејт, специјалната известувачка на ОН за независноста на судиите и адвокатите, изјави за Анадолија дека промената што е во тек е длабока - и длабоко ризична ако државите не успеат да постават ограничувања.

„Многу е важно навистина да инсистираме на ова право на човечки судија кога размислуваме за употребата на ВИ во судските системи“, рече таа. „Расудувањето е уникатно за човечките суштества... Вештачката интелигенција всушност не е расудување. Тоа е предвидување.“

Загриженоста, нагласи таа, не е заради забрана на технологијата. Судовите можат да имаат корист од дигиталните алатки, но вештачката интелигенција никогаш не смее да го замени човечкото морално расудување кое е во сржта на донесувањето судски одлуки.

На ВИ ѝ недостасува „човечкото искуство, човековото чувство за добро и лошо и поврзаноста“, рече таа. „Потребни ви се сите тие работи за да расудувате како личност.“

Извештајот на Сатертвејт потврдува дека, внимателно користена, вештачката интелигенција може да ги намали бариерите за правдата. 

Околу 49% од луѓето ширум светот се соочуваат со барем еден правен проблем на секои две години, но помалку од една третина бараат помош, честопати затоа што судовите се скапи, далечни или јазично недостапни.

Во таа празнина, некои иновации се покажуваат како корисни. Шпанскиот систем Царпета Јустициа (Carpeta Justiciaѐ), или Папка на правдата, може да сумира или преведува правни документи на јасен јазик, додека Врховниот суд на Мексико го разви Сор Јуана (Sor Juana), алатка за ВИ која ги поедноставува правните термини и процедури за јавноста.

Во Нигерија, системот за вештачка интелигенција Подус (Podus) – достапен преку ВатсАп поддржува три локални јазици – нуди „прва правна помош“ и ги насочува корисниците кон адвокати.

Сатертвејт го посочува преводот како една област каде што вештачката интелигенција помага, а не заменува. „Преводот станува сè подобар и подобар речиси секој ден“, рече таа, особено за широко зборуваните јазици.

Но дури и ова ветување доаѓа со предупредувања. Нејзиниот извештај забележува дека преводите со ВИ остануваат многу помалку сигурни за таканаречените јазици со малку ресурси, како што се домородните или малцинските јазици, а кога ВИ погрешно толкува правен термин или нуди погрешен совет, корисниците честопати немаат јасен начин да ја оспорат грешката.

Позагрижувачки се примерите на системи со ВИ длабоко вградени во судските процеси – системи што можат да ги забрзаат постапките, но да ја поткопаат праведноста.

Кинеската мрежа Смарт Корт (Smart Court или Паметен суд) автоматизираше милиони случаи, користејќи алатки за препознавање лица и алгоритамски системи што даваат препораки за изрекување казни. 

Иако е пофален за брзината, системот покренува сериозни проблеми со транспарентноста и одговорноста, при што ВИ е вклучена во прегледот на доказите и препораките за изрекување казни.

Како што се наведува во извештајот на Сатертвејт, „Ваквите системи можат да го зголемат политичкиот надзор, да ја ограничат судската автономија и на крајот да ја поткопаат независноста“.

Транспарентноста и нејзиниот недостиг

Природата на ВИ како „црна кутија“ го отежнува надзорот. Некои судови веќе се потпираат на алатки кои се нетранспарентни или потенцијално пристрасни.

Во Полска, Системот за случајно распределување на судии беше под лупа откако наводно му доделил 56 случаи на еден судија, додека другите ги оставил речиси без ниту еден. Во САД, алгоритмите како што е ЦОМПАС- што се користат за предвидување на повторен прекршок - влијаеле врз одлуките за кауција и изрекување казни, додека студиите покажуваат дека тие непропорционално влијаат на расните малцинства.

„Пристрасноста е многу важна во оваа средина“, објасни Сатертвејт. „Ако има пристрасност во податоците што се користат за обука на голем јазичен модел ... таа пристрасност ќе биде вградена во резултатите“.

Сепак, многу системи се заштитени со трговска тајна. ШотСпотер (ShotSpotter), алатка за откривање на огнено оружје признаена во најмалку 200 кривични судења во САД, се соочи со големи проблеми со точноста, но нејзиниот изворен код останува неоткриен.

„Доколку вештачката интелигенција се користи за автоматизирање на судските одлуки, природата на „црната кутија“ на алатките за ВИ може да го направи процесот на донесување одлуки толку нетранспарентен и неоспорен што ќе се наруши правото на фер судење“, предупреди извештајот на ОН.

Проблемот, рече Сатертвејт, е што многу странки во спорот дури и не знаат дека вештачката интелигенција била користена во нивниот случај.

„Ако знаеме, на пример, дека судскиот систем користи одредена алатка за вештачка интелигенција, тогаш ако се појави некое прашање за пристрасност, страните можат да го покренат тоа прашање“, рече таа. 

„Нема начин да се направи тоа ако не знаеме како судството ги користи тие алатки.“

Техно-заробување и ризик од аутсорсинг на правдата

Друга опасност е „техно-заробувањето“, кога приватните добавувачи кои снабдуваат алатки за вештачка интелигенција добиваат влијание врз начинот на кој работат судовите. 

Во земјите со пониски приходи, некои компании нудат дигитализација на цели судски системи во замена за пристап до судски податоци - трговија за која Сатертвејт вели дека претставува „пренос на моќ“.

„Една од многу важните одлуки со кои судствата треба веднаш да се соочат е дека треба да имаат капацитет да користат генеративна вештачка интелигенција без да ги обучуваат тие алатки“, рече таа. 

Судските податоци, забележа таа, имаат сосема поинаква чувствителност од комерцијалните податоци.

Таа, исто така, предупреди дека судиите ризикуваат да изгубат основни вештини како што е изготвување пресуди, ако премногу се потпираат на алгоритми.

„Ако дозволите вештачка интелигенција да ја изготви вашата образложена одлука, дали некако го аутсорсирате делот со образложението?“, прашува Сатертвејт. 

Многу судии, додаде таа, се чувствуваат удобно да користат вештачка интелигенција за резимеа, но „би сакале да повлечеме граница да им помага во пишувањето“, бидејќи „пишувањето и размислувањето се толку тесно испреплетени“.

Без внимателни граници, рече таа, „тој вид техно-заробување може да почне да се вовлекува“.

Повик за претпазливост и соработка

Сатертвејт вели дека на земјите им се потребни итни јасни правила - и за да ја заштитат независноста на судството и за да се осигурат дека вештачката интелигенција нема да ги зацврсти нееднаквостите.

„Судиите мора да ја донесат оваа одлука и да повлечат граница“, рече таа. „Секако, судиите имаат потреба од обука. Тие треба да разберат што вештачката интелигенција може, а што не може да прави.“

Таа предупреди дека глобалната соработка е од суштинско значење бидејќи моќта на вештачката интелигенција е концентрирана во рацете на неколку големи компании и држави.

„Навистина ни треба решение што вклучува држави и влади кои разговараат едни со други. Проблемот е прилично едноставен во смисла дека вештачката интелигенција вклучува концентрација на моќ“, рече таа. 

„Значи, треба да има отворена дискусија за ова. Тоа е една од причините зошто мултилатералните организации како ОН се толку важни.“

Таа, исто така, ја нагласи и еколошката цена на ВИ, ретко признат аспект во дебатите за правосудството.

„Навистина е важно за нас да размислиме за влијанието врз климата тука“, рече таа. „Можеби треба да оставиме настрана некои употреби на вештачката интелигенција и да продолжиме да правиме одредени работи рачно... за да го минимизираме влијанието врз животната средина и климата.“

На крајот на краиштата, судовите мора да научат да ја интегрираат технологијата без да се откажат од вредностите што ја дефинираат правдата, рече Сатертвејт, нагласувајќи дека само ефикасноста не може да ги оправда алатките што ја еродираат праведноста.

На крајот, додаде таа, расудувањето и проценката се „толку клучни за тоа што е задачата“, а суштината на проценката не може да се автоматизира.

Извор: АА