Храбар нов свет: Дали сме подготвени да ги предадеме уздите на моќта на вештачката интелигенција?

Алгоритмите долго време учествуваат во управувањето. Тие одредуваат кои огласи за работа стигнуваат до кои граѓани, кои даночни пријави се означени за ревизија, кои случаи на социјална помош се приоритетни, па дури и како се закажуваат полициските патролни рути.

Голем дел од ова се одвиваше тивко, под знамето на „поддршка на одлуки“, а не како отворено донесување одлуки.

Она што ги прави неодамнешните случувања во Албанија и Јапонија посебни е тоа што системите повеќе не се скриена инфраструктура.

Албанската влада формално го задолжи својот дигитален асистент Диела да управува со процесите на набавки, а малата јапонска партија „Пат кон преродба“ изјави дека ќе назначи вештачка интелигенција за свој лидер.

Ниеден од случаите не претставува целосен пренос на овластувањата на машините. Диела останува надгледувана алатка за работен тек, а јапонската партија нема места во националното законодавство и сè уште мора да назначи човечки претставник за официјални поднесувања.

Сепак, овие потези се значајни. Тие го префрлаат алгоритамското донесување одлуки од функција зад сцената во именувана, јавно призната институционална улога.

Тие сигнализираат дека алгоритамското управување, долго време тивок факт од административниот живот, станува експлицитно. Тие мора да се решат како прашања на институционален дизајн, легитимитет и одговорност.

Алгоритамското управување, широко разбрано, не е ново. Со децении, владите и фирмите користеле формули за бодување и модели на ризик за да ги насочат резултатите.

Она што е карактеристично денес е дискусијата за системите со вештачка интелигенција кои учат од податоци, се адаптираат со текот на времето и работат на големо.

Овие системи прават повеќе од извршување фиксни правила. Тие генерираат шеми, рангираат алтернативи, а понекогаш предлагаат дејства што не биле предвидени од нивните дизајнери.

Ова ги прави моќни, но исто така и потешки за испитување.

Неодамнешните јавни назначувања на системи со вештачка интелигенција во Албанија и Јапонија го привлекуваат вниманието кон оваа промена. Станува збор за управување со системи што еволуираат, чие расудување мора да остане разбирливо ако сакаме да се зачува демократскиот надзор.

Алгоритамско управување и сонот за објективност

Од Лајбниц до Кондорсе, просветителските мислители замислуваа замена на спорот со пресметка.

Лајбниц дури предложи и „универзален калкулус“ преку кој противниците би можеле да ги решат несогласувањата со едноставно прогласување на калкулум („ајде да пресметаме“).

Џереми Бентам ја преведе оваа визија во утилитаристичка политика, тврдејќи дека целта на управувањето треба да биде максимизирање на колективната среќа преку рационално пресметување.

Се чини дека современото алгоритамско управување го оживува овој проект. Ветува одлуки исчистени од каприц и предрасуди, донесени со регуларноста на функцијата.

Модерното управување долго време се бореше со тензијата помеѓу редот и автономијата, помеѓу ветувањето за непристрасна администрација и стравот од задушување на контролата.

Социологијата на бирократијата на Макс Вебер нуди прво големо концептуално сидро. Вебер ја опиша идеалната модерна држава како регулирана од правила, а не од личен каприц, карактеризирана со формални процедури, писмени записи и хиерархиски надзор.

Алгоритамските системи се логично продолжение на овој проект. Тие ветуваат конзистентност со отстранување на дискрецијата на најниските нивоа и спроведување на униформност.

Но тие исто така го заоструваат „железниот кафез“ на Вебер. Од оваа перспектива, постои значителен историски континуитет каде што алгоритамското управување не е прекин, туку интензивирање на рационализацијата.

Подоцна, кибернетиката, која се појави во 1940-те, го преформулира управувањето како проблем на повратна контрола. Увидот на Норберт Винер беше дека биолошките, механичките или социјалните системи можат да се регулираат со детектирање на нивната состојба, споредување со цел и примена на корекции.

„Моделот на одржлив систем“ на Стафорд Бир во 1970-те ја примени оваа логика на цели економии, замислувајќи ја државата како жив процесор на информации.

Алгоритамското управување ја операционализира оваа визија. Сензорите стануваат дигитални потоци на податоци, контролерите стануваат модели за машинско учење, а корективните мерки можат да се применат со брзина на машината.

Во повоената ера, владите прифатија операциони истражувања, линеарно програмирање и анализа на одлуки за да оптимизираат логистика, распределба на буџетот и социјално планирање.

Аналитичарите од Студената војна бараа „оптимални“ одговори под строги ограничувања.

Припомнете се на воените игри за на маса на РАНД кои им овозможуваа на службениците да вежбаат кризи, советските напори да ја водат економијата со компјутерски модели водени од повратни информации и британското повоено планирање кое користеше табели за влез-излез за да постави производствени цели.

Бидејќи методите беа читливи, креаторите на политиките можеа да видат како бројките го произведуваат советот.“

Современите алгоритамски системи го наследуваат етосот на оптимизација, но ги заменуваат интерпретабилните равенки со непроѕирни невронски мрежи. Ова создава историски дисконтинуитет каде што сме наследиле доверба во оптималноста без гаранција за објаснувањето.

Бранот на дигитализација од 1990. и 2000. се фокусираше на ефикасноста со онлајн портали, електронско поднесување и автоматизирано управување со предмети. Ова беа во голема мера надградби на услугите, а не редефиниции на моќ.

Алгоритамското управување ја користи таа инфраструктура како своја подлога, но се префрла од пасивно водење евиденција кон активно управување.

Системите сега даваат приоритет на тоа кои случаи ги гледаат човечките службеници, предвидуваат кои политики ќе ги погодат целите за перформанси, а понекогаш автоматски спроведуваат казни или одлуки за подобност.

Државата се префрла од регистар во препорачувач, а во некои области во актер.

Управување со вештачка интелигенција

Она што е ново во овој момент не е аспирацијата за рационализација на управувањето, туку својствата на алатките што сега се распоредуваат.

За разлика од системите базирани на правила од претходните децении, современата вештачка интелигенција работи на статистичка инференција, а не на експлицитна логика. Таа произведува резултати не со примена на транспарентни правила, туку со мапирање на сложени корелации во податоците.

Ова овозможува флексибилност и адаптација каде што системите можат да се ажурираат како што пристигнуваат нови податоци.

Сепак, тоа воведува и нетрансарентност. Креаторите на политики може да имаат тешкотии да објаснат зошто е дадена препорака или да го реконструираат синџирот на размислување зад исходот.

Во оваа смисла, алгоритамското управување денес не само што го затегнува Веберовиот кафез; тоа ризикува да ги замени видливите ленти со невидливи.

Друга клучна разлика е обемот и грануларноста. Поранешните административни системи можеа само да генерализираат.

Тие применуваа унифицирани правила за широки класи на случаи. Моделите за машинско учење, пак, овозможуваат микродиференцијација. Оценките за ризик, одлуките за подобност и поттурнувањата на политиките можат да се прилагодат на нивото на соседствата или поединците.

Ова покренува и можности и загрижености. Од една страна, ресурсите можат да се таргетираат со невидена прецизност, потенцијално намалувајќи го расипништвото и нееднаквоста.

Од друга страна, таквото прецизно управување може да ја фрагментира самата идеја за јавност, заменувајќи го колективниот третман со индивидуализирана оптимизација и отежнувајќи го политичкото оправдување: зошто мојот случај беше третиран поинаку од оној на мојот сосед ако никогаш не одлучил човек?

Исто така, постои временска промена. Класичните бирократски и плански системи беа периодични и ретроспективни. Податоците од пописот секоја деценија, буџетите секоја фискална година, ревизии на политиките секоја законодавна седница.

Современите системи за вештачка интелигенција можат да функционираат континуирано, да внесуваат податоци во реално време и да ги прилагодуваат одлуките во од.

Ова воведува можност за динамично управување, што би било еден вид ротирачка администрација која секогаш е малку во промена.

Сепак, ова го комплицира надзорот. Кога одлуките постојано се ажурираат, што точно се оценува во законодавната ревизија или судската ревизија? Верзијата на моделот од минатиот месец, онаа од минатата недела или онаа што се спроведува утрово?

Управувањето предводено од вештачка интелигенција воведува нова распределба на дејствувањето. Денешните системи можат да генерираат опции и да предлагаат стратегии непредвидени од нивните дизајнери.

Ова ја замаглува линијата помеѓу поддршката на одлуките и донесувањето одлуки. Исто така, го менува множеството вештини потребни за јавните службеници. Тие сега мора да управуваат не само со популациите, туку и со моделите.

Тие мора да научат кога да веруваат, кога да ги занемарат и како да ги преведат јавните вредности во технички параметри.

Прашањето сега е дали моделот на вештачка интелигенција продолжува да учи на начин што е во согласност со демократската намера.

Рани студии на случаи

Алгоритамските системи се разликуваат од претходните административни технологии на три важни начини. Тие се адаптивни, се потпираат на веројатносни заклучоци, а не на фиксни правила, и работат на ниво што може да влијае на милиони случаи истовремено.

Овие својства им овозможуваат на владите да ги таргетираат ресурсите со невидена прецизност и да ги предвидат проблемите пред да ескалираат.

Тие исто така го зголемуваат влијанието на грешките, вградуваат пристрасности на начини што може да бидат тешки за откривање и го прават надзорот посложен.

Наместо да ги отфрламе овие случувања како јавни трикови или да се плашиме од нив како предвесници на машинско владеење, треба да ги третираме албанските и јапонските експерименти како рани студии на случаи.

Тие нудат можност да се дизајнираат нормите, практиките за ревизија и правните рамки што ќе го регулираат алгоритамското донесување одлуки пред тоа да стане длабоко вкоренето.

Албанија и Јапонија, намерно или не, го направија алгоритамското управување видливо.

Задачата сега е да се одлучи како да се одржи легитимно, оспорливо и во согласност со демократските принципи пред следната канцеларија да добие дигитална табличка со име.

Озан Ахмет Четин

Озан Ахмет Четин е раководител на програмата за технолошка политика во Фондацијата Куме и нерезидентен истражувач во Сета Вашингтон. Неговото истражување се фокусира на новите технологии со импликации врз националната безбедност.

Извор: ТРТ Ворлд

Напомена: Ставовите изразени во овој напис му припаѓаат на авторот и не ја одразуваат нужно уредувачката политика на ТРТ Балкан