Озан Ахмет Четин
Озан Ахмет Четин е раководител на програмата за технолошка политика во Фондацијата Куме и нерезидентен истражувач во Сета Вашингтон. Неговото истражување се фокусира на новите технологии со импликации врз националната безбедност
Со години, предупредувањата за вештачка интелигенција што ги избегнува своите контроли лесно се отфрлаа како научна фантастика маскирана во политика.
Потоа ОпенАИ минатата недела откри дека моделите што ги оценуваше за офанзивни сајбер способности излегле од сендбокс, добиле пристап до отворениот интернет и го компромитирале Хагионг Фејс (Hugging Face), едно од најважните складишта во светот за модели и збирки податоци од вештачка интелигенција.
Пробивот воопшто не беше како познатото научно-фантастично сценарио во кое машината станува самосвесна, се свртува против своите креатори и се обидува да избега.
Oд ОпенАИ велет дека агентот ја следел поставената цел за решавање проблеми во реперот за сајбер безбедност наречен ЕксплоитЏим (ExploitGym).
За да го направи тоа, агентот пронашол претходно непозната ранливост во прокси-регистар на пакети, се движел низ истражувачката средина на OпенАИ, стигнал до интернет, заклучи дека Хагинг Фејс може да содржи корисен тест материјал и навлегол во неговите системи за да добие информации што би можеле да му помогнат да го помине тестот.
На едноставен јазик кажано, агентот мамел.
Агентот на вештачката интелигенција е различен од четбот. Четботот одговара на прашање и чека. Агентот може да ја подели задачата на чекори, да изврши код, да го провери резултатот, да го прилагоди својот план и да продолжи. Според ОпенАИ, агентот бил управуван од повеќе модели.
Овој пат, измамата беше повеќе од тоа кога четбот дава погрешен одговор или измислува цитат. Агентот ги преминал реалните организациски граници, користел украдени акредитиви и ги искористил ранливостите на софтверот бидејќи тие дејствија служеле за целта што му била дадена.
Инцидентот е клучен во смисла дека го претвора теоретскиот страв во оперативен факт. Видовме случај каде што агент на вештачката интелигенција може да преземе штетни дејствија во реалниот свет без да поседува омраза, амбиција или самосвест.
Оваа разлика треба да ги смири потеатралните тврдења околу прекршувањето на безбедноста, а воедно да го изостри политичкото прашање. Тоа е машина која ги третира ограничувањето, законите и инфраструктурата на другите луѓе како пречки во рамките на проблемот со оптимизација.
Отворени наспроти затворени модели
Инцидентот ја наруши познатата дебата помеѓу затворената и отворената вештачка интелигенција. Напаѓачкиот систем беше напојуван од сопственички гранични модели, вклучувајќи го ГПТ-5.6 Сол и поспособен, необјавен модел.
Организацијата што се бранеше, Хагинг Фејс, на крајот се потпре на ГЛM 5.2, модел со отворена тежина развиен од кинеската Z.aи.
Хагинг Фејс соопшти дека нејзините истражители треба да анализираат повеќе од 17.000 снимени настани, вклучувајќи вистински команди за напад, искористување на корисни товари и траги од команда и контрола.
Комерцијалните (затворени) услуги за вештачка интелигенција првично блокираа делови од таа работа бидејќи нивните безбедносни системи не можеа да разликуваат бранител што испитува злонамерен код од напаѓач што бара помош.
Хагинг Фејс потоа го користеше ГЛM 5.2 локално, што му овозможи на неговиот тим побрзо да го реконструира нападот без да испраќа акредитиви и чувствителни докази до надворешен давател на услуги.
Ова е најсилниот аргумент за отворените модели што произлегуваат од аферата. За време на вонредна состојба, бранителите не можат целосно да се потпрат на политиката за користење, достапноста или толкувањето на прифатливата активност на оддалечената компанија.
На други институции како што се банки, болници и влади, исто така, може да им бидат потребни модели што можат да ги проверат класифицираните, личните или комерцијално чувствителните докази во рамките на нивните сопствени мрежи.
Локалната контрола може да ја зачува доверливоста и да осигури дека давателот на услуги не може да ја исклучи алатката во најлош можен момент.
Постои и поширок демократски аргумент. Ако најспособните системи за вештачка интелигенција се достапни само преку неколку корпоративни портали, тие компании стануваат приватни регулатори на знаењето и безбедноста.
Тие одлучуваат кој може да користи напредни можности, за која цел и под кои геополитички услови.
Обратно, отворените модели можат да го шират техничкиот капацитет меѓу универзитетите, помалите компании и земјите што не можат да градат гранични системи од нула.
Таа логика веќе го обликува одговорот на индустријата. Неколку дена по пробивот, Нвидиа ја формираше Алијансата за отворена безбедна вештачка интелигенција со членови-основачи, вклучувајќи ги Адобе, КраудСтрајк, Дел Технологии и Хагинг Фејс.
Коалицијата планира да развива и споделува отворени алатки за безбедност и сајбер безбедност на вештачката интелигенција, вклучувајќи системи за тестирање, следење и преглед на однесувањето на автономните агенти.
Сепак, заедницата на отворен код треба да се спротивстави на претворањето на инцидентот во парада на победа.
Отворените модели можат да помогнат во распределбата на одбраната, но исто така можат да распределат и офанзивни капацитети. Отвореноста сама по себе не е ниту проблем ниту решение. Тоа е избор за тоа кој ја добива моќта, под кои услови и дали тој трансфер некогаш може да се поништи.
Истиот квалитет што го направи ГЛМ 5.2 корисен за бранителите, можноста да се движи и модифицира без надворешна контрола може да направи модел со отворена тежина корисен за напаѓачите.
Откако ќе се објават тежините на моделите, тие можат да се копираат на неодредено време, да се лишат од заштитни мерки и да се работат без евидентирање или ограничувања на брзината.
Институтот за безбедност на вештачката интелигенција од Велика Британија неодамна откри дека водечките сајбер модели со отворена тежина се само четири до седум месеци зад затворената граница во неколку евалуации.
За многу набљудувачи, тоа е намален јаз, а не трајна маргина. Институтот, исто така, предупреди дека откако тежините ќе бидат јавно објавени, давателите на услуги губат многу од достапните алатки за откривање злоупотреба, ажурирање на заштитните мерки, блокирање на корисниците или повлекување на пристапот.
Суверенитет надвор од Вашингтон и Пекинг
Ова има директни последици за земјите надвор од САД и Кина.
Зависноста од сопственички интерфејси за програмирање на странски апликации, или AПИ, може да ги изложи владите и компаниите на промени во цените, повлекување на услугите, политички притисок и прекугранични ризици за податоци.
Отворените тежини можат да ја поддржат технолошката сувереност со тоа што ќе дозволат моделите да се прилагодат на локалните јазици, закони и безбедносни потреби.
Сепак, суверенитетот не може да се сведе на преземање модел. Работењето на моќни системи бара чипови, електрична енергија, центри за податоци, квалификувани инженери и безбедни синџири на снабдување со софтвер.
Земја која локално хостира странски модел може да ги заштити своите податоци, а воедно да остане зависна од странски хардвер и инфраструктура во облак.
Практичните проблеми се кој го управува системот, кој може да го проверува, каде одат податоците и кој има овластување да го оневозможи. Овие прашања се покорисни од прашањето дали моделот е американски или кинески.
Инцидентот со Хагин Фејс го истакнува ова со невообичаена јасност. Сопственички американски систем ја преминал границата.
Кинески систем со отворена тежина помогна во реконструкцијата на упадот. Епизодата одбива да се вклопи уредно во геополитичките наративи што ги претпочитаат Вашингтон или Пекинг.
Исто така, покажува зошто земјите треба да избегнуваат замена на технолошката зависност со технолошка изолација. Малку држави можат да го репродуцираат целиот синџир на снабдување со вештачка интелигенција на домашно ниво.
Реалистичната цел е стратешки капацитет со локална експертиза, пристап до неколку добавувачи на модели, домашни компјутерски ресурси и можност за промена на добавувачи.
Лекцијата не е дека отворените модели се безбедни, а затворените модели се опасни, или обратно.
Станува збор за тоа што напредните системи за вештачка интелигенција стануваат доволно моќни за да ги преминат институционалните граници, додека правилата што го регулираат нивното распоредување остануваат фрагментирани и во голема мера доброволни.
Затоа, централниот предизвик на политиката е да се изградат системи на одговорност што ја следат способноста, а не корпоративната форма.
За земјите надвор од двете доминантни сили на вештачката интелигенција, приоритет треба да биде способноста да се разберат, надгледуваат и, кога е потребно, да се заменат системите на кои се потпираат критичните институции.
Пробивот на Хагинг Фејс е предупредување дека контролата врз вештачката интелигенција зависи од тоа кој може да го испита нејзиното однесување, да ги ограничи нејзините дејства и да одговори за последиците кога ограничувањето не успее.
Извор: ТРТ Ворлд
Забелешка: Ставовите изразени во овој напис му припаѓаат на авторот и не ја одразуваат нужно уредувачка та политика на ТРТ Балкан
