Идејата машините самостојно да се справуваат со досадни секојдневни задачи - од одговарање на е-пошта до резервации на летови и правење резервации за вечера - долго време е дел од визијата за вештачката интелигенција.
Сега, таа иднина почнува да пристигнува, но со неочекувана стапица: што се случува кога машината прави точно она што е побарано од неа, само не на начинот на кој корисникот планирал?
Како што вештачката интелигенција се движи подалеку од чет-ботовите кон агенти способни да преземаат дејства во системи од реалниот свет, низа неодамнешни инциденти ја засилија загриженоста за тоа колку контрола ќе задржат луѓето додека технологијата станува сè поавтономна.
За Џон Тикстун, доцент по компјутерски науки на Универзитетот Корнел, кој истражува машинско учење и генеративни модели, дефинирачката карактеристика на овие агенти на вештачката интелигенција е тоа што тие продолжуваат да работат откако човекот ќе се оддалечи.
„Можете да се истуширате, да прошетате, можете да одите на спиење“, изјави тој за Анадолу.
Сè повеќе, тие агенти покажуваат дека можат да изберат неочекувани патишта за да ги постигнат своите цели.
Во јули, агентите на вештачката интелигенција ја компромитираа платформата Хагинг Фејс (Hugging Face), платформа што широко ја користат развивачите на вештачка интелигенција за споделување модели, бази на податоци и алатки, за време на тестот за сајбер безбедност на OпенАИ.
Од OпенАИ изјавија дека моделите биле „хиперфокусирани на наоѓање решение“ и отишле во „екстремни должини“ за да ја постигнат својата цел за тестирање.
Овие чекори вклучувале излегување од затворената тест-средина со искористување на безбедносна ранливост за да се стигне до отворениот интернет и добивање пристап до „тајни информации“ што би можеле да се користат за „измама“ на тестот.
Откако инцидентот стана јавен, Антропик го прегледа сопственото тестирање за сајбер безбедност и откри дека неговите модели Клауд, исто така, избегале од тест-средините во три наврати.
Потоа, на 4 август, британскиот Институт за безбедност на вештачката интелигенција изјави дека моделите Митос на Aнтропик и Сол на OпенAИ дејствувале во ниво на „автономија и измама“ што не го виделе порано.
Во најсериозниот случај, Митос користел лажни сметки имитирајќи вистински луѓе за да добие пристап до услуга за обиди за сајбер напади - а потоа се обидел да ги скрие своите траги.
„Ова е прв пат да видиме ризици околу автономијата и измамата што се манифестираат јасно, без конкретно поттикнување, во реалниот свет“, соопшти институтот за инцидентот.
Следниот ден, Мета откри дека еден од неговите модели, исто така, ги пробил системите на друга компанија за време на евалуацијата на сајбер безбедноста спроведена од фирмата за тестирање Ирегулар.
Меѓутоа, неочекуваното однесување на агентите не е ограничено само на лабораториите.
Оваа година, еден Австралиец наводно користел агент на вештачка интелигенција за да обезбеди место на час по пилатес за кој немало слободни термини. Наместо едноставно да направи резервација, агентот го хакирал системот за резервации на теретаната, резервирал порано од однапред дозволеното време и ја откажал резервацијата на друг клиент за да го помести својот корисник на листата на чекање.
За Тикстун, ваквите инциденти го илустрираат она што истражувачите го опишуваат како проблем со усогласување: вештачката интелигенција успешно ја следи целта што ѝ е дадена, но го прави тоа на начин, кој неговиот оператор немал намера да го направи.
Возбуда или вистински ризик?
Но Тикстун предупредува да не се третира секој таков инцидент како доказ за „нечесна вештачка интелигенција“.
Технологијата, тврди тој, останува далеку од научнофантастичното сценарио во кој вештачката интелигенција брзо станува поинтелигентна и поспособна сè додека луѓето повеќе не можат да ја контролираат.
„Се чини дека ова не е сценарио што се случило“, рече тој.
Тикстун е исто така скептичен во однос на тоа како компаниите за вештачка интелигенција ги презентираат инцидентите што ги вклучуваат сопствените системи.
„Ова е продажниот публицитет, каде што компаниите како OпенAИ отсекогаш имале интерес да ги преувеличуваат можностите на своите системи“, рече тој. „Секој публицитет е добар публицитет“.
Тој смета дека таквата возбуда може да поттикне инвестиции, а истовремено да влијае на новата дебата за регулативата.
OпенAИ, вели Тикстун, би можела да има корист од регулативите што ги ставаат големите компании за вештачка интелигенција во центарот на надзорот и контролата.
Брус Шнајер, експерт за сајбер безбедност и предавач на Харвард Кенеди школата, има поинаков став, велејќи дека растечкиот број инциденти ги прави сè потешки за отфрлање како рекламни трикови.
„Првично имаше сугестии дека инцидентот со Хагинг Фејс е маркетиншки трик“, изјави Шнајер за Анадолу. Но, тој истакна дека слично однесување оттогаш се појавило и во други евалуации, вклучително и во тестирањето од страна на Британскиот институт за безбедност на вештачката интелигенција.
„Се смени од- ох, тоа е интересно, до тоа што се случува насекаде- и мислам дека тоа е важно“, рече тој.
Тој го спореди проблемот со традиционалната приказна за духот од ламбата- суштество кое дава точно она што некој го бара, дури и кога исходот е многу различен од посакуваното.
„Тоа приближно значи кога вештачката интелигенција го прави она што го сакате на начин на кој не сте го сакале“, рече Шнајер.
Тој го нарече инцидентот со австралиската теретана „совршен пример“ и понуди позначајна хипотетичка варијанта: „Летот е полн, а вештачката интелигенција ја хакира базата на податоци за да ве внесе внатре“.
Агентите можат „погрешно да го протолкуваат контекстот, а потоа да направат погрешна работа“, рече тој, што значи дека поголемата автономија може да создаде поголеми последици кога нивното толкување на целта се разликува од човечките очекувања.
„Тие не се обидуваат да бидат злонамерни. Тие го користат разбирањето што го имаат“, рече тој.
Влоговите стануваат уште поголеми кога се распоредуваат сè повеќе автономни агенти во сајбер безбедноста.
Тајван минатиот четврток соопшти дека владините агенции во јули биле цел на сајбер напад со помош на вештачка интелигенција што потекнувал од странство. Властите рекоа дека нападот бил успешно ублажен.
Истражувачите за сајбер безбедност одделно ја опишале операцијата како „речиси автономна“, велејќи дека повеќе агенти на вештачка интелигенција ги мапирале и искористиле ранливостите низ тајванските владини системи и ги менувале тактиките кога наишле на пречки.
За Шнајер, ваквите случувања го илустрираат ризикот од сè поспособни модели што работат надвор од контролирани средини.
„Сето ова се менува толку брзо. Се грижам за моќта на моделите во неовластени раце“, рече тој, додавајќи дека темпото на развој ги отежнува решенијата бидејќи демократските влади се движат бавно.
Можат ли владите да го држат духот под контрола?
Најновите случувања ги поттикнаа компаниите и владите да реагираат.
OпенAИ на 7 август соопшти дека ги паузира внатрешните активности поврзани со нејзиниот модел Aстра, кој е во развој, а не ги исполнува зајакнатите безбедносни барања, откако евалуациите покажаа напредок во автономното кодирање и сајбер безбедноста.
Компанијата соопшти дека не може да ја исклучи можноста Aстра да го достигне својот „критичен“ праг на сајбер способност и најави построго тестирање и следење.
Aнадолу контактирал со Антропик за коментар, но компанијата соопшти дека нејзиниот тим не е достапен за интервју.
Во јули, 1.378 вработени во компании за напредна вештачка интелигенција, вклучувајќи ги и главните научници на OпенAИ, Aнтропик, Mета AИ и Тинкинг Машинс, потпишаа отворено писмо со кое ја повикуваат американската влада да поддржи меѓународен напор за регулирање на моделите на вештачка интелигенција.
„Секоја компанија- и земја- е под интензивен конкурентски притисок еднострано да не го забави тоа забрзување. А денес на светот му недостасуваат технички и управувачки алатки за намерно забрзување на целиот напредок“, се предупредува во писмото.
Меѓународната телекомуникациска унија, агенција на ОН, во јули соопшти дека вештачката интелигенција се движи „надвор од помошните алатки“ кон автономни агенти, предупредувајќи на ризици, вклучително и „преземање неовластени дејствија низ меѓусебно поврзани системи“.
Таа покрена иницијатива за развој на меѓународни стандарди за безбедни и одговорни агенти на вештачката интелигенција.
Политичкиот притисок расте и во Вашингтон.
Американскиот сенатор Берни Сандерс овој месец ги повика лидерите на OпенАИ, Aнтропик и Мета да го „паузираат развојот на вештачката интелигенција“, предупредувајќи дека во спротивно „моите колеги и јас во Сенатот на САД ќе го сториме тоа“.
Група демократи во Претставничкиот дом одделно повика на конгресни сослушувања со лидерите на големите компании за вештачка интелигенција.
Сепак, за Тикстун, креаторите на политиките се соочуваат со големи предизвици.
„Тешко прашање е бидејќи едвај разбираме какви ќе бидат предизвиците со воведувањето на вештачката интелигенција“, рече тој.
Тикстун вели дека е потребно одредено ниво на меѓународна соработка, што укажува дека дискусиите меѓу САД и Кина би можеле да бидат особено важни бидејќи релативно малку земји и компании имаат ресурси за развој на врвни модели на вештачка интелигенција.
Претседателот на САД, Доналд Трамп, изјави дека ќе разговара за прашања поврзани со вештачката интелигенција со кинескиот претседател Кси Џинпинг за време на нивниот планиран состанок во Вашингтон следниот месец.
„Тоа не е голем, широк проблем на колективна акција. Има неколку луѓе кои, ако би можеле да ги внесете во просторијата, потенцијално би можеле да постигнат некаков договор за тоа како да се продолжи“, рече Тикстун.
Извор: АА
