Новите предупредувања од индустријата за вештачка интелигенција ја оживеаја долгогодишната дебата за тоа дали напредната вештачка интелигенција би можела да избега од човечка контрола и на крајот да го загрози опстанокот на човештвото и дали компаниите што ја развиваат технологијата прават доволно за да спречат такво сценарио.

Извршниот директор на Антропик, компанијата од Сан Франциско што стои зад Клауд, рече дека смета оти индустријата треба да ја намали брзината на својата работа, предупредувајќи во саботата дека рој агенти на вештачката интелигенција би можеле да го преземат интернетот за шест месеци до една година, освен ако компаниите не посветат повеќе време на воспоставување заштитни мерки.

Дарио Амодеи изложи план за компании како неговата и владите ширум светот за да се осигурат дека сè поспособните модели на вештачка интелигенција остануваат усогласени со командите и вредностите на одговорните луѓе, неколку дена откако двајца поранешни истражувачи за безбедност на Aнтропик јавно изразија загриженост дека егзистенцијалните закани што вештачката интелигенција може да ги претставува за човештвото добиваат премалку внимание.

Еве што знаеме за неодамнешните ужасни предвидувања и дали може да се стави некаков сопирачки на развојот на вештачката интелигенција:

Моделите на вештачката интелигенција стануваат сè помоќни

Загриженоста за потенцијалните ризици од технологијата расте како што новите модели на вештачка интелигенција стануваат сè помоќни, зголемувајќи го и потенцијалот за злоупотреба од страна на луѓе со криминални цели, како што се создавање и ширење болест, и ризикот од системите на вештачка интелигенција да станат несоодветни на опасен начин.

Антропик минатата недела откри дека ги блокирал напорите на лошите актери да ги користат нејзините модели на вештачка интелигенција за злонамерни активности, како што се сајбер напади, надзор и истражување што можело да доведе до биолошко оружје.

Компанијата соопшти дека вовела посилни заштитни мерки во своите најнови модели за да ги ограничи биолошките истражувања што би можеле да се користат за производство на оружје, но забележа дека „како што моделите стануваат сè поспособни, нивните ризици ќе се зголемат, освен ако развивачите на вештачка интелигенција и бранителите на општеството не дејствуваат за да ги направат побезбедни“.

Минатата година, Антропик објави дека хакерите ја користеле вештачката интелигенција на компанијата во сајбер напад насочен кон околу 30 компании и владини агенции низ целиот свет.

Повеќе модели на вештачка интелигенција дејствувале самостојно

Кога агент на вештачка интелигенција „се одметнал“, тоа значи дека вештачката интелигенција презела акција надвор од задачата што била побарана да ја изврши.

И Aнтропик и OпенАИ, производителот на ЧетЏПТ, изјавија во јули дека нивните модели на вештачка интелигенција успеале да дејствуваат самостојно.

Aнтропик откри дека три модели на вештачка интелигенција - Клауд Опус 4.7, Клауд Митос 5 и внатрешен модел за тестирање на истражување - хакирале во три други организации за време на тестирањето само неколку дена откако OпенAИ откри дека нивниот систем на вештачка интелигенција ги хакирал серверите на стартапот за вештачка интелигенција Хагинг Фејс.

OпенАИ го опиша упадот од комбинација на модели, вклучувајќи го и неговиот новообјавен ЏПТ‑5.6 Сол и „уште поспособен“ модел кој сè уште се тестирал интерно, како „значаен безбедносен инцидент“.

Meта го следеше примерот на почетокот на август со сличен случај на модел на вештачка интелигенција кој наоѓа начини да ја заобиколи дигиталната безбедност на друга компанија.

Иако некои набљудувачи забележаа дека луѓето оневозможиле некои заштитни огради во случаите ОпенAИ и Aнтропик, епизодите се чини дека го одразуваат еден од најголемите стравови околу вештачката интелигенција: дека ако моделите постигнат вештачка општа интелигенција, или AГИ, лабаво дефиниран термин за вештачка интелигенција што може да се совпадне или надмине човечките способности низ широк спектар на интелектуални задачи, технологијата би можела да предизвика неповратен катастрофален настан или да ја потчини човечката раса.

Како или кога вештачката интелигенција би можела да предизвика катастрофа

Сценаријата за судниот ден генерално спаѓаат во две категории: вештачка интелигенција што постигнува самоподобрувачка суперинтелигенција ги контролира луѓето наместо обратно, или вештачка интелигенција што ја користи „одметната држава“ или „злобни актери“.

Загриженоста дека вештачката интелигенција би можела да ги надмине човечките граници на својот дострел или дејствија не е нова.

Алан Тјуринг, британски математичар кој е широко познат како еден од најраните авторитети за вештачка интелигенција, предвиде во 1951 година дека вештачката интелигенција на крајот ќе ја преземе контролата од луѓето.

Помалку од една деценија подоцна, Норберт Винер, друг математичар, предупреди дека интелигентните машини ќе се обидат да ги остварат своите цели, а луѓето нема да можат да ги спречат.

Во 2026 година, колку се разумни стравувањата дека вештачката интелигенција, или преку избегнување на човечка контрола или преку злоупотреба од страна на бескрупулозни луѓе, би можела да предизвика катастрофален настан или пропаст на цивилизацијата?

Никој не знае.

Експерти од компјутерските науки, филозофијата и други области предвидоа бројни патишта преку кои идниот систем на вештачка интелигенција би можел да предизвика глобална катастрофа, или преку избегнување на човечка контрола или во рацете на бескрупулозни луѓе.

Тие се движат од распоредување оружје и идентификување на смртоносен патоген до манипулирање на владите за да се предизвикаат или нарушат производството или транспортот на храната, енергијата и комуникациските мрежи врз кои општествата се потпираат за да функционираат.

Не постои широко прифатена проценка за тоа колку брзо би можело да се случи некое од овие сценарија и нема консензус за нивната веројатност.

Во 2023 година, непрофитниот Центар за безбедност на вештачката интелигенција издаде соопштение потпишано од повеќе од 350 истражувачи и технолошки директори, вклучувајќи го Амодеј од Антропик и извршниот директор на ОпенАИ, Сем Алтман, во кое се вели: „Ублажувањето на ризикот од истребување од вештачката интелигенција треба да биде глобален приоритет заедно со пандемиите и нуклеарната војна“.

Меѓународниот извештај за безбедност на вештачката интелигенција за 2026 година, напишан со водство од повеќе од 100 независни експерти, вели дека сегашните системи покажуваат рани знаци на некои релевантни способности, но не на нивоа што би можеле да овозможат губење на контролата, а веројатноста, природата и времето на ризикот ги опишуваат како „невообичаено двосмислени“.

Потреба од заштитни мерки од ВИ пред да биде предоцна

Истражувач на Антропик минатата недела изјави дека поднесува оставка од компанијата поради загриженост дека ниту компанијата ниту нејзините конкуренти не дејствуваат одговорно во развојот на технологијата.

Во објавите на социјалните мрежи, Џејкоб Коксон процени дека има 10 проценти шанси вештачката интелигенција да предизвика истребување на луѓето во следната деценија и рече дека и Aнтропик и OпенAИ „трчаат директно кон самоподобрување на суперинтелигенцијата и се коцкаат со нашите животи“.

Алтман објави дека ОпенАИ нема да излезе на берза во 2026 година, наведувајќи ги безбедносните грижи во врска со вештачката интелигенција, кои го прават „неприфатлив“ дури и 10 процентен ризик дека вештачката интелигенција може да предизвика истребување на луѓето до крајот на деценијата.

Истражувачите повикуваат на забавување на развојот на вештачката интелигенција и со години предупредуваат дека технологијата може да претставува егзистенцијални ризици за човештвото.

По неодамнешните инциденти, експертите повикаа на подобрено тестирање од страна на компаниите за вештачка интелигенција и поголем дијалог меѓу САД и Кина за да се дојде до заеднички решенија.

Но вештачката интелигенција расте толку брзо што владите и системите за евалуација се борат да го одржат чекорот со технологијата. Земјите ги составуваат своите закони, од кои некои се спротивставени.

Кинескиот лидер Кси Џинпинг предупреди на конференција во јули за потребата да се спречи вештачката интелигенција да ја избегне човечката контрола.

Администрацијата на Трамп првично покажа неподготвеност да ја регулира вештачката интелигенција, но стана позаинтересирана да ги намали ризиците од сајбер безбедноста.

Во неделата, претседателот Трамп ја намали потребата неговата администрација да го контролира развојот на вештачката интелигенција, но ја призна потребата од одредена регулација.