Компанијата за вештачка интелигенција Aнтропик предложи глобална пауза во градењето на најмоќните системи за вештачка интелигенција, бидејќи најновите модели почнуваат да покажуваат знаци дека би можеле да избегаат од човечка контрола.

Компанијата со седиште во Сан Франциско, која го произведува семејството модели за вештачка интелигенција Клауд, во извештајот од четвртокот изјави дека светското забавување на развојот на врвната вештачка интелигенција „веројатно би било добра работа“ - но предупреди дека ако само една компанија застане, конкурентите едноставно ќе брзаат напред.

„Веруваме дека би било добро светот да има можност да го забави или привремено да го паузира развојот на напредната вештачка интелигенција за да им овозможи на општествените структури и истражувањето за усогласување да бидат во чекор со напредокот на технологијата“, се вели во извештајот.

Според Антропик, добивањето вистинска пауза во работата би значело дека повеќето големи компании за вештачка интелигенција во повеќе земји - особено САД и Кина - сите би се согласиле да престанат во исто време, според правилата што секој може лесно да ги потврди.

„Без глобален координативен механизам, компаниите и владите ќе мора да донесат тешки одлуки за безбедноста додека се под конкурентски и геополитички притисоци“, се вели во соопштението.

Компанијата се соочи со отпор од другите во индустријата - и од претставници на Белата куќа - кои велат дека нејзиниот фокус на најлошите сценарија ги преценува ризиците и претставува стратегија за забавување на конкурентите под маската на безбедносните проблеми.

Сепак, Белата куќа ја призна моќта на моделот Митос (Mythos) на компанијата - кој не е достапен за пошироката јавност поради неговите способности поврзани со сајбер безбедност и во моментов е распореден само во мал број проверени организации.

Предлогот би се соочил со тешка битка во Вашингтон и Силиконската долина, каде што американските претставници и технолошките директори постојано тврдат дека секое забавување на развојот на вештачката интелигенција ризикува да ѝ даде на Кина одлучувачка стратешка предност, во она што многумина го сметаат за дефинирачка технолошка трка на векот.

Сепак, американскиот претседател Доналд Трамп рече дека разговарал за можноста за соработка со Кина по прашањата за безбедноста на вештачката интелигенција за време на неговата неодамнешна посета на Пекинг.

Трамп, исто така, потпишал извршна наредба оваа недела што ѝ дава на владата 30 дена да спроведе прелиминарен преглед на најмоќните американски модели на вештачка интелигенција пред нивното објавување.

Стеснување на човечката улога

Антропик го спореди проблемот со договорите за контрола на нуклеарно оружје - но рече дека ќе биде уште потешко да се справи со него, бидејќи обуката за вештачка интелигенција е многу полесна за криење отколку ракетен силос, а искушението тивко да се продолжи би било огромно.

Компанијата соопшти дека планира во наредните месеци да собере владини претставници, научници, групи за застапување и конкурентски фирми за вештачка интелигенција за да откријат како би можел да функционира таков систем.

Повикот за координација доаѓа заедно со внатрешните податоци што покажуваат дека вештачката интелигенција веќе драматично го забрзува развојот на самата вештачка интелигенција, рекоа од Антропик.

Тоа забрзување создава повратна јамка за која Антропик предупреди дека на крајот би можела да доведе до она што истражувачите го нарекуваат „рекурзивно самоподобрување“.

Тоа е идејата за систем на вештачка интелигенција што станува способен во суштина да се научи себеси да стане попаметен, без многу човечка помош.

„Сè уште не сме таму, а рекурзивното самоподобрување не е неизбежно“, се вели во извештајот, но се додава дека може да пристигне порано отколку што се подготвени повеќето влади и институции.

„Доказите сугерираат дека човечката улога се стеснува на секој чекор во процесот на развој на вештачката интелигенција“, велат од компанијата.

Извор: АФП