Виталик Бутерин отправи предупреждение за изкуствения супер интелект

Съоснователят на Етериум Виталик Бутерин изрази загриженост относно рисковете от свръх интелигентния изкуствен интелект и подчерта необходимостта от силни защитни механизми.

Коментарите му идват в момент, когато въпросите, свързани с безопасността на AI, получават все по-голямо внимание.

В блог публикация от 5 януари Бутерин представи концепцията „d/acc“ (defensive acceleration), застъпвайки се за развитие на технологии, които защитават, а не вредят на човечеството. Той отново изрази загриженост относно рисковете, свързани с изкуствения интелект, включително потенциала за изчезване на човечеството, и отбеляза, че до изкуствения свръх интелект може да остават само няколко години.

Експертът предупреди, че ако човечеството не иска да се изправи пред катастрофални последици, трябва не само да ускорим полезния изкуствен интелект, но и да забавим вредните разработки. Той предложи създаването на децентрализирани системи за АI, тясно свързани с вземането на решения от човека, за да се сведат до минимум тези рискове.

Бутерин също така подчерта ролята на военната индустрия в рисковете, свързани с изкуствения интелект, като се позова на нарастващата употреба на AI в конфликти като тези в Украйна и Газа. Той изрази загриженост, че регулациите на изкуствения интелект може да изключат военните приложения, което може да представлява значителна заплаха.

За да се намалят рисковете, свързани с AI, Бутерин предложи потребителите да бъдат държани отговорни за неправилната им употреба. Той предложи също така да се създадат бутони за „мека пауза“, които да забавят опасните постижения на изкуствения интелект чрез намаляване на глобалната изчислителна мощност с 90-99% за 1-2 години, което да даде повече време за подготовка.

Освен това Бутерин препоръча да се контролира AI хардуерът чрез чип, който ще изисква международно одобрение, за да функционира. Този чип би гарантирал, че системите за изкуствен интелект функционират само ако получават седмично одобрение от поне три международни органа, един от които не бива да е свързан с армията.

Въпреки предложенията си Бутерин призна, че тези стратегии не са надеждни и са само временни решения.