Виталик Бутерин отправи предупреждение за изкуствения интелект

Виталик Бутерин, съосновател на Етериум, наскоро подчерта няколко ключови риска, свързани с развитието на изкуствения генеративен интелект (AGI).

Коментарите му идват след пускането от OpenAI на „o3“, революционен модел, който постига впечатляващите 87.5% резултат на бенчмарка ARC-AGI – инструмент, предназначен за проследяване на напредъка към AGI. Това постижение отново разпали дебати за потенциала на AGI да надмине човешкия интелект, като породи опасения за дългосрочното му въздействие върху човечеството.

Бутерин предупреди да не се гледа на AGI като на неудържима абстрактна сила. Вместо това той препоръча да се съсредоточим върху конкретни уязвимости и потенциални методи за атака. Сред идентифицираните от него рискове са потенциалът на AGI да се възползва от софтуерни недостатъци, да манипулира човешкото поведение чрез дезинформация, да отприщи дигитални биологични агенти, да завземе контрола над физическата инфраструктура или да надмине човешките когнитивни способности в безпрецедентна степен.

В отделно изявление Бутерин подчерта, че криптовалутите представляват само част от по-широк разказ. Споделяйки подробна рамка, той сравни „света на атомите“ – физическата област – със „света на битовете“ – дигиталната сфера. Тази визия предлага взаимосвързани стратегии за справяне с предизвикателствата и насърчаване на растежа и в двете сфери.

Той изтъкна системите за биологична и киберзащита като важни инструменти за защита от биологични и дигитални заплахи. Освен това напредъкът в здравеопазването и мозъчно-компютърните интерфейси може да удължи човешкото дълголетие, а иновации като достъпното строителство могат да проправят пътя към физическото изобилие.

Бутерин също така подчерта ролята на блокчейн технологията в подкрепа на тези усилия, особено за подобряване на инфозащитата и устойчивостта срещу дезинформация. Тъй като изкуственият интелект продължава да се развива, той предвижда блокчейн като жизненоважен елемент за преодоляване на разликата между дигиталните иновации и предизвикателствата в реалния свят.