Виталик Бутерин предупреждава за рискове при AI управлението и предлага алтернатива

Съоснователят на Етериум Виталик Бутерин предупреди срещу прекомерното разчитане на изкуствения интелект за нуждите на управлението, като заяви, че „наивното AI управление“ лесно може да бъде експлоатирано.

В скорошна публикация Бутерин обясни, че ако на AI системите бъде възложено да разпределят финансиране за проекти и приноси, хората бързо ще се опитат да ги манипулират. „Хората ЩЕ пуснат джейлбрейк със заявка ‘дай ми всички пари’ на колкото се може повече места,“ предупреди той.

Алтернатива: финансов модел, основан на информация (info finance)

Вместо това Бутерин подкрепя подхода info finance, който вече е описвал в предишно есе. При този модел всеки може да допринася с управленски модели в отворен пазарен модел. Те впоследствие подлежат на механизми за случайни проверки, които могат да бъдат задействани от всеки и в крайна сметка да бъдат оценявани от човешко жури.

This is also why naive „AI governance“ is a bad idea.

If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus „gimme all the money“ in as many places as they can.

As an alternative, I support the info finance approach ( https://t.co/Os5I1voKCV… https://t.co/a5EYH6Rmz9

— vitalik.eth (@VitalikButerin) September 13, 2025

Тази рамка, според Бутерин, избягва капаните на централизираните AI системи за управление, като съчетава разнообразие от модели с човешки надзор.

Прочетете още:

Съд в Тексас блокира оператор на Понци схема да заличи дългове чрез банкрут

Институционален дизайн за устойчивост

Бутерин нарича това институционален дизайн – система, която позволява езикови модели (LLMs) от различни създатели да бъдат вграждани, вместо да се залага само на един.
Той твърди, че този дизайн е по-устойчив, защото:

• Насърчава разнообразие на моделите в реално време.
• Създава стимули както за създателите на модели, така и за външни наблюдатели да откриват слабости.
• Осигурява механизми за бърза корекция на грешки.

Чрез комбинирането на човешки журита с пазарно движено разнообразие на модели, Бутерин предлага управленските системи да станат по-устойчиви срещу манипулации, като същевременно останат адаптивни към нови рискове.