Заплаха ли е изкуственият интелект за човечеството – ето какво мислят технологичните лидери

Пионерите в областта на изкуствения интелект (AI) в момента са въвлечени в разгорещен дебат за най-значимите опасности, които крие тази трансформираща се технология. Този дебат може да бъде разделен на два противоположни лагера.

Единият лагер, който включва влиятелни фигури, отговорни за разработването на усъвършенствани AI системи, твърди, че най-сериозната заплаха се крие в потенциалните екзистенциални рискове, свързани с AI.

Дарио Амодей, който ръководи разработчика на изкуствен интелект Anthropic и Сам Алтман, ръководител на OpenAI (създател на ChatGPT), са видни представители на този лагер. 

Те споделиха опасения, че AI може да доведе до катастрофални последици за човечеството. Дори Илон Мъск алармира за това, заявявайки, че шансът AI да унищожи човечеството не е равен на нула.

Алтман, Мъск и други водещи ръководители на AI бяха поканени да участват в поредица от срещи на тема изкуствен интелект при закрити врата, организирани от лидера на мнозинството в Сената на САЩ Чък Шумър, за да обсъдят теми като “сценариите на Страшния съд“.

За разлика от тях, противоположният лагер на учените, занимаващи се с AI, твърди, че тези предупреждения за екзистенциални рискове често са сензационни и се подхранват от научнофантастични разкази.

Те подчертаха, че непосредствената загриженост трябва да бъде насочена към това как AI се прилага в момента и как технологията може да причини вреди в нашето ежедневие. Те посочиха заплахи като AI инструменти, които могат да генерират дезинформация по време на избори и системи, които засилват съществуващите човешки пристрастия.

Този спор набира скорост, тъй като компаниите и правителствата по целия свят се борят с решенията за това къде да насочат ресурсите и вниманието си, за да използват ползите от AI, като същевременно сведат до минимум потенциалните му негативни страни. Разделението става все по-очевидно и повдига въпроси относно приоритетите в областта на AI.

Дебатът за екзистенциалния риск от изкуствения интелект исторически е бил отнесен до нишова група от философи и изследователи на AI. Той обаче придоби известност с пускането на ChatGPT на OpenAI и последвалото му усъвършенстване, което предизвика опасения, че подобни системи могат да постигнат свръхчовешки интелект. 

Влиятелни фигури като Джефри Хинтън, ключова фигура в развитието на AI, твърдят, че ChatGPT проявява способности за разсъждение, подобни на човешките. Това доведе до по-открита дискусия относно рисковете, свързани с технологията.

Въпреки че все повече се признават екзистенциалните рискове, също така се признава важността на справянето с непосредствените, реални заплахи, породени от AI. Някои твърдят, че подчертаването на екзистенциалните рискове може да подобри възприемането на сложността на AI което потенциално може да бъде от полза за компаниите, занимаващи се с технологията.

Други обаче твърдят, че създателите на политики трябва да дадат приоритет на краткосрочните проблеми, като например потенциала на AI да разпространява невярна информация или да концентрира власт в големи технологични компании.

Друг спорен момент са етичните съображения, свързани с опасенията, че системите с изкуствен интелект могат да затвърдят исторически предразсъдъци и експлоатация. Липсата на разнообразие сред изследователите на ИИ се разглежда като сляпо петно при решаването на тези въпроси.

Като цяло общността на AI е разделена по въпроса дали да се даде приоритет на екзистенциалните рискове или на непосредствените практически предизвикателства. Някои смятат, че двете страни са непримирими, докато други смятат, че и двете опасения трябва да се разглеждат едновременно, за да се гарантира отговорно развитие на AI.

Източник: WSJ