Виталик Бутерин: ИИ может превзойти человека как «высший вид»

По словам соучредителя Ethereum Виталика Бутерина, сверхпродвинутый искусственный интеллект (ИИ), если его оставить без контроля, имеет «серьезный шанс» превзойти людей и стать следующим «высшим видом» планеты.

Мир, который я не хочу видеть. Источник: Vitalik.eth.

В своем сообщении в блоге от 27 ноября Бутерин, заявил, что ИИ «фундаментально отличается» от других изобретений, таких как социальные сети, контрацепция, самолеты, оружие, колесо и печатный станок - поскольку ИИ может создать новый тип «разума», который может обернуться против человеческих интересов, добавив:

«ИИ - это [...] новый тип разума, который быстро набирает интеллект, и у него есть серьезный шанс обогнать умственные способности людей и стать новым высшим видом на планете».

Бутерин утверждал, что, в отличие от изменения климата, искусственной пандемии или ядерной войны, сверхразумный ИИ потенциально может положить конец человечеству и не оставить никого в живых , особенно если он рассматривает людей как угрозу своему выживанию.

«Один из способов, по которым сбой в работе ИИ может сделать мир хуже, - это (почти) худший из возможных способов: он может буквально привести к вымиранию человечества».

Бутерин процитировал опрос, проведенный в августе 2022 года среди более чем 4270 исследователей машинного обучения, которые оценили вероятность того, что ИИ убьет человечество, составляет 5–10%.

Однако, хотя Бутерин подчеркнул, что заявления такого рода являются крайними, у людей также есть способы одержать победу. Он предложил интегрировать интерфейсы «мозг-компьютер» (BCI), чтобы предоставить людям больший контроль над мощными формами вычислений и познания на основе искусственного интеллекта.

BCI - это путь связи между электрической активностью мозга и внешним устройством, например компьютером или роботизированной конечностью.

По словам Бутерина, это позволит сократить цикл двусторонней связи между человеком и машиной с секунд до миллисекунд и, что более важно, гарантировать, что люди сохранят некоторую степень «значимой активности» в мире.

Схема, изображающая две возможности обратной связи между людьми и ИИ. Источник: Vitalik.eth.

Бутерин предположил, что этот маршрут будет безопаснее, поскольку люди смогут участвовать в каждом решении, принимаемом машиной ИИ.

«Мы [можем] уменьшить стимул перекладывать ответственность за планирование высокого уровня на сам ИИ и тем самым уменьшить вероятность того, что ИИ самостоятельно сделает что-то, совершенно не соответствующее ценностям человечества».

Соучредитель Ethereum также предположил «активное человеческое намерение» контролировать ИИ в направлении, которое принесет пользу человечеству, поскольку максимизация прибыли не всегда ведет людей по наиболее желательному пути.

Бутерин пришел к выводу, что «мы, люди, являемся самой яркой звездой» во Вселенной, поскольку мы разработали технологии, позволяющие расширить человеческий потенциал на тысячи лет и, надеюсь, еще на многие годы вперед:

«Через два миллиарда лет, если Земля или какая-либо часть Вселенной все еще будет нести красоту земной жизни, именно человеческие изобретения, такие как космические путешествия и геоинженерия, сделают это возможным».

Бутерин также предлагает задуматься о том, какой была бы жизнь в мире, которым управляет ИИ. Он ссылается на серию книг Иэна Бэнкса «Культура», где люди сосуществуют с могущественными искусственными интеллектами.

Это воображаемое будущее предлагает долголетие, здоровье и развлечения, но потенциальной ценой — люди могут потерять контроль над миром.

Это поднимает важнейший вопрос о будущем сосуществовании человечества с ИИ: будем ли мы партнерами или просто пассажирами в мире, управляемом машинным интеллектом?

Хотите зарабатывать на крипте? Подписывайтесь на наши Telegram каналы!