OpenAI создает команду для контроля «сверхразумных» систем ИИ

Компания, стоящая за популярным чат-ботом с искусственным интеллектом (ИИ) ChatGPT, заявляет, что будет формировать команду для обуздания и управления рисками, связанными со сверхразумными системами искусственного интеллекта.

В объявлении от 5 июля в своем блоге OpenAI заявила, что новая команда будет создана для «управления системами искусственного интеллекта, которые намного умнее нас».

Некоммерческая организация заявила, что считает, что сверхразум станет «самой эффективной технологией, которую когда-либо изобретало человечество» и поможет решить многие проблемы, хотя и с определенными рисками.

«Огромная мощь сверхразума также может быть очень опасной и привести к бесправию человечества или даже его вымиранию».

Компания заявила, что считает, что сверхразум может появиться в этом десятилетии.

Компания заявила, что выделит на эти цели 20% вычислительных мощностей и нацелена на создание автоматизированного исследователя выравнивания «человеческого уровня». Теоретически автоматизированный исследователь помог бы команде управлять безопасностью сверхразумных систем и приводить ее в соответствие с «человеческими намерениями».

Соруководителями проекта названы ее главный научный сотрудник Илья Суцкевер и руководитель отдела согласования исследовательской лаборатории Ян Лейке. Компания обратилась с открытым призывом к исследователям и инженерам машинного обучения присоединиться к команде.

Это объявление от OpenAI сделано в то время, когда правительства по всему миру рассматривают меры по контролю за разработкой, развертыванием и использованием систем искусственного интеллекта.

Регулирующие органы Европейского союза добились наибольшего прогресса в регулировании искусственного интеллекта. 14 июня Европейский парламент принял Закон ЕС об искусственном интеллекте, который обязывает такие инструменты, как ChatGPT, раскрывать весь контент, созданный искусственным интеллектом, наряду с другими мерами.

Законодатели в США также представили “Закон о национальной комиссии по искусственному интеллекту” о создании комиссии, которая будет принимать решения о национальном подходе к ИИ. Регулирующие органы в США также открыто заявляли о своем желании регулировать эту технологию.

30 июня сенатор Майкл Беннет составил проект письма к крупным технологическим компаниям, включая OpenAI, в котором призвал маркировать контент, созданный искусственным интеллектом.

Хотите зарабатывать на крипте? Подписывайтесь на наши Telegram каналы!