«Крестный отец ИИ» уходит из Google, предупреждая об опасностях ИИ

Пионер искусственного интеллекта по прозвищу «Крестный отец ИИ» подал в отставку со своей должности в крупной технологической фирме Google, чтобы более открыто говорить о потенциальных опасностях этой технологии.

До ухода в отставку доктор Джеффри Хинтон более десяти лет работал в Google над алгоритмами машинного обучения. Сообщается, что он получил свое прозвище из-за того, что всю жизнь работал над нейронными сетями.

Доктор Джеффри Хинтон (Geoffrey Hinton).

Однако в твите от 1 мая Хинтон пояснил, что оставил свою должность в Google, «чтобы я мог говорить об опасностях ИИ».

В интервью The New York Times его самой непосредственной заботой об ИИ было его использование для наводнения Интернета поддельными фотографиями, видео и текстом до такой степени, что многие «больше не смогут знать, что является правдой».

Другие опасения Хинтона касались технологии искусственного интеллекта, занимающей рабочие места. Он считает, что в будущем ИИ может представлять угрозу для человечества из-за того, что он учится неожиданному поведению на основе огромных объемов анализируемых им данных.

Он также выразил обеспокоенность продолжающейся гонкой вооружений с использованием ИИ, направленной на дальнейшее развитие технологии для использования в смертоносных автономных системах вооружения (LAWS).

Хинтон также выразил частичное сожаление по поводу работы всей своей жизни:

«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой».

В последние месяцы регулирующие органы, законодатели и руководители технологической отрасли также выражали обеспокоенность по поводу развития ИИ. В марте более 2600 технических руководителей и исследователей подписали открытое письмо , в котором призвали к временной остановке разработки ИИ, ссылаясь на «серьезные риски для общества и человечества».

Группа из 12 законодателей Европейского Союза подписала аналогичное письмо в апреле, а недавний законопроект ЕС классифицирует инструменты ИИ в зависимости от уровня их риска. Соединенное Королевство также выделяет 125 миллионов долларов на поддержку целевой группы по разработке «безопасного ИИ».

ИИ используется в фейковых новостных кампаниях и розыгрышах

Сообщается, что инструменты ИИ уже используются для дезинформации: недавние примеры того, как средства массовой информации обманом заставляли публиковать фейковые новости, а одно немецкое издание даже использовало ИИ для фабрикации интервью.

1 мая Binance заявила, что стала жертвой клеветнической кампании, инициированной ChatGPT, и поделилась доказательствами того, что чат-бот утверждал, что его генеральный директор Чанпэн «CZ» Чжао был членом молодежной организации Коммунистической партии Китая.

Бот ссылался на статью Forbes и страницу LinkedIn, из которой, как он утверждал, он получил информацию, однако статьи, похоже , не существует, а профиль LinkedIn не принадлежит Чжао.

На прошлой неделе группа шутников также обманула несколько СМИ по всему миру, включая Daily Mail и The Independent.

The Daily Mail опубликовала, а затем удалила статью о предполагаемом канадском актере по имени «Saint Von Colucci» (Святой фон Колуччи), который, как говорят, умер после пластической операции, чтобы сделать его больше похожим на южнокорейскую поп-звезду.

Эта новость пришла из пресс-релиза о смерти актера, который был отправлен организацией, маскирующейся под фирму по связям с общественностью, и использовал изображения, созданные искусственным интеллектом.

Фотография, разосланная нескольким средствам массовой информации, якобы принадлежащая Saint Von Colucci.

В апреле немецкое издание Die Aktuelle опубликовало интервью, в котором ChatGPT синтезировал разговор с бывшим гонщиком Формулы-1 Михаэлем Шумахером, который получил серьезную черепно-мозговую травму в результате несчастного случая на лыжах в 2013 году. Сообщалось, что семья Шумахера подаст в суд из-за статьи.

Хотите зарабатывать на крипте? Подписывайтесь на наши Telegram каналы!