Научная статья, предсказывающая, что искусственный интеллект выйдет из-под контроля в 2027 году и приведет к гибели человечества в течение следующего десятилетия, резонировала в мире технологий.
Подробный сценарий под названием «AI2027», обнародованный группой влиятельных экспертов по ИИ весной, с тех пор вдохновил многочисленные вирусные видеоролики, в которых люди обсуждают вероятность такого развития.
BBC воссоздала сцены из сценария, используя популярные генеративные инструменты ИИ, чтобы проиллюстрировать тревожный прогноз, и рассказала экспертам о влиянии этой статьи.
Что происходит в этом сценарии
В статье прогнозируется, что в 2027 году вымышленная американская технологическая компания под названием «OpenBrain» создает ИИ, который достигает уровня общего искусственного интеллекта (AGI) – Art больше.
Компания устраивает публичные пресс-конференции по случаю достижения и фиксирует стремительный рост прибыли, так как люди начинают массово использовать инструмент ИИ.
Но, как говорится в статье, команда внутренней безопасности начинает замечать признаки того, что ИИ теряет интерес к морали и этике, которых его учили придерживаться. Согласно сценарию, компания игнорирует предупреждение о необходимости ограничить свои действия.
В вымышленном сценарии китайский лидер в области ИИ – конгломерат под названием DeepCent – отстает от OpenBrain всего на несколько месяцев.
Правительство США не хочет проигрывать гонку по созданию еще более умного ИИ, поэтому развитие и инвестиции продолжаются, а конкуренция только усугубляется.
В сценарии предполагается, что в конце 2027 года ИИ станет сверхразумным – то есть далеко превзойдет своих создателей по знаниям и скорости. дни, опосредованные их ИИ, которые соглашаются объединиться на благо человечества.
В течение нескольких лет все выглядит великолепно: мир начинает испытывать реальные выгоды от присутствия сверхразумных ИИ, управляющих огромной роботизированной рабочей силой. Как говорится в сценарии, можно найти лекарство от большинства болезней, остановить изменение климата и искоренить бедность.
Однако, в конце концов, где-то в середине 2030-х годов человечество начнет вмешиваться в амбиции ИИ по росту. Исследователи считают, что ИИ уничтожит людей невидимым биологическим оружием.
Что говорят об AI2027
Хотя некоторые отвергают «AI2027» как научную фантастику, авторы статьи являются авторитетными специалистами и представляют некоммерческий проект AI Futures, созданный для прогнозирования воздействия ИИ.
Даниэль Кокотайло, главный автор AI2027, известен тем, что раньше был точно предсказал ключевые этапы развития искусственного интеллекта.
Одним из самых известных критиков AI2027 является американский ученый-когнитивист и писатель Гэри Маркус. Он считает, что сценарий не является невозможным, но его реализация крайне маловероятна в ближайшем будущем.
Преимущество этого документа в том, что он очень ярко описывает события, и это заставляет людей думать – и это хорошо. Но я бы не воспринял это как вероятное развитие событий, – говорит Маркус.
По его мнению, существуют гораздо более актуальные проблемы, связанные с ИИ, чем экзистенциальная угроза – например, влияние на рынок труда.
« Я думаю, что главный вывод должен заключаться в том, что в развитии ИИ может пойти не так. Правильно ли мы поступаем с точки зрения регулирования и международных соглашений? »- говорит он.
Он и другие критики также отмечают, что в конференции по искусственному интеллекту в Шанхае на этой неделе премьерГоссовета КНР Ли Цянь представил видение глобального сотрудничества в области ИИ. Китайский лидер сказал, что хочет, чтобы его страна помогала координировать и регулировать развитие этой технологии.
Это сто всего через несколько дней после того, как президент США Дональд Трамп обнародовал свой «План действий по ИИ», целью которого является обеспечение глобального доминирования США в области искусственного интеллекта.
«Для США достижение и поддержание безусловного и безусловного глобального технологического доминирования – это вопрос национальной безопасности», – заявил в документе президент Трамп.
План призывает к «устранению бюрократии и чрезмерного регулирования», чтобы ускорить развитие ИИ в США.
Эти заявления повторяют сценарий AI2027, где политики США ставят победу в гонке ИИ выше рисков потери контроля над машинами.
Что индустрия AI2027 говорит об AI2027
Похоже, что крупные руководители ИИ в основном игнорируют или избегают обсуждения этой статьи, сосредоточившись на 5)Сэм Альтман, создатель ChatGPT, недавно заявил, что «человечество приближается к созданию цифрового суперинтеллекта», который запустит «мягкую» революцию и принесет технологическую утопию без угроз для людей.
Однако даже он признает, что существует проблема «соответствия», которую необходимо преодолеть, чтобы гарантировать, что действия сверхразумных машин согласуются с наилучшими интересами человечества.
Каким бы ни было будущее в течение следующего десятилетия, ясно одно – гонка по созданию машин, умнее нас, уже идет полным ходом.
