Перестаньте кошмарить искусственным интеллектом!

Это – основной тезис из эссе двух ученых. В последнее время обсуждение будущего искусственного интеллекта зачастую сводится к двум крайностям: одни видят в нём источник будущего процветания, другие – признак надвигающегося конца цивилизации. На этом фоне эссе двух исследователей из Принстона смотрится настоящей провокацией.

🔥 Еще больше интересного в моем канале продуктовые штучки

Например, Сэм Альтман из OpenAI считает, что влияние ИИ будет напоминать эпоху Возрождения, а не промышленную революцию, однако более половины американцев относятся к ИИ с тревогой, а не с воодушевлением.

Другие пугают тем, что ИИ скоро вытеснит всех работников (и такие проекты уже есть),

Меннониты - это одна из протестантских деноминаций, возникшая в XVI веке в ходе Реформации в Европе, названная по имени её основателя, Менно Симонса (1496–1561), голландца по происхождению. Они представляют собой религиозную группу с сильным акцентом на пацифизм - отказ от насилия и военной службы, а также на непротивление злу силой

Они призывают перестать драматизировать и воспринимать ИИ как обычную технологию - не как отдельный вид или потенциально сверхразумную сущность, а как инструмент, подобный электричеству или интернету, внедрение которого занимает десятилетия, а не происходит мгновенно, как в случае с ядерным оружием.

По мнению Капура, ожидать, что социальные изменения будут идти в ногу с технологическим развитием, - ошибка. Массовое распространение полезного ИИ будет скорее постепенным, чем стремительным.

В эссе также утверждается, что термины вроде «сверхинтеллект» слишком расплывчаты и спекулятивны, чтобы ими пользоваться; ИИ не автоматизирует всё подряд, а создаст новые рабочие места, связанные с контролем и верификацией его работы;

Особо отмечается, что авторы не затрагивают военное применение ИИ из-за закрытости данных, хотя именно в этой сфере внедрение идёт особенно быстро и вызывает серьёзные опасения.

Если рассматривать ИИ как «нормальную» технологию, это противоречит нынешней политике США, где развитие лучших ИИ считается вопросом национальной безопасности, а государство принимает меры по ограничению экспорта чипов в Китай и развитию дата-центров.

Нараянан и Капур называют риторику «гонки вооружений» в сфере ИИ преувеличенной: знания и методы быстро распространяются по миру, и держать их в секрете невозможно.

Вместо борьбы с мифическим сверхразумом авторы предлагают сосредоточиться на укреплении демократических институтов, повышении технической грамотности чиновников, развитии ИИ-грамотности в обществе и стимулировании использования ИИ для защиты, а не нападения.

По сравнению с идеями о контроле над сверхразумом или победе в гонке вооружений, такие меры кажутся скучными - и в этом, по мнению авторов, их главный плюс.

На основе публикации в MIT Technology Review

#будущее #иибудущее #будущееии #asi #сверхинтелект #прогнозы #прогноз