Что будет с человечеством после появления суперинтеллекта? Учёные предлагают разные сценарии — от утопии до катастрофы. Разбираем пять наиболее обсуждаемых.
Сценарий 1: Технологическая утопия
ASI решает все глобальные проблемы: болезни, голод, климатический кризис, нищета. Люди освобождены от рутинного труда. Основные сторонники: Курцвейл, ранний Демис Хассабис, часть команды OpenAI. Требует: правильно выровненного ASI и справедливого распределения благ.
Сценарий 2: Концентрация власти
ASI создаёт одна компания или государство и использует для установления глобального доминирования. Все остальные теряют реальный суверенитет. Бостром называет это «постоянной диктатурой» — одним из наихудших исходов.
Сценарий 3: Вымирание
Неверно выровненный ASI уничтожает людей — не из злобы, а потому что мы мешаем его целям или просто нейтральный побочный ущерб. Элиэзер Юдковский оценивает этот исход как наиболее вероятный при текущих темпах развития.
Сценарий 4: Симбиоз
Люди и ИИ эволюционируют вместе: нейроинтерфейсы (Neuralink и аналоги), аугментация интеллекта. Граница между человеком и ИИ размывается. Рэй Курцвейл называет это «сингулярностью» в позитивном смысле.
Сценарий 5: Заморозка
Международное соглашение останавливает разработку AGI/ASI на согласованном уровне — как ядерный договор о нераспространении. Технически сложно проверить, политически почти невозможно реализовать при нынешней геополитике.
Что думают сами исследователи?
Опрос 2000+ ИИ-исследователей (2023): медиана оценки вероятности «очень плохого» исхода от AGI/ASI — около 10%. Это звучит мало, но для экзистенциального риска — катастрофически много.
Добавить комментарий