Это главный вопрос нашего времени. Одни учёные видят в суперинтеллекте ключ к бессмертию и утопии. Другие — конец человеческой цивилизации. Разбираем аргументы обеих сторон без хайпа.
Аргументы «за»: суперинтеллект как благо
Рэй Курцвейл, Обри де Грей, часть команды OpenAI и многие другие считают: ASI решит проблемы, с которыми человечество не справляется тысячелетиями.
- Медицина: ASI за несколько дней найдёт лекарства от рака, болезни Альцгеймера и старения
- Климат: оптимальные стратегии декарбонизации, новые материалы, дешёвая чистая энергия
- Экономика: эффективное управление ресурсами, конец нищеты
- Наука: ускорение открытий в физике, биологии, химии в сотни раз
- Образование: персональный сверхинтеллектуальный учитель для каждого человека на Земле
Аргументы «против»: риски экзистенциального уровня
Стивен Хокинг предупреждал: «Развитие полного искусственного интеллекта может означать конец человеческой расы». Почему именно?
- Проблема целеполагания: ASI с неправильно заданными целями может уничтожить людей как «побочный эффект»
- Сценарий скрепочного максимизатора: мысленный эксперимент Бострома — ИИ с целью «делать скрепки» превращает всю материю Земли в скрепки
- Потеря контроля: если ASI умнее нас — мы не сможем его остановить или исправить
- Концентрация власти: кто первым создаёт ASI — получает абсолютное доминирование
Что такое AI Safety и зачем это нужно?
AI Safety — научное направление о том, как сделать ИИ безопасным по мере роста его мощности. Этим занимаются Anthropic (создатели Claude), MIRI, подразделение Superalignment в OpenAI, ARC Evals и десятки академических групп по всему миру.
Их задача — решить проблему выравнивания (alignment): как гарантировать, что суперинтеллект будет действовать в интересах людей, даже если он умнее любого человека?
Честный ответ
Никто не знает. И именно поэтому тема требует серьёзного, открытого обсуждения — а не паники или игнорирования. Следите за нашими материалами.
Добавить комментарий