Технологическая сингулярность — одно из самых обсуждаемых и спорных понятий в теме ИИ. Разбираем: что это, откуда взялся термин и когда это может случиться.
Что такое сингулярность?
В математике «сингулярность» — точка, в которой функция уходит в бесконечность. В технологическом контексте — момент, когда темп изменений становится настолько высоким, что мы теряем способность предсказывать будущее.
Применительно к ИИ: гипотетический момент, когда искусственный интеллект становится способен к рекурсивному самоулучшению — улучшает себя, улучшенная версия улучшает себя быстрее, и так по экспоненте, вырываясь за пределы человеческого понимания.
Кто это придумал?
Идею первым чётко сформулировал математик Вернор Виндж в эссе 1993 года. Главным популяризатором стал Рэй Курцвейл в книге «Сингулярность уже близко» (2005). Курцвейл предсказал сингулярность к 2045 году и известен точностью многих своих ранних технологических прогнозов.
Закон Мура и экспоненциальный рост
Курцвейл опирается на исторически наблюдаемый экспоненциальный рост вычислительной мощности. Мощность ИИ-систем удваивалась каждые 6–12 месяцев. Экстраполяция даёт фантастические цифры уже к 2040-м.
Критика
Скептики справедливо указывают: экспоненциальный рост всегда имеет пределы. Закон Мура уже замедляется. Создание AGI — не чисто вычислительная задача. Более того, «умнее» — не одномерная метрика: суперинтеллект может быть умнее нас в одних задачах и иметь принципиально другие ограничения в других.
Добавить комментарий