Технологическая сингулярность часто описывается как момент, когда искусственный (сверх)интеллект начнёт самостоятельно открывать новые законы, создавать технологии и улучшать свои модели с такой скоростью, что человек сможет лишь пользоваться плодами его работы.
Сегодня работа многих цифровых устройств почти кажется простому человеку чем почти волшебными. Но за этой "техномагией" скрываются понятные принципы, исследования, расчёты и инженерные решения. Homo Sapiens, коими все тут являются, в отличие от вымерших семейств других людей не держат в голове все знания, пока это невозможно.
Потому наши предки, в отличие от неандертальцев или денисовцев собирали знания и передавали другим. И теперь, благодаря миллиону выдающихся людей и миллиарду неизвестных знания существуют как общее достоянии цивилизации, которое постоянно развивается.
Тысячелетия спустя, наука стала коллективным способом познания мира задолго до появления ИИ. Что, если главный результат развития ИИ также войдёт в этот запас знаний?
Представьте, (О) или сверх-ИИ откроет новую математическую теорию, понятную людям, но глубоко проникающую в суть вещей. Эта теория объединит разрозненные области математики в единую структуру. Подготовленные специалисты смогут освоить её и применять самостоятельно. Если новая теория улучшит вычисления, это изменит распределение влияния между людьми, киборгами, боргами, роботами и ИИ в обществе.
Этот сценарий можно назвать Постижимой сингулярностью (Intelligible Singularity), или "серой" сингулярностью. И в отличие от "сингулярности чёрного ящика", которая считается классической техносигнулярностью её суть в том, что фундаментальное знание, открытое с помощью ИИ, возвращается человеку в ясной и понятной форме.
В 2019 году философ Ник Бостром высказал мысль о возможной связи технологий. В его представлении реальности (когда мозг не видит мир, а лишь интерпретирует его) человечество извлекает открытия из большой урны. Белые шары символизируют полезные открытия, серые — те, что имеют смешанные последствия, а чёрный шар может привести к катастрофе. Бостром также отметил, что одно открытие часто становится катализатором для целой группы других.
Важно признать, что "серые шары" связаны не с самой наукой, а с человеческой природой. Хотя Homo Sapiens считается разумным видом, это не совсем так. Наши мысли и действия во многом определяются химическими веществами и гормонами, которые формируют наши эмоции и чувства, создавая «биологический шум» в нашем мышлении. Этот шум можно скорректировать воспитанием, опытом и социальными нормами, но не полностью. Часто люди действуют импульсивно, что приводит к множеству проблем в нашем обществе.
Например, ядерная физика открыла путь к (термо)атомному оружию, но также дала атомную энергетику, лучевую терапию и медицинскую диагностику. Фундаментальный математический метод — это особый серый шар. Он увеличивает скорость и снижает стоимость получения новых результатов, влияя на многие отрасли.
В середине XIX века Джеймс Клерк Максвелл объединил исследования электричества и магнетизма в теорию электромагнитного поля. Его уравнения связали свет с электромагнитными волнами и предсказали явления, подтверждённые экспериментально. Из раздельных областей возникла целостная физическая картина, на которой выросли радиосвязь и другие технологии.
В начале XX века Давид Гильберт разработал математический аппарат бесконечномерных структур. Через 15 лет он оказался идеальным для квантовой механики. Джон фон Нейман в 1927 году придал этому аппарату современную форму и применил его к квантовой теории. Математика, развивавшаяся для одной задачи, стала основой другой области науки.
В 2017 году группа Ашиша Васвани представила архитектуру Transformer. Механизм внимания уже существовал, но новая организация модели улучшила результаты ИИ при меньших затратах.
Во всех этих случаях новая структура знаний была доступна для понимания и существенно изменила науку. Следующий скачок может объединить эти эффекты.
Алгебра, геометрия, анализ, комбинаторика, теория информации и динамические системы давно обмениваются методами. Между ними обнаруживаются новые связи, а поиск общего языка становится практическим.
В 2010 году Анна Саламон, Стивен Рейхок и Янош Крамар рассмотрели возможность компактной теории интеллекта. В 2026 году они исследовали сжатие математических выводов и глобальные связи между доказательствами, которые ИИ может помочь обнаружить.
Подобное сжатие математических структур может привести к новым алгоритмам, снижающим вычислительные затраты.
С появлением эффективного математического ядра накопленные вычислительные мощности станут избыточными.
С появлением мощного математического ядра накопленные вычислительные ресурсы становятся достаточными для создания общего искусственного интеллекта на самых разных устройствах. Существующая инфраструктура быстро переходит на новую архитектуру, ускоряясь на порядки.
Серая "стена" символизирует разрыв между появлением новых технологий и их защитой. Интеллектуальная сила, включая её разрушительные аспекты, может оказаться в руках множества групп до того, как общество успеет отреагировать. Математические методы распространяются быстро, тогда как перестройка инфраструктуры и международных соглашений требует времени.
Интеллигибельная сингулярность невозможно ограничить в дата-центре. Чёрный ящик требует энергии и инфраструктуры, но понятная математика распространяется со скоростью текста. Сингулярность ускоряет доступ к знаниям, опережая защиту общества.Даже небольшая группа математиков и инженеров может развернуть общий математический интеллект (MGI). Это увеличит количество независимых исследовательских центров. Государства и корпорации сохранят преимущества в инфраструктуре и ресурсах, но доступ к компактным методам даст возможность создавать технологии, ранее доступные только избранным.
Например, MGI может открыть алгоритм факторизации больших чисел, подрывая безопасность RSA. Это вызовет кризис доверия в банках, облачных сервисах и государственных учреждениях. Обновление инфраструктуры займёт месяцы, а другие криптографические системы останутся в безопасности. Интеллектуальная сила ускоряет создание средств защиты и новых угроз. Это напоминает ядерный век, но с большим числом участников и скоростью распространения технологий.
Майкл Нильсен связывает риски сверхинтеллекта с мощью, которую он предоставляет людям. Математическое знание, которое люди могут воспроизводить и понимать, распространяется быстро.
В каком-то смысле, мы уже живём как единый планетарный организм технологически, но культурно и социально остаёмся разобщёнными. Пока-что.
Человечество — канат — между животным и Богом .И в каком-то смысле, словно космический подросток, взрослея мы уже приближаемся к возможности обладать технологиями, которые, кто-то менее развитый счёл бы "божественными". Однако, этот "канат" протянут над бездной.
Успеет ли человечество проработать свои ошибки, избавиться от пороков(и нет это не секс, как считал св. Августин и некоторые до сих пор, Бог с ним, пороки это гордыня, жадность, зависть и пр.) и прежде чем гордыня возьмет вверх над мышлением "космических савантов"(савант это очень умный человек, НО он(а) почти не приспособлен к обычной жизни), или мы сами себя уничтожим — время покажет.
Но пока у людей есть шансы.
Например, Китай выступает за отказ и даже запрет (термо)ядерного оружия.
Впрочем, такое "табу" может сделать даже хуже — именно страх потерять привычный нам мир и риск омницида(множество самооубийств) цивилизации, который многие считает, как "конец света", парадокс, но сейчас является гарантом невозможно начала полномасштабных военных действий. Только "гибридные" войны, которые ныне мы наблюдает, а кто-то и участвует...
Возможно, мы никогда не создадим рай в нашем понимании. Слишком расплывчато понимании о мире, где всем хорошо. Но мы можем создать новый, более удобный и безопасный мир.
Впрочем, даже если нам удастся избежать самоуничтожения за удобство в новом мире придется по-своему, платить.И эта "плата", возможно, началась.