Технологічна сингулярність

Першою, і мабуть, базовою ідеєю є наслідок із закону Мура: десь між 2015 і 2035 роками обчислювальна потужність окремих комп'ютерів зрівняється з «сирою» обчислювальною потужністю людського мозку, а потім і перевершить її. Звичайно, закон Мура — це, насправді, ніякий не закон, а лише емпіричний висновок з чинної швидкості розвитку технологій. Однак, якщо трактувати цей закон ширше (а саме, рахувати не кількість транзисторів та кристалів, а доступну швидкодію процесорів і обсяги пам'яті), то виявиться, що тримається воно значно довше існування інтегральних схем, змінивши по дорозі декілька технологій — електромеханічні обчислювачі, лампові, транзистори. Крім того, сам період 18 місяців умовний і з плином часу поступово зменшується. Отак, маємо добрі шанси, що ще не менш ніж 15 років закон Мура протримається.

Зрозуміло, однієї тільки обчислювальної потужності мало — потрібно і відповідне програмне забезпечення. Але, як ми бачимо, з цим теж усе гаразд: досягли рівня практичної застосовності такі традиційно «інтелектуальні» операції як розпізнавання мови, тексту та інших образів; далекі нащадки «Елізи» — чат-роботи — успішно витримують тест Тюринга в невибагливих бесідах, а також усім відомий приклад Deep Blue, котрий перемагав чемпіона світу з шахів.

Отже, візьмемо як робочу гіпотезу, що можливості комп'ютерів в найближчому майбутньому перевершать людські. На цьому рівні абсолютно не важливо, чи будуть вони насправді мислити. Оскільки результати їх роботи будуть такими ж, як якби вони мислили, причому швидше і глибше, ніж люди.

Вперше за всю історію людства ми опинимося в суспільстві істот, розумніших, ніж ми самі. У романі «Полум'я над безоднею» Віндж називав їх Силами.

Перший, і, фактично, єдиний наслідок: ми не зможемо повністю ні зрозуміти, ні передбачити подальший розвиток подій, коли «біля керма» цивілізації стануть не тільки, а потім і виключно не люди, а надінтеллекти. В цьому і полягає сенс запропонованого Вінджем терміну «Сингулярність»: умови, в яких звичні моделі та подання втрачають свою придатність, і починається щось принципово інше.

Прихильники теорії технологічної сингулярності вважають, що якщо виникне принципово відмінний від людського розум (постлюдина), подальшу долю цивілізації неможливо передбачити, спираючись на людську (соціальну) поведінку.

За деякими прогнозами технологічна сингулярність настане уже біля 2030 року[1].

Термін «сингулярність» запозичений у астрофізиків, які використовують його при описі космічних чорних дір і в деяких теоріях зародження всесвіту — точка з нескінченно великою масою і температурою та нульовим об'ємом. Математична сингулярність (особливість) — точка, значення функції в якій прямує до нескінченності, або інші схожі «цікаві» точки.

У футурологічному контексті вперше термін «сингулярність» використав у середині XX століття Джон фон Нейман, маючи на увазі математичне, а не астрофізичне розуміння цього слова — точку, за якою екстраполяція починає давати абсурдні значення (розбігатися). Про це пише сам Вернор Віндж, якому даний термін зазвичай присвоюють[2]. Науковим обґрунтуванням неминучого настання сингулярності активно займається Реймонд Курцвейл. Критиці ця теорія піддається в роботах російського ученого Коротаєва.[3]

Приємно мріяти про загальне щастя і красиве майбутнє. Але, яким би швидким не був перехід в геологічно-еволюційному масштабі, з людської точки зору він займе помітний час. Досить потужні комп'ютери не з'являться у всіх одночасно. Терабітні канали зв'язку протягнуть до всіх не відразу. Нові програмні інтерфейси навряд чи самі завантажаться з мережі на кожне робоче місце. І так далі.

Не маючи ілюзій з приводу людської природи, можна передбачити різноманітні проблеми: заздрість тих, які ще не приєдналися; невиправдану гордовитість «просунутих», релігійний фанатизм, терористичні акти, хвилювання і локальні війни. Будуть поламані долі і людські жертви — це, на жаль, майже напевно. А якщо згадати про кількість накопичених людством засобів масового знищення, то цілком можливий і сценарій, коли якесь досить сильне угруповання в страху перед майбутнім знищить всю людську цивілізацію.

До Сингулярності веде безліч шляхів. Історії все одно, яким із них ми підемо. Але нам аж ніяк не все одно. Необхідно пом'якшити перехід, наскільки це можливо. І найкращий спосіб — це якомога швидше створити хоча б одну Силу і доручити контроль за переходом їй.

Перш за все, цивілізація ще може загинути. Ядерна війна наддержав малоймовірна, оскільки ядерна наддержава залишилась тільки одна. Але засоби масового знищення нині доступні навіть невеликим терористичним організаціям. А бувають ще епідемії, екологічні катастрофи, енергетичні кризи і падіння гігантських метеоритів.

Ми можемо несподівано натрапити на принципові межі складності систем, не дійшовши до потрібного рівня інтелектуальності. Технологічні межі електронних технологій вже видно (транзистор з трьох атомних шарів навряд чи можливо зробити меншим). Може також виявитися, що люди не здатні розробити надійну систему, що перевищує певний поріг складності — ознакою цього будуть провали великих програмних проектів, що падають під вантажем помилок. Це вкрай малоймовірно, але це можливо, і ми можемо не знайти виходу з тупика. Тоді нас чекає майбутнє Повільної Зони, барвисто описане Вінджем в романі «Глибина в небі» — вічний цикл підйомів і саморуйнування цивілізацій, які досягли межі можливостей.

Сингулярності не буде, якщо не будуть знайдені джерела енергії, альтернативні нинішнім (вони, очевидно, не вічні). Альтернативні розробки є, але зараз вони заморожені, щоб не руйнувати економіку, побудовану на нафті та атомній енергетиці. Але наскільки ці альтернативні джерела нам допоможуть — ще питання.

Ми можемо звернути з наміченого шляху розвитку, захопившись новою іграшкою розуму, подібно до того як інформаційні технології витіснили мрію людства про космічні польоти, і закинути спроби побудувати Силу.

Загальна ідея проста: Сингулярність ще не остаточно визначена. Якщо ми не зробимо Надрозум самі, він не виникне.

	Ви так пристрасно обстоювали вертикальний прогрес. Так от він вам — вертикальний прогрес! У найчистішому вигляді! Людство, що розлилося по квітучій рівнині під ясними небесами, рвонулося вгору. Звичайно, не всім натовпом, але чому це вас так засмучує?
— Аркадій і Борис Стругацькі, Хвилі гасять вітер, 1985

Це витяг з принципів, які розробив Еліезер С. Юдковськи — видатний ентузіаст і прихильник Сингулярності, засновник Інституту Сингулярності і штучного інтелекту.

Активність

Мало визнавати Сингулярність або говорити про неї. Треба робити і щось практично корисне, інакше рух буде задушений масою порожніх бюлетенів. Користь не обов'язково повинна бути матеріальною — наприклад, написання статей (тільки нових, а не проста компіляція старих) теж корисно. На поточному етапі активність може виявлятися і просто як очікування в готовності взятися за посильні справи, коли вони з'являться.

Технологічність

Сингулярність — природна подія, породжена виключно технологічними причинами. Можна пов'язувати Сингулярність з будь-якими релігійними пророцтвами або містичними одкровеннями, але не декларувати це як офіційну позицію. Занадто легко дискредитувати рух, перетворивши його в чергову релігійну секту. Не молитвами, медитаціями і праведним життям буде побудована Сингулярність, а наполегливою працею кваліфікованих фахівців.

Глобалізм

Сингулярність — для всіх. Не обов'язково бути абстрактним альтруїстом. Можна працювати заради власного блага — але так, щоб результатами вашої роботи змогли скористатися не тільки ви, але й усі охочі.

Співпраця і незалежність

Всі ми працюємо заради успіху спільної справи. Повага здібностей інших, доброзичливе співробітництво, вільний обмін інформацією та результатами надзвичайно корисні. Визнання особистих заслуг автора завжди доречно, але будь-який результат цінний сам по собі. Не дозволяйте особистим амбіціям заважати загальній роботі. Хоча спільна робота ефективніша, прихильники Сингулярності не збираються в зграї і не будують організації, якщо це не потрібно для справи. Управління та координація необхідні і корисні, поки не стають надлишковими. Навіть залишившись у повній самотності та ізоляції, без надії на остаточну перемогу, прихильник Сингулярності продовжує роботу заради наближення Сингулярності.

Непідкореність

Будь-який шлях до Сингулярності гарний настільки, наскільки він веде до мети. Прихильники Сингулярності не заважають один одному розвивати напрями, які ті вважають перспективними. Дискусії заради пошуку істини допускаються і вітаються, але не можна без вагомих обґрунтованих причин забороняти будь-кому рухатися своїм шляхом.

Окрім піонерських оповідань Вернора Вінджа, сингулярність є центральною темою творів деяких інших авторів наукової фантастики. Серед них можна відмітити Вільяма Гібсона, Чарльза Стросса, Карла Шредера, Грега Ігана, Девіда Бріна, Іена Бенкса, Ніла Стівенсона, Тоні Баллантайна, Брюса Стерлінга, Дена Сіммонса, Дем'єна Бродерика, Фредеріка Брауна, Яцека Дукая, Нагару Танігава, Корі Доктороу. Кен Маклеод в своєму романі 1998 року «Підрозділ Кассіні» (англ. The Cassini Division) визначає сингулярність як «піднесення для нердів». Тематика сингулярності часто зустрічається в кіберпанкових романах. Наприклад рекурсивне самовдосконалення штучного інтелекту «Зимове Мовчання» в романі Вільяма Гібсона «Нейромансер». Опублікований у 1994 році на сайті Kuro5hin роман «Метаморфози вищого інтелекту» присвячений життю після запущеної штучним інтелектом сингулярності. Більш антиутопічний погляд на сингулярність в оповіданні Харлана Еллісона «Я не маю рота, але мушу кричати».

Історія 1950 року Айзека Азімова «Неминучий конфлікт» (остання частина Я робот) має машини, чотири суперкомп'ютери управління економікою у світі. Комп'ютери є незрозумілими для людей і неможливими для аналізу на наявність помилок. Наприкінці історії, було сказано, що відтепер (це відбувається в 2052), жоден великий конфлікт не може виникнути, і Машини збираються направити людство до кращого майбутнього.

Роман 1979 року Джеймса П. Хогана «Два обличчя завтрашнього дня» явно описує те, що зараз називається Сингулярністю. Система штучного інтелекту вирішує проблеми розкопок на Місяці блискучим та новим шляхом, але ледь не вбиває екіпаж в процесі роботи. Розуміючи, що системи стають занадто складними і складно прогнозувати й управляти ними, науковий колектив має намір навчити їх, як мислити більш по-людськи. Історія описує зростання самосвідомості в комп'ютерній системі, втрату людьми контролю, і невдалі спроби закрити експеримент, а також як комп'ютер відчайдушно захищається, і комп'ютерний інтелект досягає зрілості.

У 1984 році в романі Вільяма Гібсона «Neuromancer», штучний інтелект, здатний поліпшити свої програми, суворо регулюється спеціальним «Тюрінг контролерами», щоб переконатися, що вони не перевищують певного рівня інтелекту. І сюжет побудовано на зусиллях одного з таких ШІ, обійти цей контроль. У 1994 році роман «Метаморфози» «Головний Інтелект» має ШІ, який самонавчається так швидко, щоб отримати низькорівневий контроль над всією матерією у Всесвіті протягом кількох годин.

Новели Вільяма Квіка «Dreams of Flesh and Sand» (1988), «Dreams of Gods and Men» (1989), і «Singularities» (1990) представляють звіт про перехід через сингулярність, в останньому романі один із героїв заявляє, для того щоб вижити, людство має інтегруватися в нові машини штучного інтелекту, або людство буде розчавлено їх владою. Машини — найбільший ризик.

У серії Gridlinked Ніла Ешера описане майбутнє, де люди живуть в Країні, що регулюються ШІ. В той час коли деякі ображені, більшість ШІ вважає, що вони набагато кращі управителі, ніж будь-яка людина. У четвертому романі, «Polity Agent», він зазначив, що Сингулярність запізнилась, і більшість ШІ вирішили не брати участь в ній з причин, які тільки вони знають.

Є популярні фільми, в яких комп'ютери стають інтелектуальними і жорстко придушують людський рід, наприклад: Термінатор, Я, робот, Матриця. А також серіал Battlestar Galactica

Айзек Азімов висловив ідеї, близькі до сингулярності в оповіданні The Last Question. Майбутнє Азімова передбачає реальність, в якій поєднання сильного штучного інтелекту і пост-люди споживають в космос. Також ШІ відчуває, що йому не вистачає достатньої інформації, щоб прийти до висновку, до кінця цієї задачі, коли ШІ дійсно знаходить рішення. Примітно, що він робить це для того, щоб виконати свій обов'язок, щоб відповісти на питання людей.

Імонн Хілі обговорює прискорення змін в фільмі Waking Life. Він ділить історію на більш короткі періоди, він розділяє на «два мільярди років життя, шість мільйонів років гомініди, сто тисяч років людства, яке ми знаємо». Він продовжує рухатись до культурної еволюції людини, даючи такі часові рамки: десять тисяч років для сільського господарства, чотириста років для наукової революції, і сто п'ятдесят років для промислової революції. Інформація при цьому підкреслюється, як забезпечуюча основу для нової еволюційної парадигми, з штучним інтелектом в своїй кульмінації. Він робить висновок, що врешті-решт буде створено «neohumans», яке узурпує нинішню роль людства в науково-технічному прогресі і дозволить показниковій тенденції прискорити зміни, щоб продовжувати поза межею людських можливостей.

• (рос.) Панов А. Д. Сингулярность Дьяконова // История и Математика: Проблемы периодизации исторических макропроцессов. М.: КомКнига, 2006. С. 31-37.
• (рос.) Коротаев А. В., Комарова Н. Л., Халтурина Д. А. Законы истории. Вековые циклы и тысячелетние тренды. Демография, экономика, войны. 2-е изд. М.: УРСС, 2007. С. 7-47.
• (англ.) Kurzweil R. The Singularity Is Near. N. Y.: Viking, 2005.

• Реймонд Курцвейл
• Трансгуманізм
• Космологія духу
• Імморталізм
• Розподілені обчислення
• Режим з загостренням

• The Coming Technological Singularity, 1993 by Vernor Vinge
• Вернор Виндж. Технологическая Сингулярность
• Майкл Диринг. Рассвет Сингулярности
• Технологическая сингулярность как ближайшее будущее человечества
• Что такое сингулярность?
• Будущее. Эволюция продолжается
• Дэвид Брин. Сингулярность и кошмары
• Владимир Кишинец. Nano Sapiens
• Список ресурсов по тематике «сингулярность»
• КОРОТАЕВ А. В. Сингулярность уже рядом?