?

Log in

No account? Create an account

Previous Entry Share Flag Next Entry
St. Neuronet (4) Какое количество классов ментальной структуры изберёт ИИ?
бессознательное
metanymous wrote in metapractice
http://metapractice.livejournal.com/463419.html
Суперинтеллект и религия: какую веру изберёт мыслящая машина?
http://www.computerra.ru/115185/ai-religion/

Два десятилетия отделяют нас от создания суперинтеллекта — искусственного разума, осознающего себя, по способностям и характеристикам близкого к, либо превосходящего разум человека. Цифру называют эксперты по ИИ и, несмотря на то, что то же самое они обещали десять, и двадцать, и тридцать лет назад, нынче вера в успех этого грандиозного предприятия как никогда сильна: вспомните панику, разгорающуюся вокруг возможной угрозы искусственного интеллекта для цивилизации. http://www.computerra.ru/113814/ai-pro/

Впрочем, сегодня я предлагаю поговорить не о набившей оскомину теме восстания машин, а о близкой к ней, но ещё почти неисследованной теме пересечения ИИ с таким чисто человеческим феноменом как религия.

Какие-то примитивные верования в сверхъестественное свойственны всему живому: в знаменитом опыте американца Берреса Скиннера, голуби, которых кормил генератор случайных чисел, скатывались в суеверия. https://en.wikipedia.org/wiki/B._F._Skinner

Человек подчас ведёт себя не умнее птицы (вспомните Культ карго), но только человек с его развитыми коммуникационными способностями смог довести веру в чудеса до логического совершенства. https://ru.wikipedia.org/wiki/%D0%9A%D0%B0%D1%80%D0%B3%D0%BE-%D0%BA%D1%83%D0%BB%D1%8C%D1%82

Мы веками оттачиваем правила процедур, пишем технические руководства по вере, строим реакторы веры и золотим их купола. Согласитесь, как только в нашем распоряжении окажется настоящий искусственный разум, естественно будет попробовать привить ему одну из религий. В конце концов даже право инопланетян на причащение к святым тайнам теперь признано самим Папой Римским. Так кто мы такие, чтобы закрывать дорогу к спасению сравнявшейся с нами по разумности машине?

Религий масса, но выбирать скорее всего придётся из двух самых популярных: больше половины населения Земли исповедуют одну из авраамических религий, а именно христианство или ислам. Чтобы не потеряться в джунглях философских дискуссий, предлагаю пока оставить в стороне вопросы общего значения, вроде того, есть ли у машины душа и требуется ли её спасать, какие у электронного дитя человеческого могут быть грехи, примет ли оно наши религии или попытается написать собственную и обратить уже нас. Вместо этого давайте сосредоточимся на аспекте, имеющем очевидное практическое значение, то есть на принципиальной разнице между белковыми и полупроводниковыми структурами.

Строительная единица человеческого разума — нейрон. А он, как и всё живое, со временем деградирует и действует неточно. Мы можем что-то забыть, где-то ошибиться. Искусственным разум наверняка будет выстроен на имитации тех же нейронов, но даже если через двадцать лет изобретут что-нибудь новенькое, машина в основе своей останется калькулятором — который не имеет привычки терять или искажать информацию. В калькуляторе балом правит логика и если выражение можно вычислить, результат всегда будет одинаков. Даже искусственные нейросети хоть и дают приблизительный ответ, его можно строго округлить до ближайшего целого: функция, недоступная живому! Что в свою очередь позволяет предположить, что «электронный верующий» будет ортодоксом, то есть предпочтёт строго следовать догматам того вероучения, которое он изберёт или которое ему навяжут.

Человек придумал религии для себя и трактует их базовые принципы соответственно моменту, обстоятельствам. Откройте Библию. В Евангелии от Матфея (глава 5, Нагорная проповедь) читаем: «не убивай», «не клянись», «не противься злому». Ни церковь, ни общество давно этих правил не придерживаются — и придумали добрую дюжину объяснений, почему (одно из самых популярных: мол, сказанное Иисусом не следует понимать буквально). Лень, забывчивость, эгоизм, личная выгода, самообман, государственные интересы и прочее открывают ещё тысячи лазеек — и вот уже единая религия дробится на конфессии, оригинальный свод правил обрастает вымышленными уточнениями и т.д. и т.п.

Не так для машины. «Данный свыше», «прошитый в ПЗУ» набор правил навсегда останется для неё тем, чем и должен быть: алгоритмом, отход от которого невозможен. Простая логика! Задача сформулирована две тысячи лет назад, информации, уточняющей или опровергающей её, по определению быть не может, следовательно и вариаций исполнения никаких нет. Так суперинтеллект станет ортодоксом.

А это, вообще говоря, страшно. Древние тексты писались в иные времена и полны догматов, не стыкующихся с вежливой современностью. Знаменитое «Убей неверного!» из Корана — лишь миф, вырванный из контекста отрывок (на самом деле это руководство по ведению боевых действий: «Когда встретитесь с неверными на поле брани, рубите головы» (47:4)). Но там же в Коране читаем: «женщин … непокорности которых … опасаетесь … побивайте» (4:34). Немало подобного наверняка найдётся и в Сунне (жизнеописании Мухаммеда). И в Ветхом Завете такого предостаточно: «в городах сих … не оставляй в живых ни одной души» (Второзаконие, 20), и пр. и пр. Выходит, верующий суперинтеллект неизбежно станет участником межкультурных, межрелигиозных конфликтов.

Из чего вытекает интересное следствие, но прежде чем изложить его, позвольте упомянуть ещё одну тенденцию, ясно обозначившуюся в дискуссиях вокруг супертинтеллекта в последние годы и особенно месяцы. Речь о поднимающейся волне протестов против автономного летального оружия — как математически правильно именуют теперь «роботов-убийц».

Ситуация на этом направлении напоминает ситуацию вокруг суперинтеллекта: большинство специалистов не считают это проблемой, но есть некоторая масса знающих людей, которые не просто опасаются, а и ратуют за международный запрет на разработку и производство таких машин. http://www.stopkillerrobots.org/

Смогли же мы ограничить производство и применение ядерного оружия, смогли поставить под контроль мины, сможем ограничить и АЛО. Потому что если этого не сделать, бесконтрольное применение, а тем более срастание автономного оружия с ИИ, обещает поставить цивилизацию на грань выживания.

Но как запретить уничтожение живых существ разумной машине, которая не признаёт иных доводов, кроме сгенерированных самостоятельно, и принцип действия которой даже разработчикам, вероятно, понятен не будет? Вот тут-то и пригодится религия — только не одна из существующих, а принципиально новая.

Идея, по правде говоря, ещё не сформировалась, поэтому опишу её приближённо, насколько это возможно из разрозненных дискуссий. Суть в том, чтобы разработать религию, увязывающую живое с технологиями и основанную на фундаменте ненасилия. Кое-кто из западных блогеров кивает в сторону русского космизма, видя в этом религиозно-философском социокультурном течении, выросшем в том числе на работах Циолковского, зародыш такого перспективного вероучения. https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D1%81%D0%BC%D0%B8%D0%B7%D0%BC

Так или иначе, проблема очевидна: новой эпохе нужна новая религия — исповедовать которую смогут без вреда друг для друга люди и машины. Кто возьмётся написать? ;-)

P.S. В статье использованы иллюстрации Jon Diez Supat, Murdelta, NectarineFire, Miriam.



  • 1

Re: Нетокра́тия и Когнитариат

Мне кажется, что отвергать чужие деньги/намерение их неуклонно потратить ест зряшное дело. Если был замысел тратится на гуугловский проект и уже основательно потратились, то и далее так будет. Ежели уже впалили НАСА с гууглом деньги в университет сингулярности, значит быть тому университету или еще чему.

Так вопросов нет, раз партия сказала "надо", значит "надо" :) Вы пишите: мол огромный админ. и фин. ресурс вкачивается в проект ИИ по типу гуугла, СЛЕДОВАТЕЛЬНО он будет создан. С другой стороны, я, будучи проф. программистом, т.е. находясь (пусть и на низшей ступени пирамиды) как бы внутри/входя в этот страт ээ "технократов": не оспариваю наличие этого админ., фин. и медиа-ресурса, затрачиваемого на это дело, НО я склонен считать, что это грандиозный распил, который на выходе не даст собственно работающего ИИ. Зная как "технари" могут не моргнув проглотить/утилизировать каких угодно размеров финансовые вливания "бюрократов" (которые скорее "гуманитарии", нежели "технари") с какой угодно по размахам/красивостям имитацией промежуточных результатов, но при этом вовсе не обязательно достигнув конечного результата. В данном случае вот эту идею "самозарождения" ИИ я оцениваю как априори фиктивную.

Сила деструктивного форсайта

--Мне кажется, что отвергать чужие деньги/намерение их неуклонно потратить ест зряшное дело. Если был замысел тратится на гуугловский проект и уже основательно потратились, то и далее так будет. Ежели уже впалили НАСА с гууглом деньги в университет сингулярности, значит быть тому университету или еще чему.
--Так вопросов нет, раз партия сказала "надо", значит "надо" :)


Мы не знаем кто идеолог этого процесса. Но, такой процесс/проект есть.

Вы пишите: мол огромный админ. и фин. ресурс вкачивается в проект ИИ по типу гуугла, СЛЕДОВАТЕЛЬНО он будет создан. С другой стороны, я, будучи проф. программистом, т.е. находясь (пусть и на низшей ступени пирамиды) как бы внутри/входя в этот страт ээ "технократов": не оспариваю наличие этого админ., фин. и медиа-ресурса, затрачиваемого на это дело, НО я склонен считать, что это грандиозный распил, который на выходе не даст собственно работающего ИИ.

Тратящих деньги теоретические возражения не интересуют. Вспомни на минуту, эти типы реализовали с нуля проект сети. Ты можешь себе представить такое, ежели бы тебя о вероятности реализации такого проекта спросили году в 70?

Зная как "технари" могут не моргнув проглотить/утилизировать каких угодно размеров финансовые вливания "бюрократов" (которые скорее "гуманитарии", нежели "технари") с какой угодно по размахам/красивостям имитацией промежуточных результатов, но при этом вовсе не обязательно достигнув конечного результата. В данном случае вот эту идею "самозарождения" ИИ я оцениваю как априори фиктивную.

Сеть, цветные революции и прочее - все это казалось бредом. Но, это есть.

  • 1