?

Log in

No account? Create an account

Previous Entry Share Next Entry
St. Neuronet (4) Какое количество классов ментальной структуры изберёт ИИ?
бессознательное
metanymous wrote in metapractice
http://metapractice.livejournal.com/463419.html
Суперинтеллект и религия: какую веру изберёт мыслящая машина?
http://www.computerra.ru/115185/ai-religion/

Два десятилетия отделяют нас от создания суперинтеллекта — искусственного разума, осознающего себя, по способностям и характеристикам близкого к, либо превосходящего разум человека. Цифру называют эксперты по ИИ и, несмотря на то, что то же самое они обещали десять, и двадцать, и тридцать лет назад, нынче вера в успех этого грандиозного предприятия как никогда сильна: вспомните панику, разгорающуюся вокруг возможной угрозы искусственного интеллекта для цивилизации. http://www.computerra.ru/113814/ai-pro/

Впрочем, сегодня я предлагаю поговорить не о набившей оскомину теме восстания машин, а о близкой к ней, но ещё почти неисследованной теме пересечения ИИ с таким чисто человеческим феноменом как религия.

Какие-то примитивные верования в сверхъестественное свойственны всему живому: в знаменитом опыте американца Берреса Скиннера, голуби, которых кормил генератор случайных чисел, скатывались в суеверия. https://en.wikipedia.org/wiki/B._F._Skinner

Человек подчас ведёт себя не умнее птицы (вспомните Культ карго), но только человек с его развитыми коммуникационными способностями смог довести веру в чудеса до логического совершенства. https://ru.wikipedia.org/wiki/%D0%9A%D0%B0%D1%80%D0%B3%D0%BE-%D0%BA%D1%83%D0%BB%D1%8C%D1%82

Мы веками оттачиваем правила процедур, пишем технические руководства по вере, строим реакторы веры и золотим их купола. Согласитесь, как только в нашем распоряжении окажется настоящий искусственный разум, естественно будет попробовать привить ему одну из религий. В конце концов даже право инопланетян на причащение к святым тайнам теперь признано самим Папой Римским. Так кто мы такие, чтобы закрывать дорогу к спасению сравнявшейся с нами по разумности машине?

Религий масса, но выбирать скорее всего придётся из двух самых популярных: больше половины населения Земли исповедуют одну из авраамических религий, а именно христианство или ислам. Чтобы не потеряться в джунглях философских дискуссий, предлагаю пока оставить в стороне вопросы общего значения, вроде того, есть ли у машины душа и требуется ли её спасать, какие у электронного дитя человеческого могут быть грехи, примет ли оно наши религии или попытается написать собственную и обратить уже нас. Вместо этого давайте сосредоточимся на аспекте, имеющем очевидное практическое значение, то есть на принципиальной разнице между белковыми и полупроводниковыми структурами.

Строительная единица человеческого разума — нейрон. А он, как и всё живое, со временем деградирует и действует неточно. Мы можем что-то забыть, где-то ошибиться. Искусственным разум наверняка будет выстроен на имитации тех же нейронов, но даже если через двадцать лет изобретут что-нибудь новенькое, машина в основе своей останется калькулятором — который не имеет привычки терять или искажать информацию. В калькуляторе балом правит логика и если выражение можно вычислить, результат всегда будет одинаков. Даже искусственные нейросети хоть и дают приблизительный ответ, его можно строго округлить до ближайшего целого: функция, недоступная живому! Что в свою очередь позволяет предположить, что «электронный верующий» будет ортодоксом, то есть предпочтёт строго следовать догматам того вероучения, которое он изберёт или которое ему навяжут.

Человек придумал религии для себя и трактует их базовые принципы соответственно моменту, обстоятельствам. Откройте Библию. В Евангелии от Матфея (глава 5, Нагорная проповедь) читаем: «не убивай», «не клянись», «не противься злому». Ни церковь, ни общество давно этих правил не придерживаются — и придумали добрую дюжину объяснений, почему (одно из самых популярных: мол, сказанное Иисусом не следует понимать буквально). Лень, забывчивость, эгоизм, личная выгода, самообман, государственные интересы и прочее открывают ещё тысячи лазеек — и вот уже единая религия дробится на конфессии, оригинальный свод правил обрастает вымышленными уточнениями и т.д. и т.п.

Не так для машины. «Данный свыше», «прошитый в ПЗУ» набор правил навсегда останется для неё тем, чем и должен быть: алгоритмом, отход от которого невозможен. Простая логика! Задача сформулирована две тысячи лет назад, информации, уточняющей или опровергающей её, по определению быть не может, следовательно и вариаций исполнения никаких нет. Так суперинтеллект станет ортодоксом.

А это, вообще говоря, страшно. Древние тексты писались в иные времена и полны догматов, не стыкующихся с вежливой современностью. Знаменитое «Убей неверного!» из Корана — лишь миф, вырванный из контекста отрывок (на самом деле это руководство по ведению боевых действий: «Когда встретитесь с неверными на поле брани, рубите головы» (47:4)). Но там же в Коране читаем: «женщин … непокорности которых … опасаетесь … побивайте» (4:34). Немало подобного наверняка найдётся и в Сунне (жизнеописании Мухаммеда). И в Ветхом Завете такого предостаточно: «в городах сих … не оставляй в живых ни одной души» (Второзаконие, 20), и пр. и пр. Выходит, верующий суперинтеллект неизбежно станет участником межкультурных, межрелигиозных конфликтов.

Из чего вытекает интересное следствие, но прежде чем изложить его, позвольте упомянуть ещё одну тенденцию, ясно обозначившуюся в дискуссиях вокруг супертинтеллекта в последние годы и особенно месяцы. Речь о поднимающейся волне протестов против автономного летального оружия — как математически правильно именуют теперь «роботов-убийц».

Ситуация на этом направлении напоминает ситуацию вокруг суперинтеллекта: большинство специалистов не считают это проблемой, но есть некоторая масса знающих людей, которые не просто опасаются, а и ратуют за международный запрет на разработку и производство таких машин. http://www.stopkillerrobots.org/

Смогли же мы ограничить производство и применение ядерного оружия, смогли поставить под контроль мины, сможем ограничить и АЛО. Потому что если этого не сделать, бесконтрольное применение, а тем более срастание автономного оружия с ИИ, обещает поставить цивилизацию на грань выживания.

Но как запретить уничтожение живых существ разумной машине, которая не признаёт иных доводов, кроме сгенерированных самостоятельно, и принцип действия которой даже разработчикам, вероятно, понятен не будет? Вот тут-то и пригодится религия — только не одна из существующих, а принципиально новая.

Идея, по правде говоря, ещё не сформировалась, поэтому опишу её приближённо, насколько это возможно из разрозненных дискуссий. Суть в том, чтобы разработать религию, увязывающую живое с технологиями и основанную на фундаменте ненасилия. Кое-кто из западных блогеров кивает в сторону русского космизма, видя в этом религиозно-философском социокультурном течении, выросшем в том числе на работах Циолковского, зародыш такого перспективного вероучения. https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D1%81%D0%BC%D0%B8%D0%B7%D0%BC

Так или иначе, проблема очевидна: новой эпохе нужна новая религия — исповедовать которую смогут без вреда друг для друга люди и машины. Кто возьмётся написать? ;-)

P.S. В статье использованы иллюстрации Jon Diez Supat, Murdelta, NectarineFire, Miriam.



  • 1

Re: Проект "аватар" + ИИ на обслуге

Религиозное мышление/религия потребуется ИИ для контроля над человеками. Самое простое средство.

Для контроля над человеками не нужно религиозное мышление, если что-то и нужно - то понимание, как именно работает религиозное мышление у человека.

А, ну вы будит идти/вам любо по варианту проекта "аватар". В нем ИИ играет вспомогательную/исполнительную роль, для инициации и сопровождения перевоплощения субъекта в собственный/чужой аватар.

Полноценный ИИ - скорее новая самостоятельная форма жизни, чем чье-то средство для чего-то. Что не исключает возможности кооперации человека с ИИ :).

А вот я не согласен. Божественные тексты уже настолько перемусолены и потеряли оригинальное священное значение, что ИИ не представит труда отмоделировать такие тексты.

Вероятно :)

Ну, к стати, для цифровой сущности Аватар, созидающий саму реальность/ткани цифрового мира есть несомненный Бог-творец.

Сама по себе идея Бога, неважно там творца или управленца - проистекает из когнитивных ошибок, поддерживавшихся отбором. Существу, мыслящему без этих ошибок, подобная идея совершенно ни для чего не нужна, да и вообще едва ли откуда-то способна появиться.

Re: Проект "аватар" + ИИ на обслуге

--Религиозное мышление/религия потребуется ИИ для контроля над человеками. Самое простое средство.
--Для контроля над человеками не нужно религиозное мышление, если что-то и нужно - то понимание, как именно работает религиозное мышление у человека.


Натуральное воспроизведение религии при аналоговой форме контроля. И "понимание" религии при дигитальной форме.

--А, ну вы будите идти/вам любо по варианту проекта "аватар". В нем ИИ играет вспомогательную/исполнительную роль, для инициации и сопровождения перевоплощения субъекта в собственный/чужой аватар.
--Полноценный ИИ - скорее новая самостоятельная форма жизни, чем чье-то средство для чего-то. Что не исключает возможности кооперации человека с ИИ :).


Ну, наса-гуугл именно на это делают ставку. Способствовать само зарождению новой формы жизни и далее с ней сотрудничать.

--Ну, к стати, для цифровой сущности Аватар, созидающий саму реальность/ткани цифрового мира есть несомненный Бог-творец.
--Сама по себе идея Бога, неважно там творца или управленца - проистекает из когнитивных ошибок, поддерживавшихся отбором. Существу, мыслящему без этих ошибок, подобная идея совершенно ни для чего не нужна, да и вообще едва ли откуда-то способна появиться.


Ах, ах, какой пассаж, - для интеллектуальных рациональных отрицателей бога. Он действительно существует феноменологически.

Вот, для них будет горе, когда само зародившийся ИИ ткнёт их носом в факт существования и необходимость признания бога.

Re: Проект "аватар" + ИИ на обслуге

Натуральное воспроизведение религии при аналоговой форме контроля. И "понимание" религии при дигитальной форме.

Воспроизведение на каком субстрате? )

Ах, ах, какой пассаж, - для интеллектуальных рациональных отрицателей бога. Он действительно существует феноменологически.

Вот, для них будет горе, когда само зародившийся ИИ ткнёт их носом в факт существования и необходимость признания бога.


Для ума научного склада нет никакого горя в том, если некая теория убедительно опровергнута :).

Вера St. Neuronet-а.

--Натуральное воспроизведение религии при аналоговой форме контроля. И "понимание" религии при дигитальной форме.
--Воспроизведение на каком субстрате? )


Ваш вопрос не правильно поставлен. Важно не на каком субстрате. Важно в какой форме. В форме ВАКОГ или той, которая будет эквивалентна отражению ВАКОГ в цифровой форме.

--Ах, ах, какой пассаж, - для интеллектуальных рациональных отрицателей бога. Он действительно существует феноменологически. Вот, для них будет горе, когда само зародившийся ИИ ткнёт их носом в факт существования и необходимость признания бога.
--Для ума научного склада нет никакого горя в том, если некая теория убедительно опровергнута :).


В данном случае формой убеждения является сенсорная демонстрация.

Вся эта проблема с богом в наличии для него серьезного барьера восприятия.

И такой проблемы нет у ИИ. ИИ есть сущность в двух качествах:

--наличие ии-интеллекта, в той или иной мере близкого человеку
--наличие неограниченных технических/инструментальных возможностей для построения любых восприятий

...в итоге, ИИ не может не обнаружить бога. И после обнаружения бога, предъявить его человеку на некоем доступном интерфейсе. И все дела. В дальнейшем ИИ переходит под прямое божественной управление. И вслед за ним все человечество становится официально религиозным в некоей новой Нейро Вере. Вера St. Neuronet-а! :)

Но, будет велик соблазн имитации всех выше перечисленных законный шагов развития St. Neuronet-а!

Тогда, надо немедленно организовывать общественное движение/партию за свободу информации в St. Neuronet-е. Что-нибудь типа Liberty St. Neuronet LSN.


Edited at 2015-02-26 01:59 pm (UTC)

  • 1