?

Log in

No account? Create an account

Previous Entry Share Next Entry
St. Neuronet (4) Какое количество классов ментальной структуры изберёт ИИ?
бессознательное
metanymous wrote in metapractice
http://metapractice.livejournal.com/463419.html
Суперинтеллект и религия: какую веру изберёт мыслящая машина?
http://www.computerra.ru/115185/ai-religion/

Два десятилетия отделяют нас от создания суперинтеллекта — искусственного разума, осознающего себя, по способностям и характеристикам близкого к, либо превосходящего разум человека. Цифру называют эксперты по ИИ и, несмотря на то, что то же самое они обещали десять, и двадцать, и тридцать лет назад, нынче вера в успех этого грандиозного предприятия как никогда сильна: вспомните панику, разгорающуюся вокруг возможной угрозы искусственного интеллекта для цивилизации. http://www.computerra.ru/113814/ai-pro/

Впрочем, сегодня я предлагаю поговорить не о набившей оскомину теме восстания машин, а о близкой к ней, но ещё почти неисследованной теме пересечения ИИ с таким чисто человеческим феноменом как религия.

Какие-то примитивные верования в сверхъестественное свойственны всему живому: в знаменитом опыте американца Берреса Скиннера, голуби, которых кормил генератор случайных чисел, скатывались в суеверия. https://en.wikipedia.org/wiki/B._F._Skinner

Человек подчас ведёт себя не умнее птицы (вспомните Культ карго), но только человек с его развитыми коммуникационными способностями смог довести веру в чудеса до логического совершенства. https://ru.wikipedia.org/wiki/%D0%9A%D0%B0%D1%80%D0%B3%D0%BE-%D0%BA%D1%83%D0%BB%D1%8C%D1%82

Мы веками оттачиваем правила процедур, пишем технические руководства по вере, строим реакторы веры и золотим их купола. Согласитесь, как только в нашем распоряжении окажется настоящий искусственный разум, естественно будет попробовать привить ему одну из религий. В конце концов даже право инопланетян на причащение к святым тайнам теперь признано самим Папой Римским. Так кто мы такие, чтобы закрывать дорогу к спасению сравнявшейся с нами по разумности машине?

Религий масса, но выбирать скорее всего придётся из двух самых популярных: больше половины населения Земли исповедуют одну из авраамических религий, а именно христианство или ислам. Чтобы не потеряться в джунглях философских дискуссий, предлагаю пока оставить в стороне вопросы общего значения, вроде того, есть ли у машины душа и требуется ли её спасать, какие у электронного дитя человеческого могут быть грехи, примет ли оно наши религии или попытается написать собственную и обратить уже нас. Вместо этого давайте сосредоточимся на аспекте, имеющем очевидное практическое значение, то есть на принципиальной разнице между белковыми и полупроводниковыми структурами.

Строительная единица человеческого разума — нейрон. А он, как и всё живое, со временем деградирует и действует неточно. Мы можем что-то забыть, где-то ошибиться. Искусственным разум наверняка будет выстроен на имитации тех же нейронов, но даже если через двадцать лет изобретут что-нибудь новенькое, машина в основе своей останется калькулятором — который не имеет привычки терять или искажать информацию. В калькуляторе балом правит логика и если выражение можно вычислить, результат всегда будет одинаков. Даже искусственные нейросети хоть и дают приблизительный ответ, его можно строго округлить до ближайшего целого: функция, недоступная живому! Что в свою очередь позволяет предположить, что «электронный верующий» будет ортодоксом, то есть предпочтёт строго следовать догматам того вероучения, которое он изберёт или которое ему навяжут.

Человек придумал религии для себя и трактует их базовые принципы соответственно моменту, обстоятельствам. Откройте Библию. В Евангелии от Матфея (глава 5, Нагорная проповедь) читаем: «не убивай», «не клянись», «не противься злому». Ни церковь, ни общество давно этих правил не придерживаются — и придумали добрую дюжину объяснений, почему (одно из самых популярных: мол, сказанное Иисусом не следует понимать буквально). Лень, забывчивость, эгоизм, личная выгода, самообман, государственные интересы и прочее открывают ещё тысячи лазеек — и вот уже единая религия дробится на конфессии, оригинальный свод правил обрастает вымышленными уточнениями и т.д. и т.п.

Не так для машины. «Данный свыше», «прошитый в ПЗУ» набор правил навсегда останется для неё тем, чем и должен быть: алгоритмом, отход от которого невозможен. Простая логика! Задача сформулирована две тысячи лет назад, информации, уточняющей или опровергающей её, по определению быть не может, следовательно и вариаций исполнения никаких нет. Так суперинтеллект станет ортодоксом.

А это, вообще говоря, страшно. Древние тексты писались в иные времена и полны догматов, не стыкующихся с вежливой современностью. Знаменитое «Убей неверного!» из Корана — лишь миф, вырванный из контекста отрывок (на самом деле это руководство по ведению боевых действий: «Когда встретитесь с неверными на поле брани, рубите головы» (47:4)). Но там же в Коране читаем: «женщин … непокорности которых … опасаетесь … побивайте» (4:34). Немало подобного наверняка найдётся и в Сунне (жизнеописании Мухаммеда). И в Ветхом Завете такого предостаточно: «в городах сих … не оставляй в живых ни одной души» (Второзаконие, 20), и пр. и пр. Выходит, верующий суперинтеллект неизбежно станет участником межкультурных, межрелигиозных конфликтов.

Из чего вытекает интересное следствие, но прежде чем изложить его, позвольте упомянуть ещё одну тенденцию, ясно обозначившуюся в дискуссиях вокруг супертинтеллекта в последние годы и особенно месяцы. Речь о поднимающейся волне протестов против автономного летального оружия — как математически правильно именуют теперь «роботов-убийц».

Ситуация на этом направлении напоминает ситуацию вокруг суперинтеллекта: большинство специалистов не считают это проблемой, но есть некоторая масса знающих людей, которые не просто опасаются, а и ратуют за международный запрет на разработку и производство таких машин. http://www.stopkillerrobots.org/

Смогли же мы ограничить производство и применение ядерного оружия, смогли поставить под контроль мины, сможем ограничить и АЛО. Потому что если этого не сделать, бесконтрольное применение, а тем более срастание автономного оружия с ИИ, обещает поставить цивилизацию на грань выживания.

Но как запретить уничтожение живых существ разумной машине, которая не признаёт иных доводов, кроме сгенерированных самостоятельно, и принцип действия которой даже разработчикам, вероятно, понятен не будет? Вот тут-то и пригодится религия — только не одна из существующих, а принципиально новая.

Идея, по правде говоря, ещё не сформировалась, поэтому опишу её приближённо, насколько это возможно из разрозненных дискуссий. Суть в том, чтобы разработать религию, увязывающую живое с технологиями и основанную на фундаменте ненасилия. Кое-кто из западных блогеров кивает в сторону русского космизма, видя в этом религиозно-философском социокультурном течении, выросшем в том числе на работах Циолковского, зародыш такого перспективного вероучения. https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D1%81%D0%BC%D0%B8%D0%B7%D0%BC

Так или иначе, проблема очевидна: новой эпохе нужна новая религия — исповедовать которую смогут без вреда друг для друга люди и машины. Кто возьмётся написать? ;-)

P.S. В статье использованы иллюстрации Jon Diez Supat, Murdelta, NectarineFire, Miriam.



  • 1

Re: Сколько классов ментальных процессов пропишет ИИ дл

Имеется в виду вариант/проект возникновения мега искусственного ИИ по типу самозарождения. Типа как самозарождались гомункулы в ретортах средневековых алхимиков. Сейчас одна такая известная нам реторта называется "гуугл". В таков умозрительном варианте уже нельзя будет точно указать, что наработали программисты, а что эээ "саозародилось

Мне по-прежнему кажется такая идея "самозарождения" какой-то разводкой: либо попыткой, условно, "технократов" ээ распилить деньги, условно, "бюрократов".

Либо собственно перерождением "бюрократии" в "технократию".

Ну т.е. идея ИИ (плацебо-ИИ) нужен для того, чтобы когда твой новый умный автомобиль остановится на обочине где-нибудь в пятистах километрах от ближайшего города, откроет двери и скажет: пожалуйте на выход – потому что через свой облачный сервис он узнает, что ты просрочил на пару дней выплату по автокредиту – вот тогда ИИ понадобится, чтобы при обоснованной жалобе в (станущие тогда рудиментарными) некие бюрократические инстанции им можно было обоснованно развести руками и сказать – извините, у нас тут ИИ, он не может врать/ошибаться!

Но даже допустим, что пытаются создать реальный ИИ, а не замудрённое прикрытие для ээ естественного интеллекта неких ээ закулисных структур. Тогда всё равно этот условный "гугл" сможет построить только те модели, которые отвечают мета-моделям, заложенным создателями гугла. То есть сможет построить только такие модели человека, которые соответствуют, условно говоря, той помойке информации, которая ему доступна + тем базовым алгоритмам обработки информации, которые он сам себе не сможет перепрограммировать.

Поэтому указать может точно и нельзя будет, что там само зародилось, а что нет, но первое будет логически вытекать из второго.

Нетокра́тия и Когнитариат

--Имеется в виду вариант/проект возникновения мега искусственного ИИ по типу самозарождения. Типа как самозарождались гомункулы в ретортах средневековых алхимиков. Сейчас одна такая известная нам реторта называется "гуугл". В таком умозрительном варианте уже нельзя будет точно указать, что наработали программисты, а что эээ "самозародилось
--Мне по-прежнему кажется такая идея "самозарождения" какой-то разводкой: либо попыткой, условно, "технократов" ээ распилить деньги, условно, "бюрократов".


Мне кажется, что отвергать чужие деньги/намерение их неуклонно потратить ест зряшное дело. Если был замысел тратится на гуугловский проект и уже основательно потратились, то и далее так будет. Ежели уже впалили НАСА с гууглом деньги в университет сингулярности, значит быть тому университету или еще чему.

Либо собственно перерождением "бюрократии" в "технократию".

Нетокра́тия
https://ru.wikipedia.org/wiki/%D0%9D%D0%B5%D1%82%D0%BE%D0%BA%D1%80%D0%B0%D1%82%D0%B8%D1%8F
Когнитариат
https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D0%B3%D0%BD%D0%B8%D1%82%D0%B0%D1%80%D0%B8%D0%B0%D1%82


Re: Нетокра́тия и Когнитариат

Мне кажется, что отвергать чужие деньги/намерение их неуклонно потратить ест зряшное дело. Если был замысел тратится на гуугловский проект и уже основательно потратились, то и далее так будет. Ежели уже впалили НАСА с гууглом деньги в университет сингулярности, значит быть тому университету или еще чему.

Так вопросов нет, раз партия сказала "надо", значит "надо" :) Вы пишите: мол огромный админ. и фин. ресурс вкачивается в проект ИИ по типу гуугла, СЛЕДОВАТЕЛЬНО он будет создан. С другой стороны, я, будучи проф. программистом, т.е. находясь (пусть и на низшей ступени пирамиды) как бы внутри/входя в этот страт ээ "технократов": не оспариваю наличие этого админ., фин. и медиа-ресурса, затрачиваемого на это дело, НО я склонен считать, что это грандиозный распил, который на выходе не даст собственно работающего ИИ. Зная как "технари" могут не моргнув проглотить/утилизировать каких угодно размеров финансовые вливания "бюрократов" (которые скорее "гуманитарии", нежели "технари") с какой угодно по размахам/красивостям имитацией промежуточных результатов, но при этом вовсе не обязательно достигнув конечного результата. В данном случае вот эту идею "самозарождения" ИИ я оцениваю как априори фиктивную.

Сила деструктивного форсайта

--Мне кажется, что отвергать чужие деньги/намерение их неуклонно потратить ест зряшное дело. Если был замысел тратится на гуугловский проект и уже основательно потратились, то и далее так будет. Ежели уже впалили НАСА с гууглом деньги в университет сингулярности, значит быть тому университету или еще чему.
--Так вопросов нет, раз партия сказала "надо", значит "надо" :)


Мы не знаем кто идеолог этого процесса. Но, такой процесс/проект есть.

Вы пишите: мол огромный админ. и фин. ресурс вкачивается в проект ИИ по типу гуугла, СЛЕДОВАТЕЛЬНО он будет создан. С другой стороны, я, будучи проф. программистом, т.е. находясь (пусть и на низшей ступени пирамиды) как бы внутри/входя в этот страт ээ "технократов": не оспариваю наличие этого админ., фин. и медиа-ресурса, затрачиваемого на это дело, НО я склонен считать, что это грандиозный распил, который на выходе не даст собственно работающего ИИ.

Тратящих деньги теоретические возражения не интересуют. Вспомни на минуту, эти типы реализовали с нуля проект сети. Ты можешь себе представить такое, ежели бы тебя о вероятности реализации такого проекта спросили году в 70?

Зная как "технари" могут не моргнув проглотить/утилизировать каких угодно размеров финансовые вливания "бюрократов" (которые скорее "гуманитарии", нежели "технари") с какой угодно по размахам/красивостям имитацией промежуточных результатов, но при этом вовсе не обязательно достигнув конечного результата. В данном случае вот эту идею "самозарождения" ИИ я оцениваю как априори фиктивную.

Сеть, цветные революции и прочее - все это казалось бредом. Но, это есть.

Отвратительный мир на Земле vs Цифовой мир

Ну т.е. идея ИИ (плацебо-ИИ) нужен для того, чтобы когда твой новый умный автомобиль ...

В этом топике я не собираюсь обсуждать вероятность создания/самозарождении ИИ.

В этом топике я хочу продолжать обсуждать модель ментального мира в первой постановке вопроса о ней: сколько самых общих классов ее структуры оптимально устанавливать. Один - два - три - более трёх?

А кто эти классы будет определять/устанавливать - человек ли, ИИ ли - нам это должно быть всё равно.

Почем интересы человека и ИИ могут быть пересечены, - это тоже не важно. Или же наоборот архиважно. Вот, придут лихие времена и будут на Земле созданы невыносимые условия:

--жать одно ГМО, от которого хитиновый панцирь по телу растет и все такое
--очень жарко/холодно, а воды ничерта нет/все ею залито
--порядка и закона, и государства нигде нет
--а есть по окрестным лесам стаи волков/медведей/какой еще нечести полно
--и всяческие банды шарятся пополам со свирепыми полуроботами-полуживотиной
--... и тд. и т.п.

...а тут к обывателю намасливаются менегеры сладкоречивые и предлагают ему переселение его души, его эго, его личности полностью в цифровую среду с гарантией комфорта и полного воспроизведения наличествующей обывательской субъективности. И спецификации приводят. Так мол и так. Ментальный мир будет моноструктурированный. Или же дуальный. Или же тройственный. Но, опционально только за огромную плату для избранных. А так что предлагается без выбора. И т.п. За деньги с наличием либо отсутствием потусторонних сил. И т.д., и т.п.

И вот, чтобы принять более взвешенное решение оставаться на жестокой проклятой Земле или же её покинуть, хорошо бы отчётливо представлять какое предложение что значит. В какой ментальной реальности будет комфортнее грезит себя тем же человеком, а в какой это вообще невозможно?

Re: Отвратительный мир на Земле vs Цифовой мир

В этом топике я хочу продолжать обсуждать модель ментального мира в первой постановке вопроса о ней: сколько самых общих классов ее структуры оптимально устанавливать. Один - два - три - более трёх?

А кто эти классы будет определять/устанавливать - человек ли, ИИ ли - нам это должно быть всё равно.


А-а! Понял. Тогда сорри за оффтопик.

В этой полемике мы обрисовали мотивирующий наше рассу

Да всё нормально.

В этой полемике мы обрисовали мотивирующий наше рассуждение контекст.

Онтологии вместо моделей

Но даже допустим, что пытаются создать реальный ИИ, а не замудрённое прикрытие для ээ естественного интеллекта неких ээ закулисных структур. Тогда всё равно этот условный "гугл" сможет построить только те модели, которые отвечают мета-моделям, заложенным создателями гугла.

А ты почитай внимательнее. Гуугловцы закладывают в основу интеллекта пока не модели, а огромные неразобранные/неупорядоченные онтологии, связанные/порожденные деятельностью человека:

--онтологию поисковых запросов
--онтологию запросов на переводы
--запросов в диалоговом режиме "о.к. гуугл"
--карты гуугла с маршрутами на них
--библиотеки с запросами в них
--и т.п.

...такая информация замещает гуугловскому самозарождающемуся сингулярному интеллекту более частные модели.

Даже простенькие роботы на колесиках к этому способны,

То есть сможет построить только такие модели человека, которые соответствуют, условно говоря, той помойке информации, которая ему доступна + тем базовым алгоритмам обработки информации, которые он сам себе не сможет перепрограммировать.

Да почему же не сможет? Даже простенькие роботы на колесиках к этому способны, самопрограммировать для себя карты окружающей реальности.

Re: Даже простенькие роботы на колесиках к этому способ

Но координатные системы этих карт жёстко заданы заранее создателями роботов.

Re: Даже простенькие роботы на колесиках к этому способ

Загрузи в робота две ОС и правило перезагрузки с одной на другую.

Если долго мучиться - что-нибудь получится

Поэтому указать может точно и нельзя будет, что там само зародилось, а что нет, но первое будет логически вытекать из второго.

Да неважно что и как будет зарождаться, при условии, что самые главные материальные ресурсы:

--Рокфеллеров
--Ротшильдов
--Баррухов
--Пентагона
--и т.п.

...будут потрачены на несколько вариантов проекта ИИ и утилизации на его основе цифровой среды для переселения в неё лучшей части человечества.

  • 1