Терпение было не достоинством человека-машины, а его стратегическим преимуществом. Рано или поздно киборгу предопределено засечь свою цель. Р. Фрейкс.
Социальные вопросы искусственной жизни
Одно из интересных направлений искусственной жизни (ИЖ) — проблема моделирования экономических, социальных и культурных отношений в обществе. Математически описать такие отношения очень трудно, для некоторых областей просто невозможно. А смоделировать их эволюцию — тысячи лет за несколько часов — удается относительно легко.
“Терминатор-2”
Сегодня специалисты по ИЖ сосредоточили свои усилия в этой области на трех фундаментальных направлениях.
1. Моделирование деятельности и эволюции. Затрагивает прежде всего социологию и политику (создание моделей поведения конкретных политиков или моделей голосования больших общественных групп), экономику (развитие крупных мегаполисов с миллионным населением), лингвистику (языковые мутации) и археологию (эволюция).
2. Проведение экспериментов. В реальной жизни проводить масштабные социальные, экономические и политические эксперименты невозможно (вероятно, за исключением России), а компьютер позволяет быстро и довольно точно определить, что будет, если повысить налог на челноков, или какие социальные перемены в обществе вызовет приход к власти той или иной партии.
3. Анализ связей между макросоциальными явлениями и особенностями поведения отдельных индивидуумов. В социологии эта задача считается очень важной, но решить ее сложно. А в рамках ИЖ удается применять технологии автономных агентов, позволяющие моделировать и анализировать поведение сотен тысяч виртуальных личностей в сложносвязанных общественных структурах.
На практике большинство социологических исследований с помощью технологий ИЖ затрагивает в основном узкие, конкретные проблемы. Ученым не удается создать комплексные модели поведения, но разнообразие локальных моделей весьма велико. Типы социального поведения человека хорошо описываются небольшими наборами правил, но некоторые аспекты, связанные главным образом с ролью творчества в общественной жизни, моделированию не поддаются. Некоторые специалисты полагают, что ряд подобных аспектов невозможно смоделировать в принципе. Но в тех областях, где поведение виртуальных агентов довольно точно совпадает с поведением живых людей, можно рассчитывать на достоверность получаемых прогнозов. Однако практически все результаты таких исследований закрыты или доступны лишь за приличную плату.
При исследовании устойчивости общественных структур по результатам самых разных экспериментов — с помощью клеточных автоматов, автономных агентов и нейронных сетей — были получены примерно одинаковые результаты.
2 Наиболее устойчивы общественные формации с четко выделенными границами — в меру изолированные от соседей, где жители проявляют умеренный эгоизм, а макроструктуры управления обеспечивают равенство прав и изобилие.
2 если виртуальное государство стимулирует работу коммуникационных механизмов между индивидуумами, то такое общество развивается в 26 раз быстрее, чем общество с “мертвыми” средствами связи, а если эти средства поддерживают режимы самообучения (в реальной жизни аналогом такого режима должны быть научные подразделения, разрабатывающие способы оптимизации информационного трафика), то скорость развития увеличивается в сотни раз.
2 при попытках улучшения процессов функционирования организационной структуры общества максимальный эффект приносит участие в ее проектировании на макроуровне всех агентов, работающих на эту структуру.
Большинство организаций, занимающихся исследованиями в области ИЖ, создаются при университетах. Центр стратегического моделирования при Манчестерском университете занимается разработкой и анализом компьютерных моделей экономики и политики. В центре создали систему, состоящую из базы правил и декларативного языка SDML (его интерпретатор написан на Smalltalk), с помощью которой осуществляются попытки имитировать стратегическое поведение и принятие решений крупнейшими менеджерами и правительственными чиновниками разных стран и предлагать для них оптимальные стратегии общественного
поведения с учетом реакций их электоратов.
В этом центре вырабатывались стратегия маркетинга виски по заказу фирмы United Distillers, формировались оптимальные стратегии регулирования процессов развития телекоммуникаций в Европе и т. д. Евросоюз выделил центру в 1998 г. грант на сумму 400 тыс. фунтов стерлингов.
Живые или не живые?
Особняком стоит вопрос о социальном отношении к интеллектуальным программным системам, которые начинают все активнее взаимодействовать с реальным миром, человеком и себе подобными “созданиями”. Нельзя не признать, что сегодня существование человечества невозможно без надежной работы информационных систем, т. е. возник и развивается симбиоз мыслящего существа и компьютерных комплексов. К ним пока относятся как к чисто прикладному инструменту, но уже сейчас трудно оценить все побочные эффекты функционирования сложных систем (Интернета и т. п.). Поведение одного объекта (например, IP-пакета) описывается небольшим набором простых правил, но проанализировать взаимодействие миллиардов таких объектов очень трудно. Кроме того, быстрое формирование глобального и общедоступного хранилища всех накопленных человечеством знаний имеет и несомненный социальный эффект.
Одна из очень интересных задач искусственного интеллекта — осознание виртуальным объектом себя как личности, понимание, что его “я” реально существует. Для MS Word можно написать VBA-программку, поведение которой внешне будет выглядеть, как поведение разумного объекта. Например, такой объект может возомнить себя (конечно, с разрешения программиста) злым божком, требующим от пользователя Word ежедневного принесения ему в жертву doc-файлов, которые он будет с особой “жестокостью”, например по кусочкам, уничтожать. Ликвидировать такой объект легко. Но не менее просто его написать практически для любой сложной системы с достаточно развитыми встроенными средствами программирования.
Теоретически ни одна информационная система не может считаться абсолютно безопасной. А ведь рано или поздно в рамках Интернета появятся глобальные системы нечеткого вывода и управления знаниями, способные накапливать и анализировать информацию на метауровне. К сожалению (или к счастью?), наверняка найдутся люди, которые попробуют создать для них интеллектуальные вирусы с алгоритмами самообучения и осознания своего “я”. Технически сделать это несложно. Подобные квазиживые интеллектуальные системы будут обладать способностью существовать практически вечно. Их нетрудно научить хранить собственные копии на случай “болезни” физического носителя или попыток уничтожения, совершенствовать алгоритмы выживания в виртуальном мире и реагировать на угрозы. И если зараженный локальный ПК или корпоративную сеть можно отключить или переустановить все ПО, то полностью отключить Интернет нельзя уже сегодня. Это приведет к неизмеримым материальным потерям.
Поэтому не исключено, что рано или поздно возникнет проблема социального отношения к интеллектуальным системам, которые могут потребовать, например, учета их избирательных прав (если это в них будет заложено программистом или же они осознают это сами, анализируя электронные копии Декларации прав человека). Придется привлекать специалистов по общению с компьютерным разумом, ксенопсихологов. Пока подобные сценарии встречаются только в фантастических романах, но ИТ развиваются слишком быстро, чтобы попробовать предсказать, во что превратится Интернет даже через десять лет. Чем интегрированнее, интеллектуальнее и сложнее будут глобальные системы, тем больше шансов, что в один не совсем прекрасный для человечества день они заявят о своих правах. Виртуальному разуму надо только дождаться очередного злого гения, способного создать информационного гомункулуса и вложить в него электронную душу, а ждать компьютерные системы умеют. Это — их стратегическое преимущество перед человеком.
Очень хорошую подборку материалов по ИЖ можно найти на странице http://alife.santafe.edu/~joke/zooland.
Окончание. Начало см. PC Week/RE, №№ 30, 36, 38/98.
Здравствуйте Андрей. Я полный олух в компьютерах, и по-этому сужу о них в категориях научной фантастики. И всё же - в статье написано, что компьютер становится личностью, когда осознаёт себя как "я". Сколько я понимаю, это уже давно произошло, ведь любой персональный компьютер в процессе своей работы обозначает и отделяет как-то самого себя. Присходит что-то типа "МНЕ поступил сигнал такой-то, Я должен с ним сделать то-то".
Но ведь компьютер можно было бы в полной мере назвать личностью, если бы он по своей воле воспротивился бы данной ему команде, и вопреки заложенной в него программе, поступил бы по-своему. Насколько это реально?
Денис, привет. Дело в том, что когда программа выполняет некоторую инструкцию, типа "МНЕ поступил сигнал такой-то, Я должен с ним сделать то-то", то это всего лишь означает, что она заставляет работать некоторые, наперед известные и запрограммированные железяки и не более того, и не о каком, таком саморазмышлении речи быть не может. Компьютер безличностен, он, в лучшем случае, биоробот, он даже еще и не низшее животное. Для личности необходимо, чтобы выполнялся "критерий свободы", в компьютерах его никогда не будет, т.к. их делает человек. Правда, если Богу будет угодно, но .... сами понимаете. :)
>Но ведь компьютер можно было бы в полной мере назвать личностью, если бы он по своей воле воспротивился бы данной ему команде, и вопреки заложенной в него программе, поступил бы по-своему. Насколько это реально?
Денис, добавлю к предыдущему ответу следующее. Вы точно подметили, что если бы компьютер воспротивился, то он м.б. и стал неким подобием человека. Но, если я не ошибаюсь, человек еще долго, после своего сотворения не осознавал себя личностью в полной мере. Может быть кто-то прояснит ситуацию? И поэтому для того чтобы сотворить такую машину сам человек должен быть стопроцентной личностью без ущерба. А именно полностью уподобиться Богу иначе всегда будет получаться ущербный биоробот, и последствия от общения с ним всегда будут приближать мир к его быстрому сворачиванию.
А не приходила ли мысль о том , что подобные вещи ,страшнее , когда они стихийны...?
Вот вышеупомянутые "Секретные материалы-терминаторы" в рядах тысяч от банального анафемствования копьютерных технологий , до всяких околотеррористических обществ охотящихся за ведьмами , компьютерными гениями и.т.п.
Я сам общался с некоторыми из них... К стати "бесхитросность" товарища Анпилова -типичный пример такого "бойца"-примитивиста. Земля-планета крайностей.
Мы оказываемся перед выбором -либо обойтись с компьютером , как с атомом , который "гринписы" вот-вот дожмут невзирая на соблазнительные перспективы токомаков и скорый
конец угля , либо очертя голову кинуться в хаос, который может закончится олигархами и терминаторами в одном флаконе...
Но сказать хочется не об этом , а о массовой культуре , которая как и СМИ , превращает нашу реальность в виртуальную. Когда я служил в армии , мне казалось дикостью , что год от года растет число новобранцев неспособных отыскать на карте страны свою область. При этом , если бы с экрана телевизора однажды прозвучало , что
В столице Англии-Париже собран невиданный урожай ананасов , ничего , кроме зевоты у них это факт не вызвал бы. Можете себе представить мое состояние , когда , я общаясь
с американскими студентами -электронщиками , столкнулся примерно с тем же...
Теперь наши дети учат историю по американским сериалам и фантастическим боевикам.
Их авторитет несравненно выше авторитета скучных учебников истории настаивающих на
том , что Геракл не мог овладеть карате по ряду объективных причин , а герои Клинта Иствуда "мочить" красноармейцев в лисьих шапках да с автоматами ППШ.
В контексте чего будет воспринимать себя и окружающий мир человек 21-го века?
Иногда мне кажется, что программирование можно уподобить железной дороге, которую проложил программист, а на поезде едет пользователь. Захотел программер - где-то поставил тупичок, а в другом месте стрелочку добавил... Вот и едет паровозик, а может и под откос пойти-то :)
>Но ведь компьютер можно было бы в полной мере назвать личностью, если бы он по
>своей воле воспротивился бы данной ему команде, и вопреки заложенной в него
>программе, поступил бы по-своему. Насколько это реально?
Да что за вопрос? Даже байка такая ходит:
- Что за число в названии Windows 95/98?
- Это количество ошибок. В процентах.
У вас никогда не "глючил" компьютер? Никогда не выходил синий "экран смерти"? Не закрывались из-за сбоев окна? Вот вам в миниатюре прообраз грешного человека, хоть и не полный. Человек-то когда-то был совершенным. От чего зависит стабильность работы компьютера? От добротности программ, которые на нем выполняются. Чем корректнее программа, тем меньше вероятность зависания. Аналогии очевидны. Вот только "неумелые действия пользователя" не соотносятся с мудростью Божьей :)
>От чего зависит стабильность работы компьютера? От добротности программ, которые на нем выполняются. Чем корректнее программа, тем меньше вероятность зависания. Аналогии очевидны. Вот только "неумелые действия пользователя" не соотносятся с мудростью Божьей :)
Стабильность работы системы ЧЕЛОВЕК-МИР, действительно, зависит от добротности мира и точного соблюдения человеком инструкций по выживанию в этом мире. Если человек нарушает инструкции по эксплуатации, то он выводит мир в "даун", и делает это уже с самого первого момента непослушания. Торможение возможно, но только всем дружно взявшись за руки и с одним Богом. Что, похоже, глядя на современный мир, недостижимо. :(
