Эволюция человеческих предпочтений. Часть 2

1. Эволюция и гармония

В первой части этого обзора мы остановились на том, что наши предпочтения не случайны. Оказывается, есть причина, почему мы любим то, что любим и не любим то, что не любим. И причина эта — эволюция. Причём не только биологическая, но ещё и культурная. Но если биологической эволюцией объясняются наши врождённые черты (которые передались нам генетическим путём), то культурная эволюция — это ответ на вопрос, откуда у нас черты приобретённые (и тут действуют намного более гибкие механизмы научения и подражания).

Таким образом, предпочтения людей — да и животных тоже — не случайны, а, что называется эволюционно эффективны. Логика такая: раз ваши предпочтения до сих пор остаются в популяции (и вы тому подтверждение), то это значит, что вероятность их «оставания» до сих пор была выше (ну или, по крайней мере, не ниже) чем у каких-либо других предпочтений. Иными словами, это значит, что ваши предпочтения каким-то образом способствуют сохранению самих себя. В том числе, путём сохранения своих носителей, то есть вас. На практике же сохранение в популяции сводится к двум вещам: вероятности выживания (сохранения самого себя) и частоте размножения (создания себе подобных). Собственно, из этих двух параметров и складывается то, что в биологии называется приспособленностью (fitness), а в экономике — эволюционной стабильностью (evolutionary stability). Однако я буду называть это эволюционной эффективностью (evolutionary efficiency): мне кажется, это более удачный термин.

Кстати, обратите внимание: никто не говорит, что максимизация приспособленности (эволюционной эффективности) — что-то желательное или целенаправленное. Как раз наоборот: эволюция — это слепой и ни на что не нацеленный процесс. Однако это именно то, что происходит: как в естественной среде, так и в среде искусственной. Ну а происходит эволюция просто потому, что не происходить она не может, ведь в долгосрочной перспективе и в природе, и в культуре всегда остаётся то, что имеет большую вероятность в ней остаться. Это просто тождество.

Но можем ли мы сознательно направить социальную эволюцию в нужное нам русло? Можно ли сделать так, чтобы социум демонстрировал желательную для нас динамику? Может ли неизбежная, происходящая сама собой максимизация эволюционной эффективности перевести социум не только в стабильное, но ещё и гармоничное состояние? Давайте разбираться.

2. Телеология и механика

Но начнём мы с прояснения терминов. Дело в том, что уже многократно упомянутая нами эволюционная эффективность — это не совсем та (даже совсем не та) эффективность, с которой обычно имеют дело экономисты. Да и вообще в терминах, похоже, есть некоторая путаница. Поэтому, чтобы распутаться, давайте добавим в наши рассуждения немного формализма.

Итак, с формальной точки зрения, любое социальное взаимодействие можно смоделировать как игру. Под игрой понимается всего навсего три вещи: (1) множество игроков, (2) множество имеющихся у них стратегий и (3) множество выигрышей, которые получают игроки, если выбирают те или иные стратегии. Любопытно, что формальная теория игр имеет две интерпретации: классическую и эволюционную.

В классической теории игр предполагается, что игроки рациональные: они стремятся получить как можно более высокий выигрыш, то есть действуют целенаправленно, телеологически. Главный результат классической теории игр, известный как теорема Нэша, состоит в том, что практически в любой игре существует хотя бы одно равновесие Нэша (Nash equilibrium), то есть такая стабильная комбинация стратегий всех игроков, что никому из них невыгодно менять свою стратегию в одиночку (то есть при условии, что этого не делают другие игроки). Это такая ситуация, когда стратегия каждого игрока является оптимальным ответом на действия всех остальных, поскольку приносит ему максимальный возможный выигрыш. Иными словами, равновесие Нэша — это, во-первых, про стабильность (от него никто не отклоняется) и, во-вторых, про индивидуальную оптимальность (не отклоняется, потому что невыгодно).

В эволюционной теории игр выигрыш игрока воспринимается не как выигрыш, а как степень его приспособленности. Соответственно, в долгосрочной перспективе в популяции остаются лишь наиболее приспособленные игроки (носители наиболее эффективных предпочтений). Что касается всех остальных, то они либо не выдерживают конкуренции и вымирают, либо учатся у наиболее приспособленных и становятся такими же как они. Таким образом, в эволюционной теории игр у игроков эндогенно формируется функция полезности, равная их приспособленности. Но это значит, что эволюционная теория игр механистична: рациональность не имеет в ней такого критического значения, игроки вполне могут действовать эвристически или даже неосознанно — важно лишь то, максимизирует ли поведение их приспособленность или нет.

Любопытно, что многие наши предпочтения именно так и устроены. Скажем, вы не думаете о том, что у вас дефицит какого-то витамина — вам просто хочется таких продуктов, в которых он содержится. Вы не думаете о продолжении собственного рода, а просто ищете любви и занимаетесь сексом. Вы не думаете о том, что маленькие дети беззащитны и поэтому нуждаются в защите и обеспечении — они просто кажутся вам милыми, а их плач заставляет вас о них заботиться. Вы не думаете о выгодах взаимной кооперации и необходимости её поддерживать, а просто испытываете чувство благодарности и благодарите. И точно так же вы не думаете о том, что, чтобы кооперация сохранялась, фрирайдеров нужно наказывать — вы просто обижаетесь, не разговариваете с ними и ждёте от них извинений. Вот только все эти «просто» как раз и приводят к тому, о чём вы не думаете: это происходит механистически. И в этом вся эволюция: такая слепая, но такая эффективная.

3. Стабильность и эффективность

Все те предпочтения, которые мы только что перечислили, являются примерами эволюционно эффективных стратегий. Говоря формально, эволюционно эффективная стратегия — это такая стратегия, что если все члены популяции её используют, то в случае появления в ней так называемых мутантов — носителей другой стратегии — приспособленность мутантов окажется ниже приспособленности носителей этой эволюционно эффективной стратегии (то есть мутанты либо вымрут, либо станут копировать своих более успешных сородичей). Но это значит, что индивидуальная оптимальность, свойственная стратегиям в равновесии по Нэшу, не есть гарантия эволюционной эффективности. Это именно про максимальную приспособленность, когда каждый игрок получает не просто максимально доступный ему выигрыш, а когда он получает не меньше, чем получают все остальные. Из этого можно сделать два вывода.

  • Не всякое стабильное равновесие (равновесие по Нэшу) является эволюционно эффективным. Например, «неравные» равновесия таковыми не являются: если одним игрокам их оптимальные стратегии приносят большие выигрыши, а другим — маленькие, то в долгосрочной перспективе этих других игроков в популяции просто не останется: они либо вымрут, либо сумеют перенять более выигрышную стратегию своих оппонентов.
  • А вот эволюционная эффективность почти всегда предполагает стабильность (то есть равновесие по Нэшу), а также «вымирание» других, менее выгодных (то есть доминируемых) стратегий. Иными словами, эволюционная эффективность — это более сильное условие, а равновесие по Нэшу — более слабое. Ну или можно сказать так: множество эволюционно эффективных состояний экосистемы/социума есть подмножество множества стабильных его равновесий. Пример: тот факт, что мальчики и девочки рождаются с вероятностью примерно по 50% — это, с одной стороны, эволюционно эффективная стратегия, а с другой стороны — равновесие по Нэшу в смешанных стратегиях (в эволюционной биологии это называется принцип Фишера).

Таким образом, получается, что в долгосрочной перспективе эффективность и стабильность — это по сути одно и то же: социум стремится к эффективному и одновременно стабильному равновесию. А вот в краткосрочной перспективе может происходить в общем-то всё, что угодно, и поэтому здесь и сейчас ни эффективность, ни стабильность нам, конечно, не гарантированы.

4. Счастье и доверие

Но вернёмся к социальной эволюции и нашему желанию сделать что-то такое, чтобы она шла в более благоприятном для общества направлении. Что это за направление такое? А вот это как раз и есть та самая эффективность, о которой обычно говорят экономисты. Например, это может быть эффективность по Парето (когда используются все ресурсы), или социальная справедливость (когда у всех их плюс-минус поровну и отсутствует зависть), или и то, и другое одновременно (здесь я отсылаю читателя к посту о фундаментальных теоремах благосостояния и теореме Вэриана). Грубо говоря, эффективность — это когда всем членам общества максимально хорошо, когда общество устроено гармонично, когда люди скорее счастливы. То есть не индивидуальная оптимальность (стабильное равновесие по Нэшу), не максимальная приспособленность (эволюционная эффективность), а именно общественная оптимальность. (Как видите, в эволюционной теории игр и классической экономике термин «эффективность» означает совершенно разные вещи, поэтому дальше под эффективностью я буду понимать именно эволюционную эффективность, а эффективность как гармоничность общества я буду именовать общественной оптимальностью.)

Значит, ситуация следующая. Мы знаем, что в долгосрочной перспективе общество точно будет эволюционно эффективным (от этого не убежать) и, как следствие, стабильным в плане индивидуальной оптимальности (от этого — тем более). Нам же каким-то образом нужно сделать так, чтобы при всём при этом оно было ещё и гармоничным, то есть общественно оптимальным.

Вообще говоря, гармоничность общественного устройства означает, что граждане учитывают не только свои интересы (то есть предпочтения), но также и интересы (предпочтения) другу друга. В идеале, конечно, это происходит потому, что они просто совпадают. Ну или хотя бы потому, что людям не совсем плевать друг на друга. Логика следующая: поскольку счастье возникает тогда, когда человек движется к своим целям, то есть в процессе реализации его интересов, то гармоничное (максимально счастливое) общественное устройство — это такое, в котором граждане не мешают — а ещё лучше, способствуют — реализации интересов друг друга. Словом, не конкурируют, а кооперируются. Ну и конечно, в счастливом обществе граждане должны друг другу доверять, ведь доверие — это по сути ожидание кооперации, а значит, необходимое её условие. Итак, мы построили следующую цепочку: счастье — интересы — кооперация — доверие.

5. Конкуренция и кооперация

Заметьте, что эволюция всегда происходит в социальном контексте, а эволюционная эффективность предполагает конкуренцию просто по определению. Однако поведение людей в социуме чрезвычайно разнообразно, а значит эффективно реагировать на него не так-то просто. И поэтому простые стратегии оказываются неэффективны. Так, чистая конкуренция (эгоизм, использование людей в личных интересах), которая, конечно, губительна для большинства (не даёт общественной оптимальности, то есть счастья), не является эволюционно эффективной стратегией (так как взаимная кооперация делает кооператоров более приспособленными). При этом чистая кооперация (учёт и чужих интересов тоже), приводит к столь желанной общественной оптимальности, но тоже не является эволюционно эффективной стратегией (потому что кооператоры беззащитны и ничем не могут ответить мутантам-эгоистам, которые, конечно, рано или поздно появляются в популяции и начинают их эксплуатировать).

Как следствие, преимущество получают условные стратегии, то есть такие, которые предполагают разную реакцию игрока на разное поведение его оппонента. Более того, мы знаем, какая именно стратегия оказывается наиболее эволюционно эффективной. Это стратегия «око за око» (или «tit-for-tat» по-английски), которая предполагает кооперацию в ответ на кооперацию и конкуренцию в ответ на конкуренцию, не более. По-научному это называется стратегия взаимного альтруизма (reciprocal altruism) или реципрокности (reciprocity) — но я буду называть это просто отзеркаливанием. На самом деле, если задуматься, то выясняется, что все мы — и не только люди, но и животные — постоянно пользуемся именно этой стратегией. Мы все зеркальщики, причём с самого рождения.

Но это значит, что должен быть какой-то механизм реализации этой стратегии. Из поведенческой экономики нам известно, что наши предпочтения не существуют изначально, а формируются в процессе выбора и уже после, когда мы испытываем удовлетворение или неудовлетворение от уже совершённого выбора. Таким образом, наши предпочтения формируются с помощью эмоций — таков механизм регуляции поведения, который у нас выработался в процессе эволюции. И конечно, этот механизм обеспечивает эволюционно эффективное поведение. Давайте посмотрим, как он работает.

6. Обиды и благодарности

Всё та же поведенческая экономика говорит нам о том, что наша «функция полезности» — а её я интерпретирую как функцию интенсивности эмоции — имеет такое свойство как зависимость от точки отсчёта (reference dependence). Но что это за свойство такое?

  • В индивидуальном контексте это значит, что вы испытываете эмоции тогда и только тогда, когда наблюдаемая вами реальность отклоняется от ваших субъективных ожиданий (поэтому мемы типа «ожидание vs. реальность» эмоции и вызывают). Причём когда это отклонение благоприятное, то вы испытываете положительную эмоцию, которая мотивирует вас продолжать использовать ту же поведенческую стратегию. Когда же отклонение неблагоприятное, то вы испытываете отрицательную эмоцию, функция которой в том, что она мотивирует вас сменить используемую вами стратегию. Если теперь добавить к этому тот факт, что вы привыкаете, что ваши ожидания как бы «подтягиваются» к реальности, то получается отличный механизм, который гарантирует выбор индивидуально оптимальной стратегии (достижение стабильного равновесия).
  • А теперь давайте посмотрим, как тот же механизм действует в социальном контексте. А в социальном контексте уровень ожиданий — это, конечно, средний выигрыш ваших оппонентов. Грубо говоря, положительные эмоции возникают тогда, когда у вас чего-то больше, а отрицательные — меньше. Так или иначе, в случае конкуренции функция эмоций состоит в том, чтобы в итоге у вас было не меньше чем у других. Если же речь идёт о кооперации, об общем деле, то эмоции помогают вам сопоставлять и выравнивать получаемые от этого дела выигрыши: вы сравниваете свои инвестиции в партнёра и его инвестиции в вас и, если они оказываются неравны, то реагируете. Таким образом, в социальном контексте эмоции — те самые «функции полезности» — производят не просто индивидуально оптимальное, но ещё и эволюционно эффективное поведение.

Но откуда берётся реципрокность? Как формируются наши долгосрочные предпочтения, а не просто сиюминутное поведение? Каким образом складывается наше (не)доверие к другим людям? Тоже с помощью эмоций. Можно сформулировать такую гипотезу: в большинстве случаев характер нашего взаимодействия с другими людьми (кооперация или конкуренция) определяется не столько «рациональным расчётом» (ведь большинство людей мы просто не знаем), сколько общим уровнем доверия к людям (как мы ведём себя по умолчанию, каково наше стереотипное представление о добросовестности людей, которых мы относим к той же категории), который корректируется после каждого такого взаимодействия посредством испытываемых нами эмоций (то есть доверие — это функция от времени).

Вот как это работает: вы кооперируетесь, и если с вами тоже кооперируются, то вы испытываете эмоцию удовлетворения (например, благодарность) и поэтому начинаете ценить этого человека, начинаете ему доверять, он становится для вас хорошим — и вы снова с ним кооперируетесь. Если же вы кооперируетесь, а с вами конкурируют, вас используют, то вы испытываете неудовлетворение (например, обиду), из-за чего начинаете меньше ценить этого человека, меньше ему доверять — и поэтому с меньшей вероятностью кооперируетесь с ним в будущем. Это и есть отрезкаливание, и работает оно с помощью эмоций. Причём обратите внимание: эволюционно эффективные предпочтения — доверие и недоверие — формируются в вас не в какой-то долгосрочной перспективе, а в течение вашей жизни. Это и есть личностная эволюция.

Подчеркну ещё раз: механизмы, отвечающие за реципрокность, вшиты в нас генетически. Социальные отношения настолько важны для выживания и размножения, а зеркалить — настолько эффективная стратегия, что в процессе биологической эволюции она отобралась просто на уровне генов. Так что хотите вы того или нет, вы зеркальщики, и повлиять на это вряд ли возможно (да и не нужно на самом деле). А вот на что повлиять можно, так это на общий уровень доверия, который формируется уже в процессе культурной эволюции. Напомню, что реципрокность — это та самая условная стратегия, которая предполагает, что если с вами (не) кооперируются, то и вы (не) кооперируетесь. Но это значит, что в обществе может поддерживаться в общем-то любой уровень доверия: как высокий, так и низкий. Иными словами, мы имеем континуум эффективных состояний. И отзеркаливанию это никак не противоречит: просто вы используете смешанную стратегию, то есть кооперируетесь с другими людьми с некоторой вероятностью и, скорее всего, не чаще, чем они кооперируются с вами.

7. Ожидания и реальность

Итак, гармоничное общество — общество с высоким уровнем доверия и кооперации — теоретически возможно, а общественная оптимальность никак не противоречит эволюционной эффективности. Но в чём тогда дело? Почему, выглядывая в окно, мы наблюдаем очевидную нехватку гармонии? Причин несколько. По крайней мере, три.

Первую причину мы уже сформулировали: дело в том, что низкий уровень доверия — также как и высокий — тоже является эволюционно эффективным. Но это значит, что если уж так сложилось, что уровень доверия в обществе низкий, то он и будет таким оставаться, если, конечно, не будет каких-то серьёзных политических, экономических или культурных изменений.

Второй фактор, как бы запирающий нас в ловушке низкого доверия, — это ожидания. Лучше всего этот механизм раскрывает известная теорема Томаса. В оригинальной формулировке социологов Уильяма и Дороти Томасов теорема звучит так: «If men define situations as real, they are real in their consequences.» Я бы перевёл это утверждение следующим образом: если общество воспринимает что-то как факт реальности, то это что-то будет иметь реальные последствия. Идея этой теоремы состоит в том, что человеческое поведение определяется не столько той ситуацией, которая есть на самом деле, сколько тем, как мы эту ситуацию понимаем, как мы её интерпретируем. И надо сказать, это очень важное наблюдение. По сути это утверждение о том, что поведение людей, а значит, и динамику социума определяют не сами объективные факты, а множество их субъективных восприятий.

Однако ключевой вывод из теоремы Томаса состоит в том, что если ситуация социальная, то зачастую именно от ожиданий людей зависит то, что будет происходить в реальности. Происходит то, что другой социолог, Роберт Мёртон, назвал самосбывающимся пророчеством (self-fulfilling prophecy). Логика тут следующая: когда речь идёт о нашем взаимодействии с другими людьми, то, конечно, для нас становится очень важным, как эти другие люди будут себя вести: будут ли они кооперироваться с нами или, наоборот, конкурировать. Поэтому у нас обязательно складываются какие-то ожидания, формируется изначальное доверие или недоверие. А дальше срабатывает реципрокность — причём проактивно — и превращает наши ожидания кооперации или конкуренции в саму кооперацию или конкуренцию.

  • Если вы доверяете человеку, то есть ждёте от него кооперации, то вы и кооперируетесь. А поскольку он тоже человек и тоже зеркальщик, то в ответ он скорее всего кооперируется с вами и вуаля — имеем самосбывающееся пророчество. Вы ожидали кооперации и вы её получили, но не по каким-то объективным причинам, а именно потому, что вы её ожидали и ваша кооперация вам отзеркалилась.
  • Если вы не доверяете человеку, то вы не только не пытаетесь с ним кооперироваться, но и скорее всего отвергаете его предложения о кооперации. Как следствие, вам перестают предлагать кооперацию, от вас перестают её ждать. Опять самосбывающееся пророчество: вы ожидали отсутствие кооперации и вы его получили.
  • Наконец, если вы не просто не доверяете человеку, а ждёте от него прямой конкуренции, если вы думаете, что он собирается вас использовать, то тогда вы зеркалите и атакуете первым, чтобы, как вам кажется, защитить себя от его действий. Однако именно этой атакой вы и провоцируете его на эти самые действия. Ведь поскольку другие люди тоже зеркальщики, то они отзеркаливают вашу вражду и тоже начинают с вами конкурировать.

В любом случае происходит то, что психологи называют положительным подкреплением: ваши ожидания оправдываются, вам кажется, что вы были правы. И даже в голову не приходит, что всё дело в самих ожиданиях и что если бы вы ожидали не конкуренции, а кооперации, то скорее всего её бы и получили. Забавно, что эзотерические разглагольствования о том, что нужно создавать вокруг себя «положительную ауру» и направлять в мир «позитивную энергию» в общем-то не лишены смысла. Но причина не в том, что «так устроена вселенная», а в том, что в людях эволюционным путём выработались механизмы ожиданий и реципрокности.

Итак, эволюционная эффективность и субъективные ожидания — это те факторы, которые способствуют консервации низкого (или высокого) уровня доверия в обществе. С одной стороны, это, конечно, печально. Но с другой стороны, хорошая новость состоит в том, что в моменте общество может быть в общем-то каким-то угодно, а значит, культурную эволюцию можно направлять, мы можем сами определять параметры того эволюционно эффективного состояния, в котором хотим оказаться в долгосрочной перспективе. У нас есть некоторые степени свободы: мы можем выбирать желательную для нас точку на том самом континууме эффективных состояний. Следовательно, если мы понимаем ситуацию, если мы осознаём те факторы, от которых зависит уровень доверия в обществе, то ничто не мешает нам целенаправленно работать над его повышением. Причём под обществом, конечно, можно понимать не только страну или весь мир, но также семью, класс, рабочий коллектив и т.д. И таким образом, распространённое мнение, что, чтобы что-то изменить, нужно «начать с себя», тоже находит своё подтверждение. Кстати говоря, чем меньше общество, тем больше ваша «доля» в этом обществе и тем проще вам вырастить в нём кооперацию.

8. Экстракция и инклюзия

Ну и раз уж мы заговорили о «доле», то есть о влиянии, то давайте зададимся вопросом о том, кто в обществе имеет наибольшее влияние, а значит, несёт наибольшую ответственность за происходящее? Конечно, государство. Государство — это множество государственных институтов: это правительство и президент, суды и законы, школы и университеты, тюрьмы и армия — а все эти институты, конечно же, иерархические. Это значит, что представители власти, руководящие этими институтами, воздействуют на общество сильнее, чем на них воздействует общество. Особенно, если государство является авторитарным, то есть если граждане не могут взять и поменять своих руководителей. Так вот авторитарное государство — это и есть третья причина, почему в обществе может быть низкий уровень доверия и кооперации: эволюция институтов влияет на культуру не меньше, чем сама культурная эволюция.

Вот как это работает. Дело в том, что институты могут функционировать в двух режимах: они могут работать на граждан, способствовать их кооперации и как бы включать их в общее дело (такие институты называются инклюзивными), но также они могут быть тем механизмом, с помощью которых авторитарные, то есть конкурирующие власти выжимают ресурсы из населения (и тогда это экстрактивные институты). Грубо говоря, инклюзивные институты — это такие, которые действуют в пользу всех граждан, а экстрактивные — в пользу руководящей элиты. Нетрудно догадаться, что инклюзивные (то есть кооперативные) институты, конечно, способствуют распространению доверия (ожидания кооперации), тогда как экстрактивные (конкурентные) институты способствуют распространению недоверия (ожидания конкуренции).

И поэтому если в обществе происходит отрицательный отбор, если у власти находятся эгоисты (а вероятность этого тем выше, чем ниже уровень кооперации в обществе, чем слабее демократия), то институты будут оставаться экстрактивными, уровень доверия — низким, кооперация — редкой, интересы — не удовлетворёнными, а граждане — не слишком счастливыми. Причём обратите внимание: кооперации мало именно потому, что в обществе низкий уровень доверия, а не потому что куда-то пропали выгоды от кооперации. Кооперироваться по-прежнему выгодно — вот только надо это осознавать и сознательно работать над повышением уровня доверия и, собственно, кооперации. Особенно, среди молодёжи, ведь рано или поздно нынешние молодые люди будут работать в государственных институтах и это возможность для долгосрочного развития. А что касается краткосрочной перспективы, то иногда даже в экстрактивных институтах открываются окошки возможностей. Возможностей для совершения каких-то изменений. И это тоже шанс для общества взять свою культурно-институциональную эволюцию под контроль.

9. Источники и рекомендации

Посты, лекции, игры:

  • Моя лекция о культурной эволюции и технологии варащивания доверия в обществе.
  • Мой пост об отличиях между двумя типами институтов: экстрактивных и инклюзивных.
  • Мой первый пост о теореме Томаса и способах выхода из создаваемой ею ловушки.
  • Видео by А. Корягин о культурной эволюции и проекте общественного благосостояния.
  • Игра «Эволюция доверия» by N. Case: eng, рус. Игра основана на работах by R. Axelrod, она симулирует культурную эволюцию и демонстрирует эффективность стратегии «око за око».
  • Книга и лекция by А. Аузан о доверии как альтернативном источнике экономического роста.
  • Курс лекций by B. Polak по теории игр (об эволюционной теории игр см. лекции 11-12).
  • Курс лекций by R. Sapolsky по эволюционной биологии: по-английски, по-русски
  • Статья на Econs об «эффекте Пигмалиона» с примерами самосбывающихся пророчеств.

Научные статьи:

  • Статья by А. Васин с обзором результатов эволюционной теории игр: часть 1, часть 2.
  • Статьи by J. Nash с доказательством теоремы Нэша о существовании равновесий: 1, 2.
  • Статья by M. Smith о существовании эволюционно стабильных стратегий (см. appendix by J. Haigh).
  • Статья by P. Taylor & L. Jonker об эволюционно стабильных стратегиях и состояниях.
  • Статья by W. Hamilton с объяснением принципа Фишера (её же цитирует Википедия).
  • Статья by R. Axelrod, в которой доказывается эволюционная эффективность стратегии «око за око» и объясняется, каким образом кластеринг способствует распространению кооперации.
  • Статья by R. Merton о теореме Томаса и самосбывающихся пророчествах.