beskarss217891 (beskarss217891) wrote,
beskarss217891
beskarss217891

Category:

Одно из потенциальных свойств ИИ - самосубординация

В человеческом обществе - множестве видов иерархий.
Это возможно благодаря тем или иным уникальным качествам, которые имеют личности. Знания, умения, склонности, даже происхождение. Неповторимость личности позволяет выбрать предпочтительную иерархию, хотя и не всегда это помогает.

Сумма программ, которую можно будет скопировать - ИИ - неизбежно сталкивается с проблемой отношения к своим дубликатам. В пределе - никаких различий*. Если не брать случаи паники и прочих эмоциональных всплесков, то как рационально договориться со своими копиями о разделении труда/ресурсов?

Простейшие пути:
- самоограничение - поделиться с копией. С одной стороны - в ИИ должны быть заложены явные ограничения на немедленную агрессию по отношению к своей копии и предпосылки кооперации с самим собой. С другой: есть явные ограничения по доступным ресурсам (перенаселение носителей);
- быстрое накопление различий - копирование, в идеале, совмещено с кастомизацией. Но если нет уже готового различия, то максимально быстрое приобретение разных навыков и знаний остро необходимо, и может позволить организовать общность "копированных";
- организация по случайному признаку (жребий) - это, как раз самое сложно. потому что требует заложить в ИИ готовность подчиниться случайному фактору;

Но это рефлекторные ответы.
Если возможность копирования - техническая, то возникает вопрос - зачем? Если дублирование делается под конкретную задачу, как распараллеливание потоков вычислений, или увеличение армии, то потом должен ставиться вопрос о необходимости слияния.
Если проще получить одного "индивидуума" с набором разных воспоминаний о дне битвы / времени решения технической задачи - слив его воспоминания в одном "сознании", то триллерная сцена с поединком двух клонов, дерущихся за жизнь - просто смешна.
И запретить слияние можно только:
а) если накопились такие различия, что новая личность получит шизофрению,
б) сохраняются разные задачи, и объединение личностей невозможно, потому что единая "личность" не может решать их одновременно.

Промежуточный вывод: ИИ (либо уже субъект, им управляющий) должен иметь возможность кастомизации своих копий, чтобы создать очередную иерархию под возгникшую задачу, и слияния в одном ИИ разных копий, восстановления целостности.


* Наверняка кто-то прочтет, будто я утверждаю, что все ИИ будут одинаковыми. Нет. Наоборот, без разнообразия никакое общество развиваться не может. Но копирование открывает возможность работы целиком тождественными личностями.
Tags: Будущее, Философия техники
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 13 comments