beskarss217891 (beskarss217891) wrote,
beskarss217891
beskarss217891

Categories:

Проблема ответственности ИИ — свидетельствую, значит рефлексирую

Прежде чем начать рассуждать о ИИ-судье или ИИ-прокуроре — надо разобраться более простой ролью, с возможностью давать свидетельские показания.
.
Казалось бы, вопрос вообще не имеет смысла: технологии видео и аудиозаписи распространяются чем дальше, тем быстрее.
Можно сказать, что верификация данных обгоняет развитие ИИ. Мы будем жить в среде, которая непрерывно станет фиксировать наши действия. Любому из них найдется несколько прямых и во много раз больше косвенных подтверждений. Браслет для измерения медицинских данных, смартфон, камеры наружного наблюдения, квартирный вай-фай — не говоря уже о точном перечислении посещенных сайтов или операциях с банковским счетом.
Человек становится обитателем буквально стеклянного дома, а его ощущения заведомо проигрывают в точности компьютерным записям.
Уже сейчас есть многочисленные случаи увольнения, к примеру, кассиров, сторожей - только при наличии видеозаписи о хищениях.
.
Но одновременно с технологиями верификации — развиваются и технологии фальсификации.
Сейчас легко можно изготовить фотографию, которая бы обманула знатоков фотомонтажа начала ХХ-го века. Любое преступление — если только оно не будет совершаться совсем уж в состоянии аффекта — будет сопровождаться подготовкой. Начиная от закрашивания объективов камер и завершая созданием виртуальных двойников. Появляются возможности генерировать фейковое видео (пусть и низкого качества) в режиме реального времени и обманывать наблюдателей. Более того, открываются возможности манипулировать эмоциями или даже фобиями живого свидетеля — люди очень много рассказывают о себе в социальных сетях.
.
В фактических расследованиях уже возникали ситуации, когда друг другу противоречили не только показания свидетелей, но и видеозаписи, аудиозаписи — что ставит под вопрос истинность каждой из них.
Но тогда фиксирование событий с помощью аппаратов как бы теряет своё эмпирическое качество, подобная запись какое-то время не рассматривается как- отпечаток действительности. Начинается «гонка» сразу в двух направлениях:
- сравнение уровня технических средств (количество кадров в секунду, разрешение кадра, непрерывность записи);
- разницы в статусе субъектов, использующих запись (условно говоря, кассира из супермаркета могут выгнать даже что-то заподозрят по видео очень плохого качества, и его собственная запись с телефона, куда лучшего качества, не станет аргументом).
Но в любом случае — носитель это записи утрачивает саму возможность существовать в качестве субъекта, это объект.
.
Дело не просто в увеличении возможностей техники — а в принципиальной разнице восприятия и передачи информации человеком и компьютером.
.
Человек — исходно субъект. Носитель сознания и мировоззрения. Манипулировать людьми сравнительно сложно, и потому человеческие показания используются в качестве меры, эквивалента сведений. На равновесии между верификацией и фальсификацией восприятия обычного человека, рядового субъекта, и опирается судебная система.
Машина — исходно, если мы берем условный фотоаппарат, не имеет своих интересов, может фиксировать громадные объемы информации, но её собственная картина мира и воля — ничтожны. Информация предельно легко подтасовывается, просто заменой файлов.
.
Очевидно, что идеальный свидетель как таковой — должен получать достоинства обоих, избавляясь от недостатков.
То есть машина-свидетель — должна оценивать адекватность собственного свидетельства, причем как в рефлексии окружающего мира, так и в оценке самой себя (саморефлексии).
.
Опять-таки, на первый взгляд мы сталкиваемся со сложностью.
Кроме человеческой невнимательности есть ещё злонамеренность. Приходиться создавать целый комплекс процедур, чтобы как-то бороться со лжесвидетельством.
Но если мы говорим о юридически значимых показаниях, подразумевающих ответственность свидетеля, то в условиях многослойной виртуальности для человека обостряется вопрос — как ему самому различить то, что «он видел», от реконструкции «я понимаю, что должен был видеть»? Причем подобная рефлексия свидетелей в юриспруденции крайне нежелательна — потому что она привносит толкования, личные интересы и т. п. Однако же и обойтись без неё невозможно. Даже если оставить виртуальность в сторону, и представить человека с плохим зрением, который несколько раз снимал и надевал очки во время происшествия — то он уже свидетельствует о частично реконструированных им событиях. Даже опознание, проводимое в идеальных условиях, требует сверки с собственной картиной мира, с памятью.
То есть фактически мы имеем дело с двумя система верификации — индивидуальной, у человека-свидетеля, и судебной, отраженной в юридических процедурах.
Судебная система верификации опирается на индивидуальную, но и конфликтует с ней в той мере, в которой субъект-свидетель находится в противоречиях с судом, как с коллективным субъектом.
.
А теперь обратимся к техническим устройствам, которые уже сейчас получают статус субъектов, пусть в очень ограниченном наборе ситуаций.
Это беспилотные автомобили.
В случаев аварийной ситуации автомобилю приходиться делать выбор — спасать пассажира или пешехода. И тогда конкретика разрешения камер, возможностей лидаров и быстродействия компьютера — будет рассматриваться как что-то вторичное. Выбор задаётся суммой факторов, который учитывает бортовой компьютер. А конкретную сумму факторов определили его проектировщики, программисты. Если беспилотный инкассаторский автомобиль задавит ребенка, чтобы обеспечить сохранность груза — свидетельством упущения его создателей будут выступать не столько видеозаписи, сколько реконструирование рефлексии машины, суммы обрабатываемых именно ею в ту секунду данных и методов принятия решения.
.
Есть постоянный рост технологий, на фоне которого человек — относительно постоянен, хотя много чему учится. В перспективе получаем ситуацию, в которой человека можно будет легко обманывать. Он утратит качества свидетеля, потому что в принципе не сможет отличать оптические и звуковые иллюзии «дополненной реальности». Вот тогда помощь дополнительных программ, которые человек будет отождествлять со своей личностью (экзокортекс, коллаборативный робот и т.п.) - только и будет позволять ему сохраняться в качестве свидетеля.
/это черновики тезисов, которые подаю на неделе /
Tags: Будущее, Философия техники
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 8 comments