October 13th, 2019

Проблема ответственности ИИ — свидетельствую, значит рефлексирую

Прежде чем начать рассуждать о ИИ-судье или ИИ-прокуроре — надо разобраться более простой ролью, с возможностью давать свидетельские показания.
.
Казалось бы, вопрос вообще не имеет смысла: технологии видео и аудиозаписи распространяются чем дальше, тем быстрее.
Можно сказать, что верификация данных обгоняет развитие ИИ. Мы будем жить в среде, которая непрерывно станет фиксировать наши действия. Любому из них найдется несколько прямых и во много раз больше косвенных подтверждений. Браслет для измерения медицинских данных, смартфон, камеры наружного наблюдения, квартирный вай-фай — не говоря уже о точном перечислении посещенных сайтов или операциях с банковским счетом.
Человек становится обитателем буквально стеклянного дома, а его ощущения заведомо проигрывают в точности компьютерным записям.
Уже сейчас есть многочисленные случаи увольнения, к примеру, кассиров, сторожей - только при наличии видеозаписи о хищениях.
.
Но одновременно с технологиями верификации — развиваются и технологии фальсификации.
Сейчас легко можно изготовить фотографию, которая бы обманула знатоков фотомонтажа начала ХХ-го века. Любое преступление — если только оно не будет совершаться совсем уж в состоянии аффекта — будет сопровождаться подготовкой. Начиная от закрашивания объективов камер и завершая созданием виртуальных двойников. Появляются возможности генерировать фейковое видео (пусть и низкого качества) в режиме реального времени и обманывать наблюдателей. Более того, открываются возможности манипулировать эмоциями или даже фобиями живого свидетеля — люди очень много рассказывают о себе в социальных сетях.
.
Read more...Collapse )