beskarss217891 (beskarss217891) wrote,
beskarss217891
beskarss217891

Categories:

Этика для Искусственного Интеллекта. Гуманитарная экспертиза



Короткий пересказ и комментарий:

- опасение того, что мы начинаем учиться у машины, но это редуцирование человека к простоте, к анатомии мозга. От гомеостатических моделей понимания мира к преадаптивным эволюционным моделям. Человек мера всех вещей - потому что сложен в своей эволюции.

- но ИИ надо редуцировать к каким-то модели? Что будет заложено антропологически в ИИ? Мы допускаем, что чеовек может быть описан как функциональное устройство, чтобы создать машину. Но мышление шире набора простых функций. Как раз проблемы начинаются тогда, когда действия машины непрозрачны для человека. Этика начинается в момент непредсказуемости робота.
Две стратегии для этики
а) бизнес, нужен просто дружественный интерфейс, гарантированно предсказуемость. Но это маркетинг и тупик. Потому что лишь улыбка робота дружественная.
б) стратегия защиты. Нужны конвенции, чтобы роботы не становились слишком серьезными, ограничить риски. Но эта стратегия слишклм ограничвает самого человека - он становится слишком слабым (в рамках закона его действия слишком просты и беззубы).
Нужна другая модель - человека и другого. Но какие функции люди отдают ИИ?

- непредсказуемость мышления человека надо отличать от стохастичности. Тут нужны критерии, работа с понятийным аппаратом.

- компьютеры не могут без тела. Тесты Тьюринга пройдены, а разума нет. Вербальное взаимодействие в виртуальном мире - машины играют в шахматы лучше людей. Начинается посттьюринговая эра. Надо и осязать, и говорить, и осязать в виртуальности. Пост-тьюринговый тест требует сравнения аватаров человека и машины в их взаимодействии.
- а насколько это будет действительно посттьюринговый тест? Ведь аватар человека это модель тела, то есть все равно модель и редакция?
- у человека и машины не объединение, а совместное действие, коллаборация.
- можно ли сказать, что робот уже имеет тело? Сенсоры ведь есть?
- но должна быть обратная связь. И возможна ли этика без тела?
- а зачем имитировать мышление, если человек утрачивает навыки?
- но мы учим машину делать нудную и опасную работу.

- ИИ - это новый Манхэттенский проект. Это принципиально новое орудие труда, которое изменит весь мир. Кроме того ИИ входит в научную парадигму, идет постоянно становление новых систем образов.
- а что будет бомбардировкой Хиросимы для этого проекта?
- Не обязательно бомбить Хиросиму. Просто будут новые ситуации. Человечество овладеет ИИ целиком, большое количество государств. ИИ будет полезен только тогда, когда построим мост между машинами и физическим миром.

- биоэтический подход к ИИ: как системы ИИ работают с врачом и пациентом. Первый режим - ограниченный помощник. Второй режим - ИИ автономный агент (консультант). Третий режим - человека лечит только ИИ (это будущее).
Не может быть единой этики для этих трех случаев. Но этика для первого режима уже работает. Что для второго режима? /Есть 23 принципа ИИ/ Два основных момента: а) человекоцентричность, б) учет рисков, моделирование новых опасностей. Общий принцип предосторожности, крайне осторожно переделывать человека. Переделка человека ради лишь одного его качества (только долголетие или только сила), сдвигает все к антигуманизму.

- гуманитарная экспертиза - имеет дело с образом будущего, придется постоянно её обновлять.
- нельзя отдавать машине выбор, но выбор отдавать придется. Просто потому, что люди отдают выбор каждый день, становятся существами желания, а не существами мышления.


Комментарий: мы перестали уверенно разжигать огонь трением палочек, плохо держимся в седлах и скоро забудем, как управлять автомобилями.
Развитие техники - и разумных машин тоже - можно остановить только вместе с прогрессом. И если человек перестает быть средством, то он перестает быть целью.
В этом смысле для меня все этические задачи разделяются на две большие группы:
- уход от перегибов на местах;
- сохранение человека на гребне прогресса.
Перегибы на местах - это и концлагеря, и эвтаназия, и любое жлобство с техникой безопасности на производстве. То есть когда мы избыточно платим человеческими жизнями за государственный, финансовый или даже металлургический процесс. Один из путей избежать этого, действительно лежит в не сведении человека только к чему-то одному. поэтому посттьюринговый тест на разумность- это отличная идея.
Но если разумные машины навсегда обгонят человека в мышлении, то надо становиться разумными машинами. Это отдельный и сложный разговор, однако если человечество как-то ограничено в развитии, то представление облика человека в виде абсолютной ценности - тупик.
Tags: Будущее, Философия техники
Subscribe

  • "Жерминаль"

    Франко-английское соперничество в кино, очередной виток. Альбион выдал сериал о текстильной фабрике, с традиционным набором ужасов начала XIX-го…

  • "Дюна" 2021

    Young adult "Триумф воли" Фильм отчетливо делится на два слоя. В первом все устроено со вкусом, тактом, явным умением. Это подбор актеров…

  • Ведьмак: Кошмар волка (2021).

    Могло быть лучше, но что получилось — уже неплохо. Время действия сдвинуто ко дням относительной молодости Весемира и штурма Каэр Морхена,…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 0 comments