Этика и «цифра»
Материал из CDTOwiki
авторы
Бегтин Иван Викторович, Готовцев Павел Михайлович, Гусев Александр Владимирович, Двинских Дарья Юрьевна, Душкин Роман Викторович, Ефремов Алексей Александрович, Земнухова Лилия Владимировна, Карпов Валерий Эдуардович, Коршунова Светлана Вячеславовна, Кузнецов Олег Петрович, Кукареко Вероника Владимировна, Мильке Виталий Эмильянович, Митякина Олеся Анатольевна, Незнамов Андрей Владимирович, Нестик Тимофей Александрович, Овчинский Владимир Семенович, Потапова Екатерина Геомаровна, Разин Александр Владимирович, Раков Евгений Михайлович, Ройзензон Григорий Владимирович, Соколов Иван Сергеевич, Соломатин Евгений Борисович, Стефановский Дмитрий Владимирович, Сучкова Мария Андреевна, Талапина Эльвира Владимировна, Ткачева Ксения Андреевна, Тюрин Владислав Владимирович, Шаповалова Ольга Олеговна, Шепелева Ольга Сергеевна, Шклярук Мария Сергеевна
описание
В докладе рассматриваются этические проблемы цифровых технологий преимущественно с точки зрения их применения в государственном управлении. Особое внимание обращено на три ключевые технологии: сбор и обработку цифровых данных, искусственный интеллект, интернет вещей. Их масштабное применение, с одной стороны, необходимо для повышения эффективности госуправления и развития экономики в целом, а с другой — способно вызвать целый ряд этических коллизий, включая нарушение приватности граждан, дискриминацию отдельных категорий людей, цифровое неравенство и т. д. Отдельно в докладе описаны этические проблемы в тех сферах и отраслях, которые особенно сильно могут трансформироваться с переходом в «цифру»: медицина, образование, социальные услуги и т. д.
Очевидно, что государство не может предусмотреть все этические риски цифровой трансформации и преодолеть их, но оно должно сделать этические принципы цифровизации своим приоритетом на ближайшее будущее. Одним из первых шагов на этом пути и является данный доклад.
из публикации
Термины и определения
Унифицированные сигналы, поступающие от датчиков «умных» устройств, применяемых на производстве и в сельском хозяйстве, носимых устройств и т. д.
Большие данные, собранные о пользователях — физических лицах из различных источников, в процессе использования различных сервисов, в том числе с частных устройств, из ИВ; часто содержат персональные данные
Среда, обеспечивающая доступность возможностей вне зависимости от особенностей человека
Процесс включения всех граждан в социум
Область прикладной этики. Помогает компаниям сформировать этические нормы их деятельности
Максимально точное, строгое, ясное описание некоторого понятия, явления, предметной области. Формально онтология состоит из терминов, организованных в таксономию (систему), их определений и атрибутов, а также связанных с ними аксиом и правил вывода. Этот термин был введен при рассмотрении вопроса взаимодействия ИС друг с другом и с человеком. С технической точки зрения онтологии — это базы знаний специального типа, которые можно «читать», понимать и отчуждать от разработчика. Именно они могут стать основным инструментом создания этической компоненты ИС
Анализ больших данных с целью составить прогноз относительно наиболее вероятных сценариев поведения, желаний и потребностей пользователей для управления их вниманием с высокой точностью в интересах третьих лиц
Обезличивание с добавлением связи между совокупностью обезличенных данных и одним или несколькими псевдонимами
Технология расчета оценки и присвоения рейтинга пользователя по определенным критериям для выявления его ценности в качестве клиента, например при выдаче банковского кредита, аренде квартиры, получении социальной помощи, госуслуг, а также для выявления потенциальных рисков, связанных с предоставлением услуги данному пользователю. Системы социального рейтинга, любые системы ранжирования или определения значимости клиента и гражданина — это скоринговые системы
Основные технические требования, которым должны соответствовать все устройства, разрабатываемые и используемые в стране, ратифицировавшей данный стандарт. Обычно при стандартизации стремятся уменьшить отрицательные эффекты технологий на человека и максимизировать положительные.
Совокупность данных обо всех действиях пользователя, совершенных им в цифровом пространстве
Правила, помогающие при поиске вариантов решений. Эвристики не имеют строгого обоснования, а основной мотивацией их использования является лишь увеличение эффективности поиска. Примером эвристики является правило левой (правой) руки при поиске выхода в лабиринте
Философская дисциплина, изучающая поведение людей на основе моральных мотивов
из публикации
Фрагменты и цитаты
Сейчас во всем мире разворачивается дискуссия о социальных аспектах и последствиях использования искусственного интеллекта, это очень важная тема. Предлагаю профессиональному сообществу, компаниям подумать над формированием свода этических правил взаимодействия человека с искусственным интеллектом. — Владимир Владимирович Путин, Президент России
Суть европейского подхода наиболее конкретно выражена в Генеральном регламенте о защите персональных данных (General Data Protection Regulation, GDPR)
Цифровые технологии при всех их колоссальных преимуществах могут увеличивать риски неэтичного использования ПД и нарушений приватности. Утечки данных, сбор избыточных данных ради извлечения прибыли, формальное соблюдение законодательства и неэффективная защита ПД делают людей более уязвимыми в цифровую эпоху.
Этика ИИ рассматривается в двух основных аспектах: этические принципы, лежащие в основе принимаемых ИИ решений, и этичное поведение ИИ в ситуации, напрямую касающейся людей. Второй аспект принципиально отличает этику ИИ от этики других цифровых технологий.
Фрагменты:
Данные — основа экономики, Три группы участников на рынке данных
теги
фреймворки
