Этические проблемы применения алгоритмического видеонаблюдения в информационном обществе

Если вы являетесь наёмным сотрудником, то ваши моральные принципы могут вступают в противоречия с должностными обязанностями. Сегодня мы живём в реальности, где бизнесу и государству для эффективного функционирования необходимо использовать всё более продвинутые, а порой и недостаточно изученные технологии. Например, видеонаблюдение с элементами искусственного интеллекта задача которого анализировать поведение людей и прогнозировать потенциально опасные ситуации. Почему алгоритм, а не человек? Субъективность мнения не всегда основывается на его опыте и может быть основано на интуиции или в корыстных целях. Скорость не сопоставима с со скоростью оборудования, работа без перерывов. Единственная опасность этого алгоритма заключается в том, что он написан человеком, и нужно понимать какие критерии поиска и паттернов поведения в него заложены, ошибки проектирования, недостаточный набор данных, смещённые метрики и неверно выбранные поведенческие паттерны. Данная система не дает 100 % вероятность совершения преступления, но она может сегментировать людей как потенциально опасных при совпадении их поведения с установленными критериями. Она не способна выявить, одиночку-психопата на этапе задумки, в лучшем случае только в момент совершения противоправных действий (достать оружие под наблюдением камеры, которая выявить что это источник потенциальной опасности). Алгоритм можно обмануть или ввести в заблуждение, так как в случае потенциального указания на источника угрозы к нему будут приведены действия опознания/дознания и так далее, результатом которого может быть получена обратная связь, что данный паттерн поведения расценивается как норма и исключается из поиска, а в случае если это был преступник из группы лиц, его обратная связь пойдет по их каналам и они начнут ещё аккуратнее себя вести. Таким образом, система не инструмент поиска, а лишь часть его.

Этический принцип и ценность здесь достаточно размыта так как принцип приватности здесь не совсем нарушен, так как пребывание человека в общественном месте регулируется определенными правилами и законами, в том числе и теми, когда в случае основания к лицу могут быть применены мероприятия по уточнению документов, но при этом надо брать во внимание что без согласия граждан мы нарушаем их право на приватность. Таким образом люди соглашаются с общепринятыми правилами, и в случае необходимости полной приватности человеку необходимо быть либо в малозаселенной местности, либо не покидать место проживания (квартиру, дом и т.д.). Необходимо строго ограничивать доступ к частной информации человека, так как по мимо «сталкинга», есть ещё и преднамеренные лица заинтересованные в получение информации, один из способов предоставления безопасности это обезличивание данных и безопасное хранение в различных данных с использованием современных методов шифрования, но это игра в «кошки-мышки» так как по мимо улучшения способов сохранения и защиты информации, так же и повышается уровень овладевания технологий злоумышленников желающих ими овладеть.

Считается, что гражданине вынуждены ограничиваться в каких-то аспектах ради улучшения общей безопасности. Самоцензура во всей красе, но она не работает на беспринципных и одиночек. В случае грамотной пиар-компании сограждане воспримут это как необходимость, потому что иначе … , в противном случае это может привести к недоверию к компаниям/государству, а так же к юридическим последствиям. Некоторые компании это воспримут позитивно, потому что это источник дополнительный финансовых возможностей (новые услуги), для других это может быть причиной их банкротства. Общество к этому готово, так как дух советского веяния всеобщего контроля никуда не пропал, а ностальгия по СССР способствует продвижению идеи безопасности.

С точки зрения деонтологии действия должны соответствовать моральным правилам и принципам. В данном случае, внедрение технологии, способной предугадывать преступления, может быть оправдано, если это делается в рамках закона и с соблюдением определенных моральных норм.

С точки зрения утилитаризма, действия должны приносить наибольшее благо наибольшему числу людей. Внедрение технологии может значительно повысить уровень общественной безопасности, что принесет пользу большинству граждан.

Согласно этике добродетелей, действия должны соответствовать добродетелям, таким как честность, справедливость и ответственность. Если компания будет действовать честно и ответственно, обеспечивая прозрачность и защиту данных граждан, то это будет оправдано.

ИИ-видеонаблюдение может сделать общество безопаснее. Но настоящие проблемы начинаются тогда, когда люди перестают сомневаться в его безошибочности, ведь именно в этот момент и начинается всё самое интересное.