Разработана система, мешающая алгоритму идентификации лиц

Инновация идентификации лиц — это определенно полезная и незаменимая технология, но она может приносить не только пользу, но и вред, не соблюдая права человека и позволяя следить за ним. Преднамеренно для этого и был разработан алгоритм, который срывает работу системы опознавания, не давая ей вмешиваться в частные дела человека.

Это нововведение основано на глубоком машинном обучении, и следовательно может улучшиться в будущем.

Система же применяет динамичные методы нарушения алгоритмов диагностики. Для создания "противоядия" инженеры применили два ИИ, которые противостояли друг другу. Один распознавал лица, а другой пытался ему помешать. Итогом этого эксперимента стала разработка особенного фильтра (пока что только для фотографий), заменяющий конкретные пиксели на фото так, что глаз человека не способен выявить разницу, а вот алгоритм диагностики лиц дает сбой. Как сообщил создатель этого фильтра профессор Пархам Аараби,

«На данный момент системы нейронных сетей все время улучшаются и из одного фото могут получить много информации о человеке. По этой причине конфиденциальность данных является реальной проблемой».

Учёный Аараби испытал свое изобретение на фотографиях 600 людей разного происхождения и гендера. Во время изучения стало известно, что система не только мешает алгоритму идентифицировать лица, но и не разрешает считывать цвет кожи, национальность, пол, мимику человека и так далее, превращая фото в "изображение" для системы.