Главная » Новости » Это нужно знать » Модель искусственного интеллекта без утечки данных
00:24

Модель искусственного интеллекта без утечки данных

Модель искусственного интеллекта без утечки данных
Эксперты из группы вычислительной конфиденциальности Имперского колледжа Лондона обнаружили, что искусственный интеллект можно использовать для автоматического обнаружения уязвимых утечек данных в системах на основе запросов QBS. Команда проанализировала утечки данных в системах QBS — контролируемых интерфейсах, через которые аналитики могут запрашивать данные для извлечения полезной совокупной информации о мире. Благодаря этому они смогли разработать новый метод с поддержкой ИИ. Это первый случай использования искусственного интеллекта для автоматического обнаружения уязвимости в системах такого типа.

Зачем нужны системы на основе запросов

Возможности сбора и хранения данных значительно расширились за последнее десятилетие. Несмотря на то, что эти данные полезны для продвижения научных достижений, большая часть из них носит личный характер, поэтому их использование вызывает серьезные проблемы с конфиденциальностью. Такие законы, как Общий регламент ЕС по защите данных, направлены на предотвращение серьезных утечек персональных данных.

Это означает, что использование данных во благо при защите нашего основного права на неприкосновенность частной жизни является своевременным и важным процессом для специалистов по данным и экспертов по вопросам конфиденциальности.

Системы могут обеспечить масштабный анализ анонимных данных с сохранением конфиденциальности. Кураторы сохраняют контроль над данными, поэтому они могут проверять и анализировать запросы, отправленные аналитиками, чтобы предотвратить утечку данных. Однако эта система имеет недостатки, поскольку злоумышленники могут обойти эти системы, разработав запросы для получения личной информации. Они получают информацию о конкретных людях, используя уязвимости или ошибки реализации в системе, что приводит к серьезным утечкам данных.

С помощью машинного обучения модель может создать утечку данных, состоящую из набора запросов. Эти запросы объединяют ответы для раскрытия частей личной информации с использованием полностью автоматизированной техники, называемой «эволюционный поиск», что позволяет модели находить правильный набор вопросов, которые нужно задавать.

Однако ручная разработка и реализация этих атак против сложных QBS — сложный и длительный процесс. Поэтому, по мнению исследователей, ограничение возможности атак на систему безопасности необходимо для обеспечения безопасного использования. Поскольку процесс происходит в «настройке черного ящика», ИИ нужно только получить доступ к системе, а не знать, как она работает, чтобы обнаружить потенциальные утечки данных.
Категория: Это нужно знать | Просмотров: 53 | Добавил: Kosten
Всего комментариев: 0
avatar