L 'искусственный интеллект представляет собой вызов не только на социальном уровне но и в области кибербезопасности. С развитием технологий подключения киберугрозы становятся все более сложными и частыми. Растущая обеспокоенность в области кибербезопасности связана с использованием кибератаки которые используют искусственный интеллект (ИИ).
И при этом они постоянно увеличиваются глобальные издержки кибератак. В 2023 году глобальные потери достигли 8 триллионов долларов. каждый годущерб от утечки данных по вине киберпреступников составляет для физических лиц 318 миллиардов долларов США, при этомсредний экономический эффект для малого и среднего бизнеса, которая варьируется от 120.000 1,24 до XNUMX миллиона долларов. Самый последний репортаж от Ibm на "Стоимость утечки данныхпоказывает небывалый рекорд: средний ущерб от кибератак составляет 4,45 миллиона долларов. в сектор здравоохранения, среднегодовые убытки особенно высоки и составляют 10,93 миллиона долларов. Соединенные Штаты Америкивходят в число наиболее пострадавших стран со среднегодовыми потерями в 9,48 миллиона долларов, за ними следует Ближний Восток со среднегодовыми потерями в 8,07 миллиона долларов.
С развитием технологий искусственного интеллекта дальнейшее увеличение затрат, при этом прогнозы указывают на увеличение на 11% до 10 триллионов долларов в 2025 году. При этом затраты на 2024 год оцениваются в 9,5 трлн.
Благодаря искусственному интеллекту, более изощренным кибератакам
Искусственный интеллект значительно повысил производительность в криминальном мире. Развитие технологий искусственного интеллекта приводит к тому, что киберпреступники экспериментируйте с новыми моделями и техниками кибератаки. Примером является ЧервьGPT, языковая модель искусственного интеллекта, созданная для помощи хакерам без этических ограничений, которая была закрыта после привлечения внимания средств массовой информации. С тех пор киберпреступники предпочитают использовать существующие и надежно работающие инструменты, а не разрабатывать новые модели ИИ.
в соответствии с MIT Technology Review, атаки на основе ИИ могут быть разделен на несколько основных типов: фишинг, дипфейки, создание фальшивых документов и раскрытие частной информации в Интернете, а также модели искусственного интеллекта для взлома, каждая из которых сопряжена с определенными рисками. Давайте посмотрим на них подробно:
- Фишинг: Основное использование генеративного искусственного интеллекта среди преступников — это фишинг, то есть выманивание людей с целью получения конфиденциальной информации. Интеграция ChatGPT в службы генерации спама позволяет улучшить сообщения, отправляемые жертвам. OpenAI пытается предотвратить использование своих продуктов в незаконных целях, но все контролировать сложно.
- Дипфейк аудио: ИИ сделал меня более реалистичные дипфейки. Например, у сотрудника в Гонконге выманили 25 миллионов долларов с помощью поддельного изображения финансового директора его компании. Аудио дипфейки — это дешево и легко сделать и может быть использован для убедительного мошенничества.
- Пройти проверку личности: Преступники используют дипфейки, чтобы обходить системы проверки идентичности банков и криптовалютных платформ. Они могут создавать ложные личности, накладывая фейковое изображение на реальное лицо, чтобы обмануть системы проверки.
- Джейлбрейк как услуга: Преступники предлагают услуги по побегу из тюрьмы манипулировать моделями ИИ и обойти их защиту. Это позволяет получить ответы о том, как совершать незаконные действия, например, писать код для программ-вымогателей. Это постоянная игра в кошки-мышки между компаниями, занимающимися искусственным интеллектом, и злоумышленниками.
- Доксинг и наблюдение: Модели языка ИИ идеально подходят для доксинга, т.е. раскрытие личной информации в Интернете. Они могут выводить личную информацию из данных в Интернете, повышая уязвимость людей.
Кибератаки на ИИ
Помимо использования для создания более сложных атак, важно также подумать о Защита ИИ от кибератак. В то время, когда защита от кибератак на системы искусственного интеллекта отсутствует, а проблемы национальной критической инфраструктуры растут, Национальный институт стандартов и технологий (Нист), правительственное агентство США, которое разрабатывает технологические стандарты и рекомендации, опубликовало отчет под названием «Состязательное машинное обучение: таксономия и терминология атак и мер по их смягчению (NIST.AI.100-2)». Этот отчет направлен на реализацию надежных контрмер для устранения сложности и разнообразия угроз, с которыми сталкиваются системы ИИ.
Для устранения угроз системам ИИ крайне важно применять надежные контрмеры. Отчет NIST определяет четыре основные категории атак:
- Атаки уклонения: эти атаки происходят после развертывания системы искусственного интеллекта и направлены на изменение входных данных, чтобы повлиять на реакцию системы, например, на вставку неправильных указателей, чтобы сбить с толку беспилотные транспортные средства.
- Отравляющие атаки: они возникают на этапе обучения системы, внося в чаты поврежденные данные, такие как ненормативная лексика, что заставляет чат-бота использовать их в будущих взаимодействиях.
- Атаки на конфиденциальность: эти атаки направлены на извлечение конфиденциальной информации из ИИ или обучающих данных для неправомерного использования, например, обратное проектирование модели с помощью законных вопросов чат-боту.
- Злоупотребления: Они стремятся передать ИИ неверные данные из законного, но скомпрометированного источника, изменяя их предполагаемое использование. В отличие от атак с отравлением, они используют законные источники для введения неверной информации.
Текущая задача кибербезопасности поэтому должен попытаться защитить системы искусственного интеллекта e предотвратить их злонамеренное использование посредством кибератак.
