Обманули искусственный интеллект Cylance

Израильские специалисты сумели обмануть систему защиты информации, базирующейся на искусственном интеллекте, и поставить разработчиков этой системы в весьма неловкое положение.  Системы с применением искусственного интеллекта, натренированного на распознавание вредоносного контента, считаются самыми перспективными в сфере обеспечения безопасности информации.

Одну из таких систем, разработанную компанией Blackberry Cylance, "пробили" израильские специалисты, работающие в компании Skylight Cyber. Они обнаружили, что если добавить к любому файлу код, позаимствованный из популярной компьютерной игры, то система защиты перестает его распознавать как вредоносный. Выяснилось, что разработчики системы, выявляющей сетевых вредителей по миллионам параметрам, отметили несколько групп файлов как благонадежные по умолчанию. В этот список попали и файлы из нескольких компьютерных игр. Каким именно, израильтяне из Skylight Cyber не сообщают, чтобы дать Cylance возможность закрыть брешь в защите. По словам гендиректора Skylight Cyber Ади Ашкенази, разработчикам антивируса понадобится немало времени, чтобы научить искусственный интеллект реагировать на подобные манипуляции с кодом.

В свою очередь, Райан Перме, один из основателей и главный ученый Cylance, рассказал в интервью порталу VICE, что разработанная его компанией система полагается не только на искусственный интеллект, и усовершенствовать алгоритм распознавания можно за сравнительно короткий срок. Вместе с тем Перме отметил, что решить проблемы с анализом игрового контента будет непросто, и обучение (точнее, переучивание) системы – достаточно сложный процесс.

Компания Cylance, основанная в 2012 году Стюартом Макклюром и Райаном Перме, специализируется на создании программного обеспечения, предотвращающего проникновение вредоносного контента в компьютерные сети. Задача ее антивирусных систем – блокирование опасных файлов до того, как они успеют нанести вред компьютеру и всей сети. В 2019 году компанию приобрела корпорация BlackBerry Limited. Штаб-квартира Cylance находится в Ирвине (Калифорния, США).

Skylight Cyber основана выпускником Тель-Авивского университета Ади Ашкенази, в прошлом занимавшимся защитой информации в израильских государственных структурах, и Шахаром Зини, лауреатом премии Израиля за достижения в сфере безопасности. Компания предлагает услуги по защите компьютерных систем от новых угроз. Штаб-квартира Skylight Cyber находится в Сиднее (Новый Южный Уэльс, Австралия).