Антивирусная компания McAfee успешно взломала две модели Tesla

Антивирусной компании McAfee удалось взломать две модели Tesla. Цель? Чтобы они превысили скорость, указанную на табличке. Правильно, это атака, направленная на алгоритм, который обнаруживает и классифицирует дорожные знаки на дороге.

Автомобили Тесла, превышающие скорость

Две модели Tesla (модели X и S) развивали скорость 136 км/ч, в то время как указатели ограничивали скорость только 56 км/ч. Это результат 18 месяцев исследований лаборатории Advanced Threat Research (ATR) американской компании McAfee, сообщается в пресс-релизе, опубликованном 19 февраля 2020 года.

Эксперты говорят, что это целенаправленная атака на MobilEye EyeQ3. Эта система с датчиками и искусственным интеллектом (ИИ) оснащает не менее 40 миллионов автомобилей по всему миру , включая Tesla, выпущенную на рынок до 2017 года, то есть включающую Hardware Pack 1.

Простая модификация, чтобы обмануть ИИ

При работе с MobilEye EyeQ3 исследователи сосредоточились, в частности, на одном алгоритме. Этот алгоритм позволяет обнаруживать и классифицировать дорожные знаки на дороге. Эксперты хотели понять, возможно ли нарушить этот алгоритм обработки информации с камер, установленных перед автомобилем. Это называется «взлом модели», другими словами, отравление данных.

Руководители исследования просто изменили знак ограничения скорости до 35 миль в час. Это расширение на 5 см на уровне стержня посередине «3», модификация, почти незаметная для человеческого глаза. Тем не менее алгоритм попал в ловушку и верил в ограничение 85 миль в час!

Обман алгоритма не является новым. В 2019 бельгийские исследователи ввели ИИ в заблуждение с помощью простых плакатов. Однако McAfee хотел найти недостатки в ограничениях скорости автономных транспортных средств. По словам McAfee, речь идет о том, чтобы помочь компаниям исправить этот недостаток. Таким образом, результаты эксперимента были переданы компании Mobileye, производящей EyeQ3. Это исследование приветствуется в то время, когда все больше и больше несчастных случаев происходит с транспортными средствами Tesla в режиме автопилота.

Источник: McAfee