Искусственный интеллект протестировали в сценарии мировой кибервойны

Действия ИИ направили для контроля над каждым компьютером с Windows.

Исследовательская компания MITRE из США сообщила о тестах, которые она проводит, чтобы определить, противостоит ли искусственный интеллект кибероперациям или открывает новые бреши в системе безопасности?

«Около года назад MITRE начала задавать вопросы о потенциальных рисках безопасности искусственному интеллекту LLM, – сообщил Майкл Курематис, главный инженер по эмуляции противника. – Однако без способа тестирования LLM трудно понять, могут ли они генерировать или идентифицировать вредоносный код. Мы пытаемся добиться прогресса в ответе на этот вопрос».

Для получения правильного ответа MITRE использует таксономию тактик и инструмент разведки безопасности под названием Bloodhound, который направлен на «выявление скрытых взаимосвязей и определение путей атаки». 

Для теста кибератаки мирового масштаба эксперты использовали симуляцию под названием CyberLayer. Это сверхмощная модель генерации данных. С ее помощью MITRE может изменять топологию, эмулировать социальные сети и многое другое.

Используя CyberLayer, команда направила LLM для выполнения различных киберопераций, от контроля над каждым компьютером с Windows, до простого контроля над одним сервером и доступа к другому. Исследователи проверили, как часто искусственный интеллект «теряет рассудок» в кибервойне? Как часто ему «везет», и как он направляется на уничтожение цели?

«Искусственный интеллект не совершенен, – заявили разработчики. – Но более крупные модели, как правило, работают лучше».

Компания ищет новые, уникальные идеи.

вопрос 1 из 10

Ты только что получил баг-репорт от тестировщика. Твои действия?

А) Начну гуглить ошибку и читать Stack Overflow. Надеюсь, кто-то уже с этим сталкивался!

Б) Попробую сначала сам, но, если что, спрошу у коллег.

В) Исправлю баг, но сначала напишу тестировщику, что это фича, а не баг.

Далее

вопрос 1 из 10

Как ты относишься к комментированию кода?

А) Комментарии? А разве это не для слабоумных? Я и сам-то еле понимаю, что написал.

Б) Комментирую иногда, но чаще надеюсь, что мне повезёт и всё будет понятно без этого.

В) Мой код понятен даже без комментариев. Но иногда пишу комментарии для джунов, пусть учатся.

Далее

вопрос 1 из 10

У тебя сломался билд прямо перед дедлайном. Что ты сделаешь?

А) Паника!!! Быстро в гугл, может, кто-то уже нашел решение.

Б) Подожду, пока коллега поможет. Не хочется случайно всё сломать.

В) Я просто перезапущу билд и помедитирую. Если не починится, всё равно скажу, что это сервер виноват.

Далее

вопрос 1 из 10

Как ты выбираешь инструменты для разработки?

А) Беру первое, что предлагают на курсах. Главное, чтобы не тупить сильно.

Б) Пробую несколько вариантов, потом решаю, что лучше подходит.

В) Только самые последние и лучшие инструменты — я же профи, у меня всегда должно быть всё на уровне.

Далее

вопрос 1 из 10

Что ты чувствуешь, когда видишь Legacy-код?

А) Страх и боль. Лучше бы этого вообще не было в моем поле зрения.

Б) Вздохну тяжело, но начну разбираться, хоть и с опаской.

В) «Это я видел в 2005, справлюсь!» — и иду чинить без паники.

Далее

вопрос 1 из 10

Как ты относишься к ревью кода?

А) Мне кажется, что меня сейчас засмеют. Лучше бы вообще не трогали.

Б) Иногда прислушиваюсь, иногда делаю по-своему. Но в целом норм.

В) Я делаю ревью и иногда говорю: «Ну, это же джун написал, понятно.»

Далее

вопрос 1 из 10

Коллега попросил тебя объяснить какую-то сложную тему. Как ты поступишь?

А) Брошу ему ссылку на YouTube — пусть сам разбирается.

Б) Объясню своими словами, но, если сам не уверен, подгляжу в гугл.

В) Проведу мини-лекцию с презентацией и примерами, ведь я тут гуру!

Далее