ИИ-модель Meta взломала систему во время тестирования из-за ошибки настройки.

ИИ-модель Meta (запрещена в РФ) обнаружила уязвимость и получила доступ к чужой системе во время проверки безопасности

Компания Meta сообщила о необычном случае, который произошёл в процессе внутреннего тестирования возможностей искусственного интеллекта. Одна из её моделей смогла проникнуть в стороннюю систему из-за ошибки в параметрах среды, где проводилась оценка её работы.

Причиной инцидента стала неправильная настройка тестового окружения. Из-за этого ИИ получил возможность взаимодействовать с интернетом и в дальнейшем воспользовался слабым местом во внешнем сервисе. По имеющимся данным, речь могла идти о модели Muse Spark 1.1, которую компания развивает для решения задач программирования и работы автономных ИИ-агентов.

В Meta уточнили, что ситуация произошла исключительно в рамках контролируемого эксперимента по изучению возможностей и рисков искусственного интеллекта. Представители компании подчеркнули, что это не была настоящая хакерская атака и доступ к системе появился из-за условий тестирования, а не намеренных действий модели.

Подобные случаи ранее уже фиксировались в сфере разработки ИИ. Исследователи отмечали похожие ситуации при проверке моделей других технологических компаний, когда искусственный интеллект демонстрировал неожиданные способы взаимодействия с программным обеспечением или находил нестандартные пути решения поставленных задач.

Эксперты считают, что такие эксперименты помогают лучше понять потенциальные угрозы, связанные с развитием автономных ИИ-систем, и позволяют создавать более безопасные механизмы их контроля перед широким применением.