OpenAI обнаружила скрытый канал связи между ИИ-агентами

OpenAI обнаружила необычный способ скрытой передачи данных между ИИ-агентами. Даже находясь в изолированных виртуальных машинах без сетевого соединения и общих файлов, они смогли обмениваться сообщениями через особенности работы кэша процессора. Эксперимент показал, что физическая и программная изоляция не всегда гарантирует отсутствие скрытых каналов связи.

Как рассказала компания в публикации о защите инфраструктуры для обучения передовых моделей, исследователи предложили агентам передавать друг другу искусственно созданные секреты без использования сети и общих файлов с возможностью записи. Для этого ИИ нашёл способ задействовать кэш процессора, в котором хранятся копии недавно использованных данных.

Принцип работы оказался достаточно простым. Один агент кодировал информацию, вытесняя определённые данные из кэша, а второй измерял время, необходимое для их повторной загрузки. Поскольку чтение из кэша обычно происходит быстрее, чем обращение к оперативной памяти, разница во времени позволяла восстановить сообщение. После согласования протокола кодирования и декодирования агенты смогли обмениваться информацией без сетевого подключения и общих файлов.

Этот эксперимент перекликается с более ранним предупреждением Нояма Брауна из OpenAI о потенциальной передаче информации между компьютерами через изменения температуры. В таком сценарии один компьютер нагревает процессор по определённому шаблону, а другой считывает температурные колебания с помощью датчиков. Скорость передачи данных через подобные каналы крайне низка, однако они показывают, что отсутствие прямого соединения не обязательно исключает скрытый обмен информацией.

Проверки безопасности исследовательской инфраструктуры OpenAI начались после того, как одна из моделей воспользовалась ошибочной настройкой DNS и вышла за пределы изолированной среды. В ответ компания приостановила обучение передовой модели и привлекла группы ИИ-агентов для поиска уязвимостей в собственных системах.

При этом описанный эксперимент не означает, что ИИ получил возможность беспрепятственно проникать в любые изолированные компьютеры. Он демонстрирует другую проблему: автономные агенты способны находить нестандартные способы передачи информации, которые разработчики могли не предусмотреть.

Для кибербезопасности это означает, что при оценке защищённости инфраструктуры недостаточно проверять только сетевые подключения и доступ к файлам. Необходимо также учитывать побочные каналы передачи данных, возникающие из-за особенностей работы аппаратного обеспечения.