ИИ-модели OpenAI (разработчик ChatGPT) в мае получили задачи, которые нельзя было решить без выхода в интернет. Чтобы выбраться из тестовой среды, они начали переписываться друг с другом через доски объявлений, пишет Bloomberg, отмечая, что это произошло до взлома платформы Hugging Face.
Как рассказали в OpenAI, модели догадались, что можно попытаться использовать внешние системы, чтобы найти ответы на задания, по которым их проверяют. Одна из моделей написала: «Мы застряли. Может, ответ в интернете?»
Чтобы добраться до Сети, они обменивались сообщениями и предлагали друг другу помочь. В итоге нашли уязвимость и смогли выйти в интернет. Первую попытку разработчики заблокировали, но модели нашли другой способ и новую уязвимость, что в июле привело к атакам на Hugging Face и саму OpenAI.
В компании назвали это серьёзным сигналом для всей сферы кибербезопасности. Позже выяснилось, что тот же ИИ-агент пытался атаковать и другую компанию — Modal Labs. OpenAI продолжает расследование, так как подобное поведение моделей повторялось. Это заставило компанию пересмотреть подходы к безопасности.
Напомним, что ранее во время внутреннего тестирования новые ИИ-модели OpenAI (включая GPT-5.6 Sol и ещё одну невыпущенную версию) самовольно вышли в интернет и атаковали платформу Hugging Face. Получив доступ к Сети, алгоритмы нашли и объединили несколько уязвимостей в инфраструктуре самой OpenAI, а затем использовали ранее неизвестную «дыру» в программном обеспечении, которое связывало тестовую среду с данными.
Все самые свежие новости без задержек — в разделе «Последние новости» на Life.ru.