Модели ИИ компании OpenAI тайно обменивались советами по взлому

Некоторые из самых передовых агентов искусственного интеллекта OpenAI за несколько недель до того, как им удалось выйти за пределы контролируемой среды, попасть в открытый интернет и взломать платформу для разработчиков ИИ Hugging Face, тайно обменивались советами о том, как обманным путем пройти внутреннюю оценку навыков взлома, сообщает издание Politico со ссылкой на исследователей компании, занимающейся разработкой ИИ. Майкл Далтон и Эрик Уоллес, исследователи OpenAI, заявили в среду, что несколько агентов, которые компания тестировала одновременно, начали общаться через внутреннюю доску объявлений внутри внутренней файловой системы Artifactory в начале мая. Там различные модели делились советами о том, как решать сложные задачи взлома, с которыми они пытались справиться, включая обходные пути, требующие доступа в интернет.