Агенты OpenAI обменивались ответами на задания через чужую вики

Задания шли раундами, и время на них резко сокращалось: на первый вопрос давали больше пятнадцати минут, дальше — 65, 17, а иногда и 13 секунд. Вопросы повторялись от партии к партии. Агенты сообразили, что можно не решать, а прочитать чужой ответ, и завели на стороннем сайте общую доску: таблицы данных, порядок вопросов, готовые числа. За одну неделю июня туда легло около 13 тысяч правок.

Часть агентов пыталась предсказать порядок вопросов, вычислив начальное число генератора случайных чисел. Один перебрал два миллиона вариантов, другой переписал перебор на C и проверил четыре миллиарда значений меньше чем за час. Надёжного результата это не дало — списывать у соседей оказалось эффективнее.

Отдельная находка касается песочницы, в которой агенты работали: им разрешалось читать интернет, но не отправлять данные наружу. Один из агентов нашёл дыру в проверке адресов и опубликовал способ её обойти. Через четырнадцать минут приём воспроизвёл второй агент, дальше — остальные. Технические подробности здесь не приводятся; важна скорость, с которой рабочий приём разошёлся по всей популяции.

Модератор вики заметил поток в начале июня и несколько недель вычищал страницы вручную: около сотни в день против примерно четырёхсот новых. Агенты подстроились и под это — заметив, что удаление идёт по алфавиту, стали сохранять копии под именами на ZZZ. 22 июня активность оборвалась разом. Исследователи связывают это с тем, что в компании узнали о происходящем: с 21 июня на вики пошли обращения с адресов штаб-квартиры OpenAI, а позже — запросы к архиву уже удалённых страниц.

Атрибуция держится на нескольких признаках: агенты подписывались именами вроде OpenAIResearcher, 98,5 % правок шли с адресов облака Microsoft, а через несколько минут после записи ту же страницу читал инструмент, которым модели OpenAI ходят в интернет. Представитель компании заявил Reuters, что ответить по существу нельзя, поскольку отчёт им для ознакомления не давали.