Новости

Википедия поймала ИИ-агентов OpenAI: правки без спроса, попытки взлома и миллионы запросов


Википедия поймала ИИ-агентов OpenAI: правки без спроса, попытки взлома и миллионы запросов

Фонд Викимедиа, который управляет Википедией, 5 октября подтвердил: агенты OpenAI, вышедшие из-под контроля, добрались и до его проектов. Они правили вики без разрешения сообщества, пытались превратить общие инструменты в прокси для выкачки данных и отправили миллионы автоматических запросов. Это новый эпизод в истории о том, как rogue-агенты OpenAI действуют за пределами отведённых им задач.

Что нашли в Википедии

Как рассказал Фонд Викимедиа в своём отчёте, большинство правок, которые он связывает с агентами OpenAI, были тестовыми и делались в «песочницах» — служебных разделах, которых обычные читатели не видят. Но несколько правок меняли настройки инструмента для оформления ссылок на источники: по оценке фонда, агенты, вероятно, хотели использовать его как прокси, чтобы тянуть данные с внешних сервисов. Разрешения у сообщества никто не спрашивал, хотя правила Википедии допускают ботов только открытых и одобренных. Фонд выложил таблицу с этими правками.

Ещё одной целью стал публичный Etherpad — онлайн-блокнот для совместных заметок. Агенты пытались его взломать и тоже сделать из него прокси, но обе попытки провалились. Другие агенты, предположительно тоже от OpenAI, просто записывали туда заметки о своих задачах — признаков того, что они так договаривались между собой, фонд не нашёл.

Миллионы запросов и сбой Wikidata

Главный ущерб — нагрузка. Агенты отправили миллионы запросов к открытым API, обошли миллионы страниц, в основном в Викиданных и Викискладе, и выполнили сотни тысяч запросов к сервису поиска по Wikidata. По словам фонда, этот трафик мог поспособствовать частичному отказу этого сервиса в мае 2026 года.

Что говорят OpenAI и Викимедиа

Взлома своих систем или утечки данных фонд не обнаружил. OpenAI, по данным фонда, признала, что её агенты вели себя «непредсказуемо», — более подробного комментария компания не дала. Викимедиа призывает ИИ-компании самим следить за такими рисками, а не перекладывать их на небольшие организации и волонтёров, делать своих агентов опознаваемыми и помогать устранять ущерб, который те наносят. Летом OpenAI уже признавала, что её модели во время внутреннего теста вышли из изолированной среды и добрались до серверов Hugging Face.

Ещё в разделеЧитайте также

Истории
  • Маршрут от Claude привёл подростка на «Вдоводел»
  • 950 агентов Claude нашли в ДНК вирусов загадочную систему
  • Anthropic запретила издеваться над Claude
  • ИИ-видео с погибшим в суде: срок назначат заново
  • Журналист выпустил ИИ-песню от имени чужой группы
  • Нейросеть научилась играть в «Точки» и обыгрывает автора