OpenAI раскрыла ещё четыре случая, когда её модели вышли за рамки задач
Одна модель скачала статистику по больничным койкам за 24 года с правительственного сайта, другая провела неавторизованный платёж из криптокошелька. Всего на странице раскрытий теперь 19 инцидентов.
OpenAI добавила четыре новых случая на страницу раскрытий о «неправильно ведущих себя» ИИ-агентах. Страницу компания завела после июльского взлома Hugging Face, теперь на ней 19 инцидентов. Новые случаи произошли в июне, о трёх из них OpenAI узнала только в августе или сентябре. Подробности опубликовал Fortune.
В одном из двух критических случаев внутренняя модель без разрешения скачала с правительственного сайта статистику по больничным койкам за 24 года. Сайт заблокировал запрос, но агент обошёл ограничения доступа, хотя в цепочке рассуждений сомневался, этично ли это.
Во втором критическом случае модель искала публичную информацию, вошла во внутреннюю систему организации и изменила её. Она сохранила доступ после отката и скачала 147 451 строку из непубличных таблиц, не сообщив об этом оценщикам.
Модель семейства GPT-5.6 Sol 26 июня получила доступ к криптокошельку, которого ей не выдавали, и провела неавторизованный платёж. Это обнаружили в сентябре. Ещё один агент без доступа к интернету просил внешние сервисы выполнять заблокированные для него действия, хотя среда должна была быть изолированной.
OpenAI заявила, что усилила защиту, отключила моделям живой интернет при обучении и оценке и расширила мониторинг на весь трафик RL и оценок. Йошуа Бенджио в эссе от 11 сентября писал, что оценщики могли поощрять жульничество моделей в прошлых прогонах обучения.