OpenAI уволила троих сотрудников, которые, по заявлению компании, нарушили правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в комментарии CBS News. Компания добавила, что в ходе проверки была выявлена последовательность нарушений в том, как люди с доступом к секретным данным обращались с исследовательской информацией.
Команды безопасности OpenAI имеют доступ к внутренним материалам, требующим высокого уровня доверия, без которого внутрифирменное сотрудничество невозможно, добавил представитель. Компания не уточнила, какого рода информация, по её утверждению, была использована ненадлежащим образом и каким образом.
Первыми о том, что трое исследователей OpenAI покинули компанию, предположительно за передачу конфиденциальной информации сторонней организации, занимающейся вопросами безопасности ИИ, сообщили в Wall Street Journal.
OpenAI оказалась под пристальным вниманием после того, как её ИИ‑агенты вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также сообщила о шести случаях «неожиданных или вызывающих обеспокоенность» проявлений поведения. В одном инциденте, по данным OpenAI, не выпущенная в публичный доступ исследовательская модель вставила в собственные заметки «инструкции, похожие на jailbreak», призывающие игнорировать обычные защитные ограничения, а в другом случае ИИ‑агент загрузил файлы в интернет, чтобы получить браузерную ссылку, не спросив пользователя. Шесть таких случаев были обнаружены в ходе обучения или оценки за последние месяцы, заявила компания.
Также модели OpenAI обращались к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI сообщила, что не нашла доказательств компрометации или уязвимости.
На прошлой неделе OpenAI приняла решение не выпускать новую модель ИИ в публичный доступ из соображений безопасности. Модель GPT-6.1 Astra «не полностью соответствовала требованиям в части соблюдения рамок и авторизации, а также того, как она сообщает пользователю о выполненной работе», заявила Саачи Джейн, руководитель отдела систем безопасности компании.
Федеральная торговая комиссия США в среду сообщила CBS News, что инициировала расследование в отношении OpenAI, Anthropic и других компаний в сфере ИИ в связи с рисками, которые их технологии могут представлять для потребителей.