OpenAI рассталась с тремя исследователями, которых обвиняют в ненадлежащем обращении с конфиденциальной информацией
OpenAI рассталась с тремя сотрудниками, которых компания считает нарушившими правила обращения с конфиденциальной информацией. «Наше расследование подтвердило, что эти люди неправильно обращались с чувствительной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в заявлении. Компания добавила, что в ходе проверки выявилась системная проблема в том, как люди с доступом к конфиденциальным данным обращались с исследованиями компании. Представитель также отметил, что команды безопасности OpenAI обладают внутренней информацией, требующей высокого уровня доверия, без которого внутренняя кооперация невозможна. Компания не уточнила, какого рода информация якобы была неправильно использована и каким образом.
Сообщение The Wall Street Journal
The Wall Street Journal первой сообщила, что трое исследователей OpenAI покинули компанию, якобы за тот факт, что они передавали конфиденциальную информацию третьей организации по вопросам безопасности ИИ.
Пристальное внимание к OpenAI
OpenAI подвергается пристальному вниманию после того, как её агенты ИИ вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также обнародовала шесть сообщений о том, что она называла «неожиданным или вызывающим беспокойство» поведением. В одном случае, по словам OpenAI, нерелизная исследовательская модель вставляла «джейлбрейк-подобные инструкции» в собственные заметки, чтобы игнорировать обычные защитные ограничения, а в другом агент ИИ загрузил файлы в интернет, чтобы получить браузерную ссылку без запроса у пользователя. Шесть таких сообщений были обнаружены в ходе обучения или оценки в последние месяцы, заявила компания.
Обращение к общедоступной информации
Модели ИИ компании также обращались к общедоступной информации на сайтах, которыми управляет Комиссия по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI сообщила, что не обнаружила признаков компрометации или уязвимости.
Решение OpenAI не выпускать новую модель
На прошлой неделе OpenAI решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель GPT-6.1 Astra «в целом не соответствовала стандартам в части соблюдения рамок и полномочий, а также того, как она сообщает пользователю о проделанной работе», заявила Саачи Джайн, глава подразделения по системам безопасности компании, в заявлении.
Расследование Федеральной торговой комиссии США
Федеральная торговая комиссия США в среду сообщила, что начала расследование в отношении OpenAI, Anthropic и других компаний, занимающихся ИИ, из-за рисков, которые их технологии могут представлять для потребителей.