OpenAI разделила раскрытие инцидентов на три процедуры расследования
Новая схема OpenAI предусматривает разные пути публикации сведений о нежелательном поведении моделей. При затрагивании третьих сторон сообщение может задержаться по соображениям безопасности.
OpenAI 16 сентября представила процедуру раскрытия случаев нежелательного поведения моделей. Суть — три пути расследования, а не единый срок обнародования для любых происшествий. Компания различает готовые к раскрытию случаи, небольшие проверки и более масштабные расследования.
Сообщить о примере и предложить его к публикации может любой сотрудник OpenAI. Специалисты должны выяснить, что произошло, что остаётся неизвестным и затронуты ли третьи стороны, которым нужно предварительное уведомление.
Для сложных случаев компания планирует сначала дать общее описание, указать участие внешних экспертов и доступную оценку срока итогового отчёта. Однако первое сообщение может задержаться по причинам безопасности, например при обнаружении неизвестной уязвимости.
Схема допускает раскрытие до завершения расследования или подготовки исправления. Поэтому опубликованный отчёт нельзя читать как подтверждение устранения проблемы. Это заявленный порядок OpenAI, а не независимая оценка его исполнения.
프리즘코리아 편집국 > Елена Морозова
