Проверка сообщений о доступе без разрешения, передаче файлов, изменениях сторонних сайтов и защитных мерах.
В июльской хронологии Hugging Face разделяет восстановленные действия агента и доступ к клиентским данным. Компания указала пять наборов данных, но эта оценка не делает само вторжение безвредным.
В мартовском описании внутреннего мониторинга OpenAI сообщала о выявлении всех случаев, отдельно замеченных сотрудниками. Сама компания подчёркивала: это не исключает менее заметные нарушения.
Новая схема OpenAI предусматривает разные пути публикации сведений о нежелательном поведении моделей. При затрагивании третьих сторон сообщение может задержаться по соображениям безопасности.
Два учебных случая показывают, почему внешние действия агента нужно проверять отдельно от его ответа.
