Отчёт о безопасности сообщества и новые меры защиты подростков
OpenAI представляет отчёт о безопасности своего сообщества пользователей и новые меры защиты для подростков. Резюме составлено только по заголовку (страница недоступна).
О чём статья
OpenAI объявляет о двух шагах по безопасности сообществ вокруг ChatGPT. Первый — обязательство регулярно публиковать отчёт о предотвращении насилия: как системы выявляют, изучают и обрабатывают тревожные сигналы, с анонимизированными примерами и данными. Первый отчёт запланирован на начало 2027 года и охватит вторую половину 2026 года, затем обновления каждые шесть месяцев. По словам OpenAI, в третьем квартале 2026 года было более 200 обращений в правоохранительные органы.
Второй шаг — новые ограничения. ChatGPT будет давать меньше подробностей о прошлых массовых нападениях независимо от возраста и мотивов пользователя и сможет автоматически завершать разговор, где заметна одержимость насилием; при повторах возможна временная приостановка аккаунта. Для пользователей младше 18 лет усиливаются ограничения на информацию об оружии и системах безопасности, а ошибочно отнесённые к этой группе могут подтвердить возраст через Persona. Меры начнут внедряться в ближайшие недели.
Читать официальную статью Карточка AnnuIA
Краткое изложение написано AnnuIA своими словами по официальной странице OpenAI. Содержание и права принадлежат издателю: читайте оригинальную статью.