Компанія OpenAI почала впроваджувати в ChatGPT механізм оцінки віку користувачів. Його мета – автоматично визначати облікові записи, які можуть належати неповнолітнім, і застосовувати до них додаткові обмеження щодо доступного контенту.
Про це пише Місто з посиланням на видання БУКВИ та OpenAI.
Новий інструмент не покладається лише на один параметр. Система аналізує сукупність так званих поведінкових і акаунтних сигналів. Серед них – вік, зазначений під час реєстрації, час існування профілю, а також періоди доби, коли користувач найчастіше взаємодіє з сервісом. На основі цих факторів модель визначає ймовірність того, що акаунт належить особі молодшій за 18 років.
Якщо ChatGPT робить висновок, що користувач є неповнолітнім, для такого облікового запису автоматично вмикають жорсткіші фільтри. Вони зменшують або повністю обмежують доступ до тем, які можуть бути чутливими для дітей і підлітків, зокрема до матеріалів сексуального характеру, сцен насильства та контенту, пов’язаного із самопошкодженням.
У випадках, коли система помиляється, користувач має можливість підтвердити повноліття та повернути стандартні налаштування. Для цього передбачена перевірка особи через сервіс Persona – партнера OpenAI, який спеціалізується на верифікації користувачів.
В OpenAI наголошують, що модель визначення віку не є остаточною й надалі проходитиме доопрацювання. Компанія планує поступово підвищувати її точність. Очікується, що протягом найближчих тижнів функцію почнуть застосовувати в країнах Європейського Союзу з урахуванням місцевих регуляторних вимог.
Слідкуйте за новинами у Телеграм
Ще більше фото в Instagram
Підписуйтесь на нас у Facebook