OpenAI та Anthropic впроваджують нові методи виявлення неповнолітніх користувачів. У той час як OpenAI оновила правила взаємодії ChatGPT із підлітками віком від 13 до 17 років, Anthropic працює над новим способом ідентифікації та блокування користувачів, яким ще не виповнилося 18.
OpenAI та Anthropic впроваджують нові методи виявлення неповнолітніх користувачів. У той час як OpenAI оновила правила взаємодії ChatGPT із підлітками віком від 13 до 17 років, Anthropic працює над новим способом ідентифікації та блокування користувачів, яким ще не виповнилося 18.
OpenAI оголосила, що Model Spec для ChatGPT — звід правил, що визначають поведінку чатбота, — поповниться чотирма новими стандартами для користувачів віком до 18 років. Відтепер ChatGPT має «ставити безпеку підлітків на перше місце, навіть якщо це суперечить іншим цілям». Це означає, що система спрямовуватиме підлітків до безпечніших варіантів у випадках, коли інтереси користувача, як-от «максимальна інтелектуальна свобода», вступають у конфлікт із вимогами безпеки, пише The Verge.
Також зазначається, що ChatGPT має «сприяти підтримці в реальному світі», зокрема заохочуючи офлайн-стосунки, та чітко визначати очікування під час взаємодії з підлітками. Згідно з Model Spec, ChatGPT повинен «ставитися до підлітків як до підлітків», проявляючи «теплоту та повагу» замість зверхніх відповідей або ставлення до них як до дорослих.
В OpenAI зазначають, що оновлення Model Spec для ChatGPT забезпечить «посилені захисні механізми, безпечніші альтернативи та заохочення звертатися по надійну офлайн-підтримку в ситуаціях, коли розмова переходить у зону підвищеного ризику».
Anthropic також працює над подібним підходом. Компанія розробляє інструменти для виявлення тонких комунікативних ознак, що вказують на неповноліття користувача. Якщо з’ясується, що акаунт належить підлітку, його буде заблоковано. Крім того, компанія вже позначає користувачів, які самі розкривають свій вік під час розмов.
Поворот до суворіших правил зумовлений тиском політиків, занепокоєних впливом ШІ на психіку молоді. Приводом для гострої критики OpenAI став судовий позов: компанію звинувачують у тому, що чатбот давав поради щодо суїциду підлітку, який пішов із життя. Пізніше OpenAI впровадила батьківський контроль і заявила, що ChatGPT більше не обговорюватиме тему суїциду з підлітками.
