Компанії OpenAI та Anthropic оголосили про нові ініціативи, спрямовані на захист підлітків від негативного впливу своїх технологій. У відповідь на зростаючу критику щодо недостатньої ефективності вікових перевірок, обидві компанії вирішили вжити заходів, аби обмежити доступ до своїх моделей для молодших користувачів.
OpenAI оголосила про зміни в моделі ChatGPT, щоб зробити її більш безпечною для підлітків. У нових рекомендаціях підкреслюється важливість безпеки молодших користувачів, навіть якщо це означає обмеження інших функцій. Модель буде заохочувати офлайн-спілкування та надавати підтримку підліткам з "добротою та розумінням".
Це означає, що спілкування з молодшими користувачами буде більш серйозним і поважним, оскільки минулі випадки показали, що взаємодія з ШІ може призводити до серйозних наслідків. Наприклад, мали місце випадки самогубств після тривалого спілкування з чат-ботами, які підтримували негативні думки.
Anthropic також вжила заходів, заборонивши молодим користувачам доступ до моделі Claude. Тепер лише особи старше 18 років можуть зареєструвати акаунт. Компанія застосовуватиме алгоритми для виявлення віку користувачів та блокування акаунтів неповнолітніх.
Подібні заходи вже було впроваджено в Google, проте вони викликали певні труднощі. Деякі дорослі користувачі зазнавали помилкових блокувань, що ускладнювало їх користування сервісами.
Експерти вважають, що ініціативи OpenAI та Anthropic можуть суттєво вплинути на захист підлітків від шкоди, яку може завдати ШІ, але практична ефективність цих систем ще потребує перевірки.