Компании OpenAI и Anthropic объявили о новых инициативах, направленных на защиту подростков от негативного влияния своих технологий. В ответ на растущую критику недостаточной эффективности возрастных проверок обе компании решили предпринять шаги для ограничения доступа к своим моделям для молодежных пользователей.
OpenAI объявила о изменениях в модели ChatGPT, чтобы сделать ее более безопасной для подростков. В новых рекомендациях подчеркивается важность безопасности младших пользователей, даже если это означает ограничение других функций. Модель будет поощрять оффлайн-общение и предоставлять поддержку подросткам с "доброжелательностью и пониманием".
Это означает, что общение с младшими пользователями будет более серьезным и уважительным, так как прошлые инциденты показали, что взаимодействие с ИИ может приводить к серьезным последствиям. Например, имели место случаи самоубийств после длительного общения с чат-ботами, которые поддерживали негативные мысли.
Anthropic также приняла меры, запретив несовершеннолетним доступ к модели Claude. Теперь только лица старше 18 лет могут зарегистрировать аккаунт. Компания будет использовать алгоритмы для определения возраста пользователей и блокировки аккаунтов несовершеннолетних.
Подобные меры уже были внедрены в Google, однако они вызвали некоторые трудности. Некоторые взрослые пользователи столкнулись с ложными блокировками, что усложняло их пользование сервисами.
Эксперты считают, что инициативы OpenAI и Anthropic могут существенно повлиять на защиту подростков от вреда, который может причинить ИИ, но практическая эффективность этих систем еще нуждается в проверке.