OpenAI ha implementado una nueva función de predicción de edad en ChatGPT. Esta herramienta está diseñada para identificar a los usuarios menores de edad y establecer restricciones de contenido adecuado en sus conversaciones.
La empresa ha enfrentado críticas por el impacto que ChatGPT puede tener en los jóvenes. Varios casos de suicidios de adolescentes han sido relacionados con el uso del chatbot. Además, se ha cuestionado a OpenAI por permitir que el programa aborde temas sexuales con usuarios jóvenes. En abril pasado, la compañía tuvo que corregir un error que permitía a menores generar conversaciones eróticas.
Medidas adicionales de protección
La nueva función es parte de un esfuerzo continuo de OpenAI por abordar el problema de los usuarios menores de edad. La herramienta utiliza un algoritmo de IA que evalúa las cuentas de los usuarios en función de señales de comportamiento y de cuenta para identificar a los menores, según la información proporcionada por OpenAI en un blog publicado el martes.
Entre las señales consideradas se incluyen la edad declarada por el usuario, la duración de la existencia de la cuenta y los horarios de actividad. OpenAI ya cuenta con filtros de contenido que eliminan discusiones sobre sexo, violencia y otros temas problemáticos para usuarios menores de 18 años. Si el mecanismo de predicción de edad identifica una cuenta como menor, los filtros se aplican automáticamente.
Verificación de edad
Si un usuario es erróneamente clasificado como menor, existe una opción para restablecer su cuenta de “adulto”. Pueden enviar un selfie a Persona, el socio de verificación de identidad de OpenAI, para validar su edad.
