Nuevo método protege a niños de contenido ilegal generado por IA
Investigadores del MIT han desarrollado una innovadora técnica de auditoría que permite identificar si modelos de inteligencia artificial pueden generar contenido ilegal, como material de abuso infantil, sin necesidad de generar salidas ilegales. Esta metodología, que analiza las modificaciones internas de los modelos, logra detección precisa y escalable, contribuyendo así a mejorar la seguridad infantil frente a los riesgos asociados a la inteligencia artificial.
OpenAI se enfoca en familias al expandir ChatGPT a los hogares
OpenAI está ampliando su enfoque hacia las familias al contratar a un gerente de producto para desarrollar experiencias dirigidas a este grupo, además de los usuarios individuales. Este cambio responde a un crecimiento en la base de usuarios mayores de 35 años. La empresa busca crear productos seguros y adecuados para niños, con mejores controles parentales y experiencias adaptadas, reflejando una madurez en la industria de la inteligencia artificial.
Nuevo México condena a Meta por poner en riesgo a los niños y le impone una multa de 375 millones de dólares
Un jurado en Santa Fe condenó a Meta a pagar 375 millones de dólares en daños civiles, tras considerar que la empresa engañó a los consumidores sobre la seguridad de sus plataformas, poniendo en riesgo a los niños. El fallo, calificado como un hito por el Fiscal General de Nuevo México, evidencia la responsabilidad de Meta en la protección de los menores en línea y podría sentar un precedente importante en el país.
Arturo Béjar alerta sobre el riesgo de Instagram para la seguridad de los menores
Arturo Béjar, exdirectivo de Meta, advierte sobre los peligros de Instagram, afirmando que la plataforma expone a los menores a contenidos inapropiados y a pedófilos. A pesar de haber intentado implementar medidas de seguridad, la empresa prioriza su competencia en el mercado. Béjar espera que recientes juicios obliguen a Meta a realizar cambios significativos en su funcionamiento para proteger mejor a los niños en línea.
Apple implementa herramientas de verificación de edad a nivel global para cumplir con leyes de seguridad infantil
Apple ha lanzado herramientas de verificación de edad a nivel mundial para cumplir con las leyes de seguridad infantil que proliferan en diversos países. La compañía bloqueará la descarga de aplicaciones para mayores de 18 en Brasil, Australia y Singapur hasta que los usuarios verifiquen su edad. Además, ampliará su API de rango de edad declarado, permitiendo a los desarrolladores conocer la categoría de edad de los usuarios sin acceder a datos personales.
