A medida que los modelos de inteligencia artificial se vuelven más potentes, crece la preocupación por su posible mal uso. Esto ha generado una demanda de medidas de seguridad que eviten abusos, lo que obliga a las empresas de IA a equilibrar la privacidad de sus clientes con la supervisión de posibles problemas.
Con el objetivo de superar a su competidor Anthropic, OpenAI ha presentado un enfoque de seguridad centrado en la privacidad. La compañía ha anunciado un nuevo servicio llamado Private Safety Processing, dirigido a clientes seleccionados. Este sistema automatizado monitorea el uso para detectar abusos, sin retener datos de los clientes.
Comparativa con el enfoque de Anthropic
Este sistema contrasta con la política de retención de datos de Anthropic, que permite conservar datos de usuario durante 30 días para ciertos modelos. Esta política ha suscitado preocupación entre empresas que manejan información sensible y que no desean que sus datos sean almacenados o revisados por el laboratorio de IA.
OpenAI, al igual que otras empresas de IA, ya garantiza un nivel de privacidad a sus clientes mediante la política de Zero Data Retention. Este enfoque utiliza agentes dentro de la API de OpenAI para monitorear el abuso en cada sesión, sin retener datos, lo que permite detectar actividades inapropiadas sin intervención humana.
Nueva tecnología de OpenAI
OpenAI afirma que Private Safety Processing amplía el alcance de Zero Data Retention. Se describe como un monitoreo de seguridad a largo plazo que evalúa múltiples conversaciones. Este agente, al detectarse un posible abuso, analiza las interacciones a través de sesiones.
La nueva tecnología permite a OpenAI identificar el uso malintencionado de la IA en varias sesiones. Por ejemplo, un actor malicioso podría diversificar sus solicitudes para evitar ser detectado. El sistema puede analizar estas conversaciones en busca de señales de abuso sin revisión humana.
Proceso de alerta y revisión
Cuando se activa el sistema, puede enviar una señal específica a OpenAI sobre un tipo de actividad. Con base en esta señal, OpenAI decide si es necesaria la intervención. La empresa contacta al cliente para obtener más contexto y colaborar en la resolución del problema, permitiendo al cliente decidir si comparte datos.
Por otro lado, Anthropic señala que la revisión humana de datos puede realizarse, pero a través de un acceso controlado con un grupo pequeño de revisores aprobados. Cada sesión de revisión se registra en un log inalterable que no puede ser modificado.
La competencia entre OpenAI y Anthropic es intensa, ya que ambas empresas buscan superar a la otra. Un informe reciente indica que OpenAI ha crecido más lentamente en su segundo trimestre en comparación con Anthropic. Se reporta que la tasa de ingresos anualizada de Anthropic alcanza los 65 mil millones de dólares.
Al comprar a través de los enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
