· Domingo1 de febrero de 2026 · · clima 22°C

TecnologíaInteligencia artificial

OpenAI lanza una herramienta para detectar abuso infantil creado con IA

Desarrollado junto al NCMEC, el nuevo clasificador gratuito para organizaciones verificadas detecta contenido real o generado con IA, mientras ChatGPT incorpora suspensiones automáticas y advertencias ante búsquedas dañinas.

Martes, 17 de Noviembre de 2026

OpenAI presentó una nueva herramienta gratuita destinada a organizaciones previamente verificadas para detectar material de abuso sexual infantil (CSAM), tanto real como generado mediante inteligencia artificial, junto con un paquete de medidas de prevención más estrictas dentro de ChatGPT. La compañía dirigida por Sam Altman señaló en su blog oficial que la iniciativa busca interrumpir la creación y difusión de este tipo de contenidos dañinos en internet mediante un clasificador de imágenes accesible a través de su API.

El sistema fue desarrollado en colaboración con el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y analiza señales visuales en las fotografías para identificar material abusivo que podría no haber sido detectado previamente, precisando además si existen indicios de que haya sido producido con inteligencia artificial. Una vez identificada una posible infracción, la herramienta asigna una puntuación al archivo con el propósito de ayudar a los equipos de moderación a priorizar los casos que requieren revisión urgente.

De acuerdo con las pruebas internas y con socios realizadas por la firma tecnológica, las imágenes señaladas por este nuevo clasificador presentaron aproximadamente el doble de probabilidades de contener material abusivo. Asimismo, la empresa estimó que la herramienta permite reducir la carga operativa al marcar un 48% menos de imágenes mientras detecta prácticamente el mismo volumen de contenido ilícito, evitando falsos positivos; en evaluaciones sobre imágenes de producción revisadas por humanos, el 72% de las alertas fueron confirmadas como material de abuso sexual infantil novedoso. “Empresas como OpenAI tienen la responsabilidad de evitar que nuestra tecnología sea utilizada por depredadores para dañar a los niños, y también debemos colaborar con el sector en general, las organizaciones de protección infantil y las fuerzas del orden para impulsar nuestros esfuerzos colectivos de protección infantil en línea”, expresó la compañía.

Nuevas restricciones en ChatGPT y recursos para desarrolladores y policías

En paralelo al lanzamiento del clasificador, OpenAI incorporó advertencias y bloqueos preventivos dentro de ChatGPT ante intentos de buscar o generar material vinculado con la explotación infantil. Cuando el sistema detecta este tipo de solicitudes, despliega mensajes que explican las consecuencias de sexualizar a menores —incluso cuando se trate de contenido creado mediante inteligencia artificial—, elimina de forma automática la conversación marcada y suspende el acceso del usuario durante un día, ofreciendo al mismo tiempo opciones de apoyo especializadas para abandonar dichas conductas. Frente a infracciones reiteradas desde un mismo perfil, la empresa advirtió que aplicará sanciones más prolongadas, incluyendo el cierre definitivo de la cuenta y la notificación a las autoridades competentes.

Por último, la compañía publicó una guía práctica dirigida a desarrolladores con lineamientos para prevenir, detectar y responder ante el abuso sexual infantil en entornos digitales, abarcando desde mecanismos de denuncia para usuarios y protocolos de revisión hasta recomendaciones para resguardar la salud de los moderadores que analizan material sensible. A ello se suma el anuncio de nuevas herramientas y programas de capacitación para unidades policiales especializadas en protección infantil, que incluyen complementos para investigaciones, capacidades de análisis de grandes volúmenes de datos y formación sobre el uso de inteligencia artificial en tareas investigativas.

Claves del contenido

Departamentales

Temas del día

Internacionales

Deportes

Política

Panorama económico

Minería y Agricultura