La inteligencia artificial está cada vez más presente en la vida cotidiana de las personas y en las operaciones de las empresas. Desde los asistentes virtuales hasta la automatización de procesos complejos, la tecnología avanza rápidamente y amplía sus posibilidades de aplicación. Sin embargo, a medida que estos sistemas se vuelven más sofisticados, también crece una preocupación: ¿quién es responsable de verificar si estas tecnologías son realmente seguras?
Recientemente, las discusiones que involucran a OpenAI, desarrolladora de ChatGPT, y a Anthropic, responsable de Claude, llevaron esta cuestión al centro del debate tecnológico. Según información divulgada por Reuters y difundida por Olhar Digital en octubre de 2026, las empresas negocian con evaluadores independientes los límites de acceso a la información y las condiciones de publicación de los informes de seguridad de sus modelos de inteligencia artificial.
El principal punto de discusión es el equilibrio entre la protección de información comercial confidencial y la necesidad de garantizar evaluaciones transparentes e independientes.
Aunque las empresas defienden la importancia de preservar datos estratégicos, los especialistas advierten que las restricciones excesivas pueden comprometer la credibilidad de los análisis y dificultar la identificación de riesgos asociados a la tecnología.
El papel de las evaluaciones independientes en la seguridad de la inteligencia artificial
Antes de poner un sistema de inteligencia artificial a disposición del público, es importante evaluar su comportamiento en diferentes situaciones, identificando posibles fallas, vulnerabilidades y resultados inesperados.
Estas evaluaciones pueden incluir pruebas de seguridad, análisis de comportamiento, identificación de sesgos y simulaciones de situaciones en las que la tecnología podría representar riesgos para los usuarios o para otros sistemas.
Parte de este trabajo lo realizan las propias empresas desarrolladoras. Sin embargo, las evaluaciones independientes añaden una capa importante de fiscalización, ya que permiten que especialistas externos examinen aspectos que podrían pasar desapercibidos durante las pruebas internas.
En la práctica, estos profesionales pueden investigar cuestiones como:
- La posibilidad de que un modelo genere información incorrecta o potencialmente perjudicial.
- La existencia de vulnerabilidades que permitan manipular el comportamiento de la inteligencia artificial.
- Los riesgos relacionados con la privacidad y la exposición de información confidencial.
- La capacidad de los sistemas autónomos de ejecutar acciones no previstas por sus desarrolladores.
- La eficacia de los mecanismos de protección implementados por las empresas.
Para realizar análisis profundos, los evaluadores a menudo necesitan acceso a información técnica, registros de funcionamiento y versiones específicas de los modelos.
Es precisamente en este punto donde surge uno de los principales desafíos: ¿cómo garantizar una investigación independiente cuando el acceso a la información depende de la propia empresa responsable del sistema evaluado?
Transparencia e información confidencial: ¿dónde está el límite?
El desarrollo de modelos avanzados de inteligencia artificial implica inversiones considerables en investigación, infraestructura y recursos computacionales. Por eso, las empresas del sector buscan proteger la información que consideran estratégica para sus negocios.
Esta preocupación es legítima. La divulgación irrestricta de ciertos datos técnicos puede exponer secretos comerciales, facilitar la explotación de vulnerabilidades o comprometer la competitividad de las organizaciones.
Por otro lado, cuando las empresas tienen influencia sobre el contenido divulgado en los informes de seguridad, surgen dudas sobre la independencia de las evaluaciones.
De acuerdo con el reportaje publicado por Olhar Digital, Anthropic afirma que los evaluadores con los que ya ha trabajado mantienen autonomía sobre los métodos, criterios, conclusiones y contenidos publicados. Sin embargo, en las negociaciones con nuevos equipos, la empresa prevé la posibilidad de comentar y aprobar informes mientras se establece la relación de trabajo.
OpenAI, por su parte, niega buscar la aprobación íntegra de los documentos y afirma que la información confidencial puede omitirse, siempre que los evaluadores tengan la posibilidad de indicar la existencia de recortes significativos.
La discusión pone de manifiesto un problema que va más allá de estas dos empresas: ¿cómo asegurar que los informes de seguridad presenten resultados confiables cuando los desarrolladores también participan en la definición de la información que podrá divulgarse?
Una alternativa está en la creación de procedimientos claros para la realización de auditorías, con criterios objetivos para el acceso a los sistemas, la protección de la información sensible y la divulgación de las conclusiones.
De este modo, sería posible preservar datos comerciales legítimos sin comprometer la autonomía técnica de los profesionales responsables de las evaluaciones.
¿Por qué esta discusión también importa a otras empresas?
Aunque el debate involucra a algunas de las mayores desarrolladoras de inteligencia artificial del mundo, sus consecuencias no se limitan al sector tecnológico.
Empresas de distintos sectores están incorporando herramientas de IA a sus operaciones, utilizando la tecnología para automatizar la atención, analizar información, producir contenidos y apoyar decisiones.
Esta transformación ofrece oportunidades importantes para aumentar la productividad y optimizar procesos. Sin embargo, también exige atención a los riesgos asociados al uso de estos sistemas.
Una organización que utiliza inteligencia artificial para procesar información de clientes, por ejemplo, necesita considerar cómo se tratan esos datos, qué mecanismos de protección están disponibles y qué consecuencias pueden surgir en caso de fallas.
Del mismo modo, las empresas que adoptan sistemas automatizados para apoyar decisiones deben comprender las limitaciones de la tecnología y establecer mecanismos de supervisión.
En este contexto, tres conceptos cobran relevancia:
Seguridad: implica la adopción de medidas para prevenir fallas, proteger la información y reducir la posibilidad de uso indebido de los sistemas.
Transparencia: está relacionada con la claridad sobre el funcionamiento, las limitaciones y las condiciones de uso de las soluciones tecnológicas.
Gobernanza: comprende las políticas, responsabilidades y procedimientos establecidos para orientar el desarrollo, la implementación y el seguimiento de estas tecnologías.
Estos principios no deben ser considerados solo por las empresas que desarrollan modelos de inteligencia artificial. Las organizaciones que contratan y utilizan soluciones de terceros también necesitan evaluar los riesgos que implica su adopción.
Al fin y al cabo, utilizar una tecnología desarrollada por otra empresa no elimina la responsabilidad sobre la forma en que se aplica a los procesos internos y a la información de los clientes.
El futuro de la inteligencia artificial depende de la confianza
La inteligencia artificial seguirá desempeñando un papel importante en la transformación digital. Con el desarrollo de modelos más avanzados y de sistemas capaces de ejecutar tareas con mayor autonomía, la necesidad de mecanismos confiables de evaluación tiende a aumentar.
En este escenario, la confianza no depende solo de la capacidad de una tecnología para producir resultados eficientes. También está relacionada con la posibilidad de comprender sus riesgos, identificar sus limitaciones y verificar si los mecanismos de seguridad funcionan adecuadamente.
Las discusiones que involucran a OpenAI y Anthropic demuestran que el avance tecnológico debe ir acompañado de prácticas de evaluación compatibles con la complejidad de los sistemas desarrollados.
La realización de auditorías independientes, la definición de criterios transparentes y la protección de la autonomía de los evaluadores son medidas importantes para fortalecer la credibilidad de estas tecnologías.
Al mismo tiempo, es necesario reconocer que transparencia no significa divulgar indiscriminadamente toda la información técnica de un sistema. El desafío está en establecer mecanismos que permitan evaluaciones confiables sin comprometer la seguridad ni la protección de información comercial legítima.
Para las empresas que desarrollan o utilizan inteligencia artificial, la principal reflexión es que innovación y responsabilidad deben caminar juntas.
Más que desarrollar sistemas cada vez más avanzados, el futuro de la inteligencia artificial dependerá de la capacidad de demostrar que estas tecnologías pueden utilizarse de manera segura, transparente y confiable.
Fuente de referencia: OpenAI e Anthropic querem controlar relatórios de segurança da IA (en portugués), Olhar Digital, publicado el 13 de octubre de 2026, con información de Reuters.
Etiquetas
Sobre el Autor
Vandeilson Souza
Analista de Negocios Semi Senior
Analista de negocios en Mupi Systems, actúa como puente entre las necesidades de los clientes y el equipo de desarrollo. Escribe sobre tecnología, seguridad de la información e innovación aplicada a los negocios.
Categorías
¿Te gustó este contenido?
Suscríbete a nuestro boletín y recibe más información como esta directamente en tu correo electrónico.
Hablar con especialistas