La IA se ha integrado rápidamente en la mayoría de las organizaciones de una forma u otra. Ya sea a través de cuentas empresariales para los populares Modelos de Lenguaje de Gran Tamaño (LLM) o de pilotos personalizados, se está convirtiendo rápidamente en un «empleado» de confianza.
Pero, aunque parezca tener todas las respuestas, como cualquier otro empleado nuevo, la IA no lo sabe todo. Las empresas pueden estar recibiendo resultados que parecen excelentes a primera vista, pero con demasiada frecuencia se generaron a partir de datos desordenados ; una apariencia limpia que esconde un interior deteriorado.
El riesgo de la información contaminada
Lo cierto es que la IA no puede crear algo de la nada. Sus resultados dependen únicamente de que pueda acceder a datos relevantes, válidos y sin comprometer la integridad ; si se pierde en un mar de datos irrelevantes, se aferra a cualquier cosa que encuentre que sea remotamente relevante para sus consultas.
Esto no sólo genera resultados inexactos, sino que además representa un riesgo real para la seguridad y la regulación. Con todo, si los negocios abordan esto de forma proactiva para trazar la mejor ruta con estos datos, alineándose con las necesidades más amplias de gestión de riesgos y dando a la IA sólo los datos necesarios, podría optimizar los resultados.
El fracaso de los proyectos piloto
El hecho de que la IA necesite acceso a datos válidos, sin concesiones y relevantes, es precisamente la razón por la que el 95% de los pilotos de GenAI siguen fracasando, según MIT. Los datos se extraen de una fuente contaminada por datos redundantes, obsoletos o triviales (ROT).
El aumento de los datos se ha disparado, en parte gracias a la IA, y esto se ha descontrolado. Hoy en día, la mayoría de los negocios carecen de una visión completa de sus datos, y los ROT se acumulan en segundo plano. Conforme las organizaciones empiezan a aprovechar sus datos a través de la IA, esos mismos datos ROT frenan su desarrollo.
Vulnerabilidades y falta de visibilidad
Sin medidas de seguridad firmes y precisas que rodeen los datos que la IA puede extraer, las IA personalizadas inevitablemente terminan incorporando ROT, lo que genera resultados lentos e incorrectos. La mayoría de los pilotos probablemente fracasan no porque no tengan los datos que necesitan, sino porque las organizaciones no saben hacia dónde dirigir su IA.
Esta falta de visibilidad también podría tener un profundo impacto en la ciberseguridad. No solo crea una IA lenta e ineficaz, sino que también crea una forma de privilegio centralizado que, en las manos equivocadas, podría ser un vector de ataque eficaz.
