En el mundo laboral parece que acaba de surgir una nueva y peligrosa profesión: el contrabandista de inteligencia artificial. Estos empleados no es que trafiquen con cosas ilegales o incluso lleven chips de Nvidia a China, sino que están introduciendo herramientas de IA en sus puestos de trabajo sin el conocimiento o aprobación de sus empresas. 

Sin ir más lejos, una encuesta reciente de Software AG revela que la mitad de los trabajadores del conocimiento utilizan herramientas de IA personales en el trabajo. Queda claro que aquí se aplica a la perfección lo de “pedir perdón antes de pedir permiso”.

En BBC se ejemplifica con el siguiente caso. Un ingeniero, aunque su empresa ofrece GitHub Copilot, él prefiere usar Cursor, una herramienta no autorizada. “Es en gran medida un autocompletado glorificado, pero es muy bueno”, explica John. “Completa 15 líneas a la vez, y luego lo revisas y dices, ‘sí, eso es lo que yo habría escrito’. Te libera. Te sientes más fluido”.

Esta práctica, conocida como “IA en la sombra”, es una variante más concreta de la “TI en la sombra”, donde los empleados usan software o servicios no aprobados por el departamento de TI. Harmonic Security, una empresa especializada en identificar este tipo de prácticas, ha rastreado más de 10.000 aplicaciones de IA, de las cuales más de 5.000 están en uso activo en entornos corporativos.

Productividad vs. Seguridad vs. Honestidad: así es el contrabando de inteligencia artificial

El gran problema de todo esto es que el uso no autorizado de herramientas de IA pone en un serio problema a la empresa. Por un lado, y pese a que puede aumentar, los riesgos asociados con la IA en la sombra son claros. 

Alrededor del 30% de las aplicaciones detectadas por Harmonic Security se entrenan utilizando la información introducida por el usuario, por lo que si das un paso en falso, metes información confidencial sobre un proyecto y ocurre alguna brecha de seguridad, el caos es absoluto.

Alastair Paterson, CEO y cofundador de Harmonic Security, comenta que aunque es poco probable que los secretos comerciales se filtren directamente a través de las respuestas de las herramientas de IA, las empresas tienen razones válidas para preocuparse. “Es bastante difícil obtener los datos directamente de estas [herramientas de IA]”, afirma Paterson. 

No obstante, lo que se ha comentado antes. La posibilidad de que los datos de la empresa se almacenen en centros de datos de IA no controlados y potencialmente vulnerables a filtraciones sigue siendo una preocupación bastante lógica.

A pesar de todos estos potenciales problemas, la utilidad de estas herramientas es innegable, especialmente para los trabajadores más jóvenes. Simon Haighton-Williams, CEO de The Adaptavist Group, compara el impacto de la IA con tener una buena enciclopedia o una calculadora. “Te permite concentrar cinco años de experiencia en 30 segundos de ingeniería rápida”, explica.

Teniendo todo esto en cuenta y viendo cómo las empresas se encuentran en un verdadero debate interno, algunas están optando por un enfoque más flexible, permitiendo algunas herramientas aparte de la que ellos mismos usen y hayan desarrollado.

Como comenta Haighton-Williams, la clave puede estar en la adaptación: “Sean pacientes y comprendan qué están usando las personas y por qué, y descubran cómo pueden aceptarlo y gestionarlo en lugar de exigir que lo apaguen”.

Conoce cómo trabajamos en ComputerHoy.

Etiquetas: Leyes, Inteligencia artificial, Estados Unidos, Software