Riesgos de la inteligencia artificial: uso responsable

Riesgos de la inteligencia artificial: del alarmismo al uso responsable

Cada vez que aparece una tecnología capaz de transformar la forma en la que trabajamos, producimos o nos comunicamos, aparece también una conversación sobre sus peligros.

Ocurrió con Internet. Ocurrió con las redes sociales. Y ahora ocurre con la inteligencia artificial.

Desde la aparición pública de los primeros modelos conversacionales, se han multiplicado las cartas abiertas, las advertencias de investigadores, las dimisiones de trabajadores y las declaraciones de directivos que alertan sobre la velocidad de avance de la IA. Mientras unas voces piden frenar, las empresas compiten por lanzar modelos más capaces antes que sus rivales.

No es una discusión menor. Cuando una capacidad técnica crece más deprisa que las normas, la formación y los mecanismos de supervisión, aparecen riesgos reales.

Pero hay una pregunta previa que conviene formular: ¿el problema está en la inteligencia artificial o en el uso que hacemos de ella?

Mi respuesta es incómoda, porque obliga a evitar dos simplificaciones opuestas. La IA no es una herramienta inocua cuyas consecuencias dependan únicamente de la intención del usuario. Pero tampoco es una entidad maligna que convierta en inevitable cualquier escenario apocalíptico.

La historia de Internet y del hacking ético ofrece una forma útil de pensar el problema. Nos enseña que una tecnología puede ser neutral en su capacidad y, al mismo tiempo, tener consecuencias muy concretas cuando se combina con incentivos económicos, acceso masivo, falta de reglas y decisiones humanas deficientes.

La diferencia es que la IA está acelerando ese ciclo. Lo que Internet tardó décadas en desarrollar puede aparecer ahora en meses.

El problema de moda: alertas, carrera tecnológica y síndrome de Frankenstein

El debate actual suele presentarse como una carrera entre dos posiciones.

Por un lado, están quienes creen que la IA avanza demasiado deprisa, que los modelos son cada vez más difíciles de comprender y que la sociedad está incorporando capacidades que todavía no sabe gobernar.

Por otro, están quienes consideran que el alarmismo es una reacción habitual ante cualquier innovación disruptiva y que muchas predicciones apocalípticas acabarán siendo exageradas.

Las dos posiciones contienen una parte de verdad.

Es razonable desconfiar de una carrera en la que cada empresa tiene incentivos para acelerar. Si una compañía reduce el ritmo, otra puede ocupar el espacio. Si un modelo es más capaz, puede atraer más inversión, más usuarios y más cuota de mercado. Esa dinámica no necesita una conspiración para producir comportamientos arriesgados: basta con que todos los participantes sientan que no pueden quedarse atrás.

También es razonable desconfiar de las predicciones que convierten cada avance en una amenaza existencial inmediata. La cultura popular lleva décadas imaginando el momento en el que la criatura creada por el ser humano se vuelve contra su creador. El llamado síndrome de Frankenstein funciona porque expresa un miedo reconocible: construir algo poderoso sin saber si podremos controlarlo después.

El problema aparece cuando esa imagen sustituye al análisis.

Decir que la IA es peligrosa no basta. Hay que preguntar:

¿Peligrosa para quién?
¿En qué contexto?
¿Por qué vía puede producir daño?
¿Quién tiene acceso a ella?
¿Qué decisiones se han delegado?
¿Qué datos utiliza?
¿Quién revisa los resultados?
¿Qué ocurre cuando falla?

Estas preguntas nos alejan tanto del entusiasmo ingenuo como del apocalipsis abstracto. Nos obligan a hablar de usos, incentivos, controles y responsabilidades.

Internet como espejo: cuando una herramienta abierta adquiere valor

Internet no nació como una infraestructura criminal. Nació como una tecnología para conectar personas, compartir información y facilitar la comunicación entre sistemas.

Sin embargo, a medida que se hizo más grande y accesible, también aumentó su superficie de ataque. Cuando empezaron a circular por la red dinero, datos personales, propiedad intelectual y operaciones empresariales, apareció un incentivo claro para abusar de ella.

La secuencia histórica puede resumirse así:

Aparece una capacidad técnica útil.
La capacidad se abre a más personas.
La tecnología empieza a concentrar valor económico o estratégico.
Algunos actores intentan explotar ese valor sin autorización.
Los defensores reaccionan y crean controles.
El ataque y la defensa se profesionalizan.

El gusano Morris, desplegado el 2 de noviembre de 1988, mostró que una red abierta y en expansión podía sufrir efectos masivos por un programa que se propagaba a gran velocidad. No fue necesario que Internet se diseñara con una intención maliciosa: bastó con que creciera, conectara más sistemas y tuviera defensas insuficientes. [1]

Durante los años siguientes, la red dejó de ser principalmente académica y pasó a sostener cada vez más actividad económica. Con el valor llegaron el fraude, el robo de identidad, la extorsión y el espionaje. También llegaron los antivirus, los cortafuegos, los equipos de respuesta a incidentes y toda una industria de ciberseguridad.

La lección no es que Internet fuese un error. La lección es que una tecnología abierta necesita mecanismos de responsabilidad que evolucionen junto con su adopción.

La inteligencia artificial está recorriendo una secuencia parecida, pero con una diferencia decisiva: su capacidad se distribuye y mejora a una velocidad extraordinaria.

Del hacker al hacker ético: la misma técnica, otra responsabilidad

La palabra «hackear» no nació como sinónimo de delinquir. En sus primeros usos, especialmente en comunidades técnicas como el MIT de los años sesenta, describía la búsqueda ingeniosa de soluciones: encontrar una forma más eficiente, elegante o inesperada de hacer funcionar un sistema.

Con la expansión de los ordenadores y las redes, ese conocimiento empezó a utilizarse también sin autorización. Aparecieron prácticas de exploración, manipulación y acceso indebido. Cuando los sistemas conectados empezaron a tener valor económico, esas capacidades podían convertirse en fraude, espionaje o extorsión.

Pero junto al uso criminal se desarrolló otra práctica: probar las defensas de una organización con permiso para descubrir sus fallos antes de que lo hiciera un atacante.

Eso es, en esencia, el hacking ético.

Un hacker ético puede utilizar conocimientos y herramientas muy parecidos a los de un atacante malicioso. Puede buscar configuraciones débiles, simular técnicas de intrusión, analizar superficies de exposición o intentar engañar a un sistema.

La diferencia no está necesariamente en la técnica. Está en tres condiciones:

1. Autorización explícita

La prueba se realiza sobre sistemas cuyo propietario ha dado permiso. Existe un contrato, un alcance y unos límites definidos.

Esta distinción es central en el marco jurídico estadounidense: la Computer Fraud and Abuse Act, codificada en el título 18, sección 1030, contempla el acceso sin autorización o el exceso sobre la autorización concedida. [2]

La idea importante no es importar automáticamente una ley concreta a cualquier país. Es entender el principio: el mismo método técnico puede tener significados completamente distintos dependiendo de si existe consentimiento y de si se respeta el alcance acordado.

2. Intención de mejorar la seguridad

El objetivo del hacking ético es encontrar vulnerabilidades para corregirlas. No se trata de obtener una ventaja personal, robar información o demostrar superioridad técnica, sino de reducir el riesgo futuro.

3. Divulgación responsable

Los hallazgos se comunican primero a la organización afectada, con tiempo y contexto suficiente para investigar y corregir el problema. No se publican o venden de inmediato para maximizar el daño o el beneficio individual.

En los años noventa, herramientas como SATAN ayudaron a popularizar una idea que hoy parece obvia: una herramienta que escanea redes y encuentra debilidades también puede estar al servicio de quienes quieren protegerlas. El propio trabajo de Dan Farmer y Wietse Venema describía SATAN como una herramienta para analizar redes, localizar fallos y generar informes de seguridad. [3]

Esta es la prueba más fuerte contra la idea de que la maldad está inscrita en una herramienta. Si una técnica fuese mala por sí misma, no podría existir una profesión legítima, contratada y especializada en utilizar capacidades similares para proteger.

Qué nos enseña el hacking ético sobre la inteligencia artificial

La comparación con la IA no es una metáfora decorativa. Está dando lugar a prácticas reales de evaluación adversarial, red teaming y búsqueda sistemática de vulnerabilidades en modelos y aplicaciones.

Un modelo capaz de redactar una propuesta comercial puede ayudar también a generar mensajes de phishing más convincentes. Un sistema que resume información puede utilizarse para procesar datos sensibles sin los controles adecuados. Una IA que escribe código puede acelerar tanto el desarrollo seguro como la creación de software malicioso.

La capacidad es de doble uso.

Esto no significa que todos los usos sean moralmente equivalentes. Significa que la capacidad técnica no determina por sí sola el resultado final.

La analogía funciona en cinco puntos

El conocimiento de redes sirve para diagnosticar una infraestructura y también para intentar penetrarla. La generación de lenguaje sirve para comunicar mejor y también para producir engaños a escala.

Quien lanza una campaña de fraude solo necesita encontrar una víctima vulnerable. Quien defiende una organización debe controlar identidades, permisos, datos, proveedores, dispositivos, procesos y comportamientos humanos.

La asimetría entre ataque y defensa también aparece en la IA: una sola respuesta convincente y falsa puede ser suficiente para provocar una mala decisión si nadie la revisa.

Esperar a que ocurra un incidente para pensar en la seguridad suele ser demasiado tarde. Por eso existen las auditorías, las pruebas de penetración, los programas de recompensas y los ejercicios de red teaming.

En IA, el red teaming intenta forzar al sistema, buscar instrucciones conflictivas, detectar filtraciones, comprobar límites y descubrir comportamientos que no aparecen en una demostración controlada.

Un modelo aislado tiene unos riesgos. El mismo modelo conectado a un CRM, un correo electrónico, un repositorio de código o una base de datos financiera tiene otros mucho mayores.

El peligro no depende solo de lo que el modelo puede generar, sino también de las acciones que puede ejecutar, los datos a los que puede acceder y la autonomía que le concedemos.

La seguridad no se resuelve con una herramienta puntual. Requiere políticas, permisos, registro de actividad, revisión, formación, respuesta a incidentes y una persona responsable.

El marco de gestión de riesgos de IA de NIST plantea precisamente la necesidad de incorporar consideraciones de confianza en el diseño, desarrollo, uso y evaluación de sistemas de inteligencia artificial. [4]

Dónde se rompe la analogía entre hacking e inteligencia artificial

La historia del hacking ético es útil, pero no debemos forzarla hasta convertirla en una explicación total.

La IA introduce características que cambian la naturaleza del problema.

1. Un sistema de IA puede mostrar más agencia

Un virus tradicional ejecuta el código que alguien ha escrito. Un modelo de IA puede interpretar instrucciones, combinar información, proponer pasos y, si está conectado a herramientas, realizar acciones con un grado de autonomía.

Eso no significa que tenga voluntad humana. Significa que el sistema puede producir secuencias de comportamiento que no estaban previstas de forma explícita por la persona que lo utiliza.

Por tanto, el riesgo no se limita a «un tercero usa mal la herramienta». También incluye «el sistema interpreta mal una instrucción, optimiza un objetivo incorrecto o actúa dentro de unos permisos demasiado amplios».

2. El comportamiento es probabilístico

Una vulnerabilidad clásica suele poder reproducirse bajo unas condiciones concretas: el exploit funciona o no funciona.

Los modelos generativos son probabilísticos. El mismo prompt puede producir respuestas diferentes dependiendo del contexto, el historial, el modelo, la configuración o la semilla de generación.

Eso complica la auditoría. No basta con probar una vez, corregir una respuesta y declarar el problema resuelto. Hay que evaluar familias de comportamientos y seguir vigilando después de cada cambio.

3. La capacidad avanza en meses, no en décadas

Internet tuvo tiempo para construir, aunque de forma imperfecta, una industria de seguridad alrededor de sus riesgos. La IA está acortando el ciclo entre descubrimiento, adopción y abuso.

Una organización puede incorporar en pocas semanas una herramienta con acceso a documentos, conversaciones y procesos internos. El equipo puede empezar a usarla antes de que existan políticas claras, formación suficiente o una evaluación de impacto.

4. El daño puede ser difícil de revertir

Una vulnerabilidad de software puede parchearse. En cambio, una campaña de desinformación, una filtración de datos, una suplantación de identidad o una decisión automatizada que afecta a cientos de personas puede dejar consecuencias duraderas.

No todos los daños tienen un botón de deshacer.

5. La concentración cambia la responsabilidad

Internet se construyó como una red relativamente descentralizada. La IA de frontera depende de un número reducido de proveedores, modelos y capas de infraestructura.

Eso concentra poder y responsabilidad. Un cambio en un modelo, una política de uso o una interrupción del servicio puede afectar a muchas organizaciones a la vez.

El riesgo laboral no lo decide la IA: lo decide la sociedad

Hay otra dimensión de esta revolución que ya no podemos tratar como una posibilidad lejana: la inteligencia artificial probablemente desplazará muchas tareas y transformará, o incluso reducirá, determinadas profesiones.

Conviene hablar de ello sin eufemismos, pero también sin atribuir a la IA una decisión que no toma.

Un agente de IA no decide que una empresa debe prescindir de una persona. Esa decisión la toman quienes dirigen la organización. Pueden hacerlo por una cuestión de costes, productividad, velocidad, escalabilidad, presión competitiva o margen. La IA aporta una capacidad técnica; la decisión de utilizarla para sustituir, complementar o reorganizar un puesto es humana.

Esto ya ha ocurrido con la robótica industrial. Un brazo robotizado no decidió reemplazar una línea de trabajo. Las empresas fueron incorporando automatización progresivamente porque podía hacer determinadas operaciones con más velocidad, precisión o previsibilidad. La diferencia es que la IA está llegando ahora a tareas que antes considerábamos propias del trabajo administrativo, analítico o creativo.

Y, además, lo hace con una velocidad y una accesibilidad muy superiores. Una gran fábrica necesitaba una inversión enorme para robotizarse. Hoy una pequeña empresa puede contratar una herramienta de IA, conectarla a sus documentos o utilizar agentes para automatizar parte de la atención, la gestión comercial, la redacción, el análisis o la programación.

No desaparecerán solo profesiones: desaparecerán tareas dentro de muchas profesiones

La distinción es importante. Una profesión no es una tarea única, sino una combinación de actividades repetitivas, decisiones, relaciones, contexto, criterio y responsabilidad.

La IA puede automatizar primero las partes más previsibles:

introducir y clasificar datos,
preparar informes,
responder preguntas frecuentes,
redactar primeras versiones,
revisar documentos,
buscar información,
generar código repetitivo,
organizar agendas y comunicaciones,
o realizar controles básicos de calidad.

Eso no significa que una profesión desaparezca de un día para otro. Significa que puede necesitar menos personas para producir el mismo volumen, o que las personas que permanezcan tendrán que asumir tareas de mayor complejidad, relación y responsabilidad.

Pero tampoco sería honesto presentar siempre esta transformación como una oportunidad individual. Para algunas personas será una mejora: menos trabajo mecánico y más tiempo para decidir, crear o atender mejor. Para otras, significará pérdida de empleo, de ingresos, de identidad profesional o de poder de negociación.

La presión competitiva hará que nadie pueda resolverlo de forma aislada

Incluso una empresa que quisiera avanzar con prudencia puede sentirse obligada a adoptar agentes de IA si sus competidores producen más barato, responden antes o atienden a más clientes con equipos más pequeños.

Ese es uno de los aspectos más difíciles de la transición: no basta con pedir a cada empresa que actúe bien. Las decisiones individuales están condicionadas por un mercado que premia la eficiencia y penaliza, al menos a corto plazo, a quien mantiene estructuras más costosas.

Por eso el debate no puede reducirse a «que cada profesional aprenda a usar IA». Esa formación es necesaria, pero no suficiente. También necesitamos hablar de políticas públicas, educación, negociación colectiva, protección social, distribución de los beneficios de productividad y formas de transición para quienes pierdan su puesto.

La pregunta importante es quién captura los beneficios

Si la IA permite producir más con menos horas de trabajo, existen varias posibilidades:

Que el beneficio se concentre exclusivamente en los propietarios y accionistas.
Que se traduzca en precios más bajos y mayor acceso para los clientes.
Que permita reducir jornadas sin reducir ingresos.
Que financie nuevas funciones humanas de mayor valor.
Que se utilice principalmente para reducir plantillas y aumentar márgenes.

La tecnología no decide cuál de estos caminos seguimos. Lo deciden las reglas, los incentivos, la cultura empresarial y la capacidad de la sociedad para negociar el reparto de los beneficios.

Esta es quizá la pregunta más importante de todas: ¿está la sociedad preparada para una revolución que puede aumentar enormemente la productividad sin garantizar, por sí sola, que esa prosperidad se distribuya de forma justa?

Prepararse no significa intentar conservar intacta cada tarea repetitiva. Tampoco significa aceptar cualquier sustitución como inevitable. Significa decidir qué queremos proteger, qué queremos transformar y cómo acompañaremos a las personas durante el cambio.

Necesitaremos educación que no se limite a enseñar herramientas, sino que fortalezca el criterio, la comunicación, la creatividad, la capacidad de relación y la responsabilidad. Necesitaremos empresas que expliquen qué van a automatizar y por qué. Y necesitaremos sistemas que no dejen sola a una persona cuyo puesto desaparece porque una nueva tecnología puede hacer parte de su trabajo.

Desde la perspectiva de la digitalización consciente, la pregunta no debería ser únicamente «¿qué puedo automatizar?». También debería ser:

¿Qué tareas merece la pena automatizar?
¿Qué capacidades humanas quiero reforzar?
¿Qué impacto tendrá el cambio sobre el equipo?
¿Cómo repartiré el tiempo y el valor que se liberen?
¿Qué formación y acompañamiento ofreceré?
¿Quién seguirá respondiendo ante clientes, empleados y sociedad?

La IA puede ser una herramienta para trabajar mejor o un mecanismo para trasladar todo el coste de la transformación a quienes tienen menos capacidad de negociación. La tecnología será la misma. El resultado dependerá de las decisiones humanas que tomemos alrededor de ella.

Una perspectiva adicional: el imperio invisible de los algoritmos

Esta reflexión conecta especialmente bien con el libro El imperio de los algoritmos: IA inclusiva, ética y al servicio de la humanidad, de Cecilia Danesi, publicado por Galerna. La autora propone mirar la inteligencia artificial no solo como una colección de herramientas, sino como un nuevo sistema de poder que influye en nuestros derechos, nuestras oportunidades y nuestra forma de entender el mundo.

Conviene aclarar que el libro se publicó en 2022, antes de la explosión actual de los agentes generativos. Su valor para este artículo no está en anticipar cada herramienta concreta, sino en ofrecer un marco para entender qué ocurre cuando los algoritmos empiezan a mediar decisiones humanas.

Los algoritmos más importantes suelen ser los que no vemos

Danesi distingue entre:

las inteligencias artificiales visibles, por ejemplo, sistemas autónomos o aplicaciones cuya presencia tecnológica resulta evidente
y las inteligencias artificiales invisibles: sistemas de recomendación, clasificación, reconocimiento, evaluación o priorización que operan detrás de una plataforma o una institución.

Esta distinción ayuda a ampliar el debate laboral. No solo debemos preocuparnos por el agente que redacta un informe o responde a un cliente. También por el algoritmo que decide qué candidato aparece primero, qué trabajador recibe una oportunidad, qué solicitud se considera sospechosa, qué contenido llega a una persona o qué rendimiento se considera insuficiente.

Cuando una decisión queda escondida detrás de una interfaz aparentemente neutral, la persona afectada puede no saber que ha sido evaluada por un sistema automático, con qué datos se la ha evaluado ni cómo puede cuestionar el resultado.

La fórmula P.E.A.: programador, entrenamiento y aprendizaje

Una de las ideas más útiles del libro es la fórmula P.E.A. para entender los sesgos algorítmicos: Programador, Entrenamiento y Aprendizaje.

Programador: alguien decide qué objetivo se optimiza, qué variables se consideran relevantes, qué límites se aplican y qué se entiende por éxito.
Entrenamiento: los datos utilizados para formar el sistema contienen la historia de la sociedad, incluidos sus desequilibrios, exclusiones y prejuicios.
Aprendizaje: cuando el sistema se utiliza, sus resultados y las interacciones con el entorno pueden reforzar patrones anteriores o generar otros nuevos.

Esta fórmula evita buscar «el sesgo» en un único lugar. Un sistema puede estar bien intencionado y aun así discriminar porque fue diseñado con una métrica incompleta, entrenado con datos poco representativos o desplegado en un contexto que modifica su comportamiento.

Aplicado a la sustitución de tareas, el marco P.E.A. también distribuye mejor la responsabilidad. No basta con preguntar si un agente es más productivo que una persona. Hay que preguntar quién definió esa métrica, qué datos se utilizaron para medir el rendimiento, qué comportamientos se premian y quién puede impugnar una decisión automatizada.

Productividad, medioambiente y costes que no aparecen en la cuenta

Danesi también incorpora una dimensión que suele desaparecer de las conversaciones empresariales: el impacto ambiental de los sistemas de IA. Entrenar y operar modelos requiere energía, centros de datos, agua, hardware y cadenas de suministro materiales.

Esto introduce un matiz importante en la conversación sobre eficiencia. Una automatización puede reducir costes visibles para una empresa y, al mismo tiempo, trasladar costes ambientales o sociales a otros lugares. Por eso la pregunta no debería ser solo cuánto tiempo ahorra un sistema, sino cuál es su coste completo y quién lo asume.

La idea de «algoritmos verdes» o green by design apunta precisamente a diseñar sistemas considerando su sostenibilidad desde el principio, no como una corrección posterior.

Del control humano al humanismo tecnológico

El enfoque de Danesi no propone rechazar la tecnología. Propone devolver el centro de la conversación a los derechos humanos, la inclusión, la explicación y la capacidad de decisión de las personas.

Esto conecta directamente con la pregunta que atraviesa este artículo: ¿está preparada la sociedad para la revolución de la IA?

Estar preparados no consiste únicamente en aprender a utilizar herramientas nuevas. También significa saber quién tiene el control, exigir transparencia cuando una decisión afecta a nuestros derechos, crear auditorías independientes y garantizar que las personas puedan recibir explicaciones y recurrir una decisión automatizada.

La aportación más interesante del libro es que desplaza el foco. En lugar de preguntarnos si los algoritmos son buenos o malos, nos invita a analizar qué poder concentran, qué decisiones automatizan, qué grupos quedan fuera de los datos y cómo podemos recuperar capacidad de intervención.

En el fondo, es la misma tesis del hacking ético aplicada a una escala más amplia: el problema no es solo la existencia de una capacidad técnica, sino quién la diseña, quién la controla, con qué reglas se utiliza y quién responde cuando produce un daño.

El riesgo no está solo en la herramienta: está en el sistema que construimos alrededor

Decir que los riesgos dependen del uso no significa trasladar toda la responsabilidad al usuario final.

Una empresa que compra una herramienta de IA no puede limitarse a decir a sus empleados: «utilizadla con sentido común». El sentido común es necesario, pero no sustituye a un sistema.

La pregunta correcta no es únicamente «¿podemos usar IA?», sino:

¿Para qué tarea concreta la vamos a utilizar?
¿Qué nivel de error es aceptable?
¿Qué información puede procesar?
¿Qué información nunca debe salir de la organización?
¿Qué acciones puede ejecutar automáticamente?
¿Qué resultados deben ser revisados por una persona?
¿Quién responde si el resultado provoca un daño?
¿Cómo registramos y aprendemos de los incidentes?

Una política útil no tiene que prohibirlo todo. Tiene que dibujar límites comprensibles.

Una guía práctica para utilizar IA con criterio en un negocio

1. Define las tareas que la IA puede asumir

Empieza por usos concretos y acotados: resumir documentos no sensibles, proponer borradores, clasificar información, preparar una primera versión de un análisis o detectar patrones que después revisará una persona.

No empieces por «automatizar el departamento». Empieza por una tarea cuyo resultado puedas comprobar.

2. Clasifica los datos

No todos los datos tienen el mismo nivel de sensibilidad. Define qué información es pública, interna, confidencial o especialmente protegida.

Una herramienta no debería recibir datos de clientes, credenciales, contratos, información financiera o información personal solo porque técnicamente pueda procesarlos.

3. Decide qué significa revisión humana

«Una persona revisará el resultado» es una frase demasiado ambigua. Hay que concretar quién revisa, en qué momento y con qué criterios.

Una revisión real no consiste en leer por encima un texto generado. Consiste en comprobar hechos, contexto, tono, permisos, posibles sesgos y consecuencias.

4. Limita los permisos y la autonomía

Si una IA puede leer una base de datos, no significa que también deba modificarla. Si puede redactar un email, no significa que deba enviarlo. Si puede proponer una acción, no significa que pueda ejecutarla sin confirmación.

El principio más prudente es conceder los permisos mínimos necesarios para cada tarea.

5. Audita de forma continua

Los modelos cambian, las instrucciones cambian, los datos cambian y también cambia el contexto de uso. Una prueba que era suficiente hace tres meses puede no serlo ahora.

La auditoría debe convertirse en una práctica recurrente, no en un proyecto que se completa una vez.

La seguridad de las aplicaciones basadas en modelos de lenguaje ya se analiza con categorías específicas como la inyección de instrucciones, la agencia excesiva, la divulgación de información sensible o el consumo no acotado de recursos. [5]

6. Documenta los límites

Cada sistema debería tener una ficha sencilla que explique:

cuál es su objetivo,
qué datos utiliza,
qué puede hacer,
qué no puede hacer,
quién es responsable,
cómo se revisan sus resultados,
y qué procedimiento se sigue si algo sale mal.

Documentar no es burocracia cuando permite que otra persona entienda el sistema y detecte sus riesgos.

7. Forma a las personas

La mayoría de los incidentes no se evita con una lista de prohibiciones. Se evita ayudando a las personas a reconocer una respuesta inventada, una instrucción manipuladora, una solicitud de datos inadecuada o una automatización que se ha quedado sin contexto.

La alfabetización en IA no consiste solo en aprender a escribir mejores prompts. Consiste en saber cuándo no confiar en el resultado.

Digitalización consciente: poner la capacidad al servicio de las personas

La digitalización consciente no consiste en añadir IA a cada proceso porque está disponible.

Consiste en diseñar sistemas de trabajo donde la tecnología reduzca fricción sin eliminar el criterio. Donde las personas sepan qué delegar y qué conservar. Donde el ahorro de tiempo no se consiga a costa de aumentar el riesgo oculto.

Esta forma de trabajar exige aceptar varias ideas al mismo tiempo:

La IA puede mejorar mucho la productividad.
La IA puede ampliar errores y malas decisiones.
La responsabilidad no desaparece porque una máquina haya generado el resultado.
La supervisión no debe ser un trámite, sino parte del proceso.
La seguridad debe diseñarse antes de que aparezca el incidente.
Una herramienta potente necesita límites proporcionales a sus permisos.

En este sentido, el hacking ético ofrece una lección especialmente valiosa. No se trata de temer cualquier capacidad técnica ni de confiar ciegamente en ella. Se trata de crear una práctica profesional que busque los fallos antes que quienes quieran explotarlos.

La IA necesita su propia versión de esa cultura: red teaming continuo, evaluaciones independientes, divulgación responsable, trazabilidad, gobernanza y profesionales capaces de traducir los riesgos técnicos a decisiones de negocio.

Conclusión: ni apocalipsis ni ingenuidad

La historia de Internet no demuestra que toda tecnología termine siendo peligrosa. Demuestra algo más preciso: cuando una capacidad útil se vuelve accesible y concentra valor, algunas personas intentarán utilizarla para crear y otras para explotar.

El hacking ético demuestra que la misma técnica puede emplearse para atacar o proteger. La diferencia está en el consentimiento, la intención, el alcance y la responsabilidad.

Pero la IA también nos obliga a reconocer los límites de esa analogía. Sus sistemas pueden tener más agencia, su comportamiento es probabilístico, su capacidad crece con rapidez y algunos daños son difíciles de revertir.

Por eso la respuesta no debería ser ni celebrar cada avance ni pedir una prohibición genérica. Debería consistir en construir sistemas de trabajo donde la IA tenga un propósito definido, permisos limitados, datos protegidos, revisión humana y auditoría continua.

Preguntas frecuentes sobre los riesgos de la inteligencia artificial

¿La inteligencia artificial es peligrosa por sí misma?

La IA no es peligrosa únicamente por existir, pero sus capacidades pueden producir daños reales según el contexto, los datos, los permisos, la intención y la supervisión. La pregunta útil no es si la herramienta es buena o mala, sino cómo se diseña y utiliza.

¿Qué relación existe entre la IA y los riesgos de Internet?

Ambas tecnologías tienen capacidades de doble uso: pueden crear valor o facilitar abusos. La diferencia principal es que la IA está avanzando y distribuyéndose mucho más deprisa, por lo que las organizaciones tienen menos tiempo para construir defensas, normas y formación.

¿Qué es el hacking ético?

Es la evaluación autorizada de sistemas para encontrar vulnerabilidades y ayudar a corregirlas. Se distingue del hacking criminal por el permiso explícito, la intención defensiva, el alcance acordado y la divulgación responsable de los hallazgos.

¿Por qué la analogía entre hacking ético e IA tiene límites?

Porque los modelos de IA pueden comportarse de forma probabilística, recibir cierto grado de autonomía, cambiar con el contexto y producir daños difíciles de revertir. No siempre basta con encontrar un fallo, parchearlo una vez y cerrar la auditoría.

¿La IA decide por sí sola sustituir profesiones?

No. La IA puede hacer técnicamente posible automatizar tareas, pero son las empresas y las instituciones quienes deciden si la utilizan para complementar personas, reorganizar puestos o reducir plantillas. La cuestión social es cómo se reparten los beneficios y cómo se acompaña a quienes se ven afectados.

¿Qué debería revisar una empresa antes de usar IA?

Debería definir la tarea, clasificar los datos, limitar los permisos, establecer qué resultados requieren revisión humana, asignar responsabilidades y crear un procedimiento para registrar y responder ante incidentes.

¿La revisión humana elimina los riesgos de la IA?

No. Una persona puede pasar por alto un error, confiar demasiado en una respuesta o no tener suficiente contexto. La revisión reduce riesgos cuando tiene criterios claros, tiempo suficiente y responsabilidad definida, pero debe combinarse con controles técnicos y organizativos.

¿Qué significa utilizar IA de forma responsable?

Significa utilizarla para objetivos concretos, con datos y permisos proporcionales, límites claros, supervisión, trazabilidad y revisión continua. También significa saber cuándo no utilizarla.

¿Cómo puede ayudar la digitalización consciente?

Ayuda a integrar la tecnología dentro de un sistema de trabajo comprensible: con procesos definidos, información ordenada, responsabilidades claras y automatizaciones que apoyan el criterio humano en lugar de sustituirlo sin control.