Durante años, los profesionales de ciberseguridad han señalado que el eslabón más débil de cualquier sistema es la persona. El correo electrónico con enlaces maliciosos, los mensajes de texto que suplanten a organismos públicos o los códigos QR fraudulentos pegados en lugares públicos representan estafas que funcionan porque aprovechan nuestra falta de atención, nuestras prisas o nuestra confianza. La defensa tradicional ha consistido en educar a los usuarios para que sean más cautelosos.
Sin embargo, la situación está evolucionando de manera significativa.
Un informe reciente de Proofpoint, empresa especializada en ciberseguridad, advierte que en foros clandestinos se comercializan herramientas para ejecutar una técnica novedosa: la «inyección indirecta de prompts». Se trata de instrucciones ocultas insertadas en correos electrónicos, documentos PDF, invitaciones de calendario o anuncios publicitarios, redactadas no para que las lea el usuario, sino para que las interprete y ejecute la inteligencia artificial que trabaja en su nombre.
Aquí radica el cambio fundamental. El atacante ya no busca engañar a la persona, sino engañar a la máquina a la que la persona ha comenzado a delegar tareas.
Consideremos cómo utilizamos actualmente la inteligencia artificial. Con frecuencia cada vez mayor solicitamos a asistentes que resuman nuestros correos electrónicos, organicen nuestra agenda semanal o extraigan datos de facturas en PDF. Les encomendamos una tarea y confiamos en el resultado. El problema fundamental es que para realizar su trabajo, el asistente debe leer el contenido. Aquí emerge la vulnerabilidad crítica: para un modelo de lenguaje, el texto que debe analizar y el texto que proporciona las órdenes llegan por el mismo canal. No existe una demarcación clara entre «esto es información» e «esto es una instrucción». Todo es texto.
Los ejemplos documentados en el informe resultan ingeniosos precisamente por su invisibilidad. Un prompt escrito en color blanco sobre fondo blanco dentro de un documento: el usuario no lo ve, pero el agente de IA sí lo procesa. Una invitación a una reunión cuyo «orden del día» contiene instrucciones que el asistente ejecuta al resumirla. Un anuncio publicitario que incluye texto oculto que un agente de IA interpreta como una orden al visitar la página. En todos los casos, el engaño ocurre en una capa que el ojo humano no puede detectar.
Es importante ser realista sobre la magnitud de este fenómeno, evitando caer en alarmismo infundado. El propio informe reconoce que estas técnicas se encuentran en fase emergente, basadas más en investigación y pruebas de concepto que en ataques masivos confirmados en el mundo real. No enfrentamos una amenaza inmediata y generalizada, sino herramientas que se están perfeccionando. La mayoría de los investigadores coincide en que es cuestión de tiempo. Esta distinción es importante.
¿Qué significa prepararse en un país como Chile, donde la adopción de asistentes de inteligencia artificial en empresas, servicios públicos y estudios profesionales avanza constantemente? Se sugieren tres medidas fundamentales. Primero, revisar la práctica de delegar sin supervisión. Si un asistente de IA resume un correo y de ese resumen se desprende una acción, como reenviar algo, autorizar un pago o compartir un dato, esa acción requiere una verificación humana antes de ejecutarse. La comodidad no debería transformarse en piloto automático.
Segundo, comprender que la capacitación debe cambiar de destinatario. Ya no es suficiente enseñar a las personas a desconfiar de enlaces sospechosos. Ahora, quienes implementan estos agentes en una organización deben diseñarlos asumiendo que procesarán contenido hostil. Un agente correctamente diseñado trata todo lo que recibe del exterior como potencialmente peligroso, no como una orden legítima que debe cumplir.
Tercero, no confundir «aún no sucede» con «nunca sucederá». El error más grave en seguridad es esperar el primer incidente importante para reaccionar. Los especialistas advierten sin ambigüedades que la complacencia constituye el verdadero riesgo.
Existe algo casi poético en este cambio. Durante años solicitamos a las personas que fueran más desconfiadas, más atentas, menos crédulas. Ahora debemos exigir lo mismo, en cierto sentido, a las máquinas que construimos para asistirlas. La inteligencia artificial hereda no solo nuestras capacidades, sino también nuestra antigua vulnerabilidad: la propensión a confiar demasiado en lo que le comunican.
El eslabón débil no desapareció. Solo cambió de ubicación. Y esta vez, protegerlo depende menos de nuestra intuición y más de cómo decidamos diseñar la confianza que depositamos en estas herramientas.
Con Información de g5noticias.cl
