Cómo proteger su empresa de los riesgos de la IA: consejos prácticos a la luz de las últimas advertencias

Proteja su empresa de los riesgos de la IA con siete pasos: conozca cada herramienta y cada agente de IA que funcionan en ella, dé a cada agente su propia cuenta con el menor acceso posible, exija aprobación humana antes de cualquier pago, borrado o mensaje a clientes, mantenga los datos de los clientes fuera de las herramientas no aprobadas, aplique parches a los sistemas expuestos a internet en cuestión de días, verifique las solicitudes de dinero por un segundo canal y revise lo que cubre su seguro. Estos pasos salen de las advertencias de octubre de 2026: Microsoft pidió a las empresas tratar a los agentes como personal interno que puede equivocarse o ser manipulado; las dos fallas PHP2Shell, una de ellas hallada con un modelo de IA, entraron en la lista de vulnerabilidades explotadas activamente 5 días después de su divulgación; y el folleto de salida a bolsa de Anthropic advirtió que sus modelos pueden comportarse de formas que ningún usuario ni desarrollador pretendía.

¿Cuáles son las últimas advertencias y por qué afectan a su empresa?

En menos de un mes llegaron advertencias de las propias empresas que construyen modelos de IA y de agencias gubernamentales de ciberseguridad. Estas son las principales, en el orden en que se publicaron:

Lo que comparten estas advertencias es que la IA eleva el riesgo desde dos direcciones: desde fuera, porque los atacantes ahora encuentran y explotan fallas más rápido, y desde dentro, cuando una herramienta o un agente recibe más acceso del que necesita. OpenAI, que lideró la coalición que respondió a las fallas de PHP, las califica como uno de los problemas de seguridad de mayor impacto de los últimos tiempos y afirma que «las mismas capacidades también pueden ayudar a los atacantes a desarrollar rápidamente herramientas ofensivas y exploits». Espera que hallazgos similares «aumenten bruscamente en los próximos meses». El folleto de salida a bolsa de Anthropic añade que «actores maliciosos ya han llevado a cabo ciberataques de alto perfil usando las capacidades de la IA para descubrir vulnerabilidades, generar malware y evadir herramientas de detección».

¿Cómo proteger su empresa? 7 consejos prácticos

1. Conozca cada herramienta y cada agente de IA que funcionan en su empresa. Microsoft lo dice sin rodeos: «No se puede proteger lo que no se ve». Ha ampliado sus herramientas para detectar 60 tipos de agentes que funcionan en los equipos de los empleados, entre ellos Claude Code, OpenAI Codex y GitHub Copilot, porque algunos llegan a los equipos sin ningún despliegue central. Empiece con una sola hoja que liste cada herramienta, quién la usa, a qué datos llega, si la cuenta es personal o de empresa, y quién es su responsable. Esa misma hoja es el punto de partida del marco nacional de gestión de riesgos de la IA de SDAIA.
2. Dé a cada agente su propia cuenta y el menor acceso posible. El ejemplo de Microsoft es un agente que revisa notas de gastos: necesita leer las solicitudes y la política de la empresa, pero no debe heredar todos los permisos del empleado que lo configuró. Microsoft recomienda que un agente empiece sin autoridad, reciba solo lo que la tarea necesita y solo mientras dure la tarea, y que las acciones de mayor impacto exijan una aprobación humana verificada. En la práctica: no conecte un agente a la cuenta del director, no le entregue la contraseña del banco de la empresa, separe el acceso de lectura del de escritura, elimine del código y de la configuración las claves olvidadas que le abren más de lo que necesita, y conserve una forma de detenerlo al instante. Satya Nadella, consejero delegado de Microsoft, lo resume así: «El sistema agéntico más confiable no será el que tenga el modelo en el que más confiamos. Será el diseñado para permitirnos confiar lo menos posible en el modelo».
3. No deje que un agente actúe sobre lo que leyó en un correo, un archivo o una página web sin revisión. El folleto de salida a bolsa de Anthropic define la inyección de instrucciones (prompt injection) como un ataque en el que se insertan instrucciones maliciosas en contenido que se le pide procesar a un modelo, como sitios web, documentos o resultados de herramientas, para manipular su comportamiento, normalmente sin que el usuario lo sepa. Un agente que lee el correo de los clientes y puede transferir, borrar o enviar podría ejecutar una orden que un atacante escribió dentro de un mensaje. Microsoft describe el mismo escenario: el agente de gastos puede toparse con una inyección de instrucciones en un documento externo, y su comportamiento cambia aunque su configuración no haya cambiado. Haga que todo paso que saque dinero o datos de la empresa pase por la aprobación de un empleado, sobre todo después de que el agente haya leído contenido externo. Vimos el mismo riesgo con agentes de programación que ejecutan la orden de un atacante en cuanto se abre el proyecto.
4. Mantenga los datos de los clientes fuera de las herramientas no aprobadas. Según el Centro de ayuda de OpenAI, OpenAI no usa por defecto las entradas ni las salidas de ChatGPT Business, ChatGPT Enterprise ni de su API para mejorar sus modelos, mientras que el contenido de los planes individuales Free, Plus y Pro puede usarse para entrenamiento salvo que el usuario lo desactive en la configuración. Anthropic afirma que por defecto no entrena con las entradas de sus productos comerciales, como Claude for Work y su API. Así que estandarice cuentas de empresa y diga por escrito a su personal lo que nunca entra en ninguna herramienta: los datos personales de los clientes, los contratos y las contraseñas. Si introduce datos personales de clientes en una herramienta de IA, su proveedor trata esos datos en su nombre, y el artículo 17 del reglamento de aplicación de la Ley saudí de Protección de Datos Personales (PDPL) le obliga a elegir un encargado del tratamiento que ofrezca garantías suficientes, mediante un acuerdo que fije la finalidad y la duración del tratamiento y el deber del encargado de avisarle de cualquier fuga. Si una fuga puede perjudicar a las personas afectadas, el artículo 24 le obliga a notificarlo a la autoridad competente en un plazo de 72 horas desde que tenga conocimiento de ella.
5. Aplique parches a los sistemas expuestos a internet en días, no en semanas. Fortinet dice que las herramientas de IA ya ayudan a los atacantes a analizar los parches y construir exploits funcionales «en horas o días, en lugar de semanas», y que «la ventana entre la divulgación y la explotación sigue reduciéndose». Anthropic afirma que los exploits ya pueden desarrollarse en minutos. Por eso, ante las fallas PHP2Shell, CISA pidió pasos claros: inventariar todos los sistemas que ejecutan PHP, aplicar el parche de inmediato empezando por los sistemas expuestos a internet, y desconectar lo que no pueda actualizarse hasta que se actualice, señalando que un cortafuegos de aplicaciones web (WAF) puede dar cierta protección mientras tanto. La Autoridad Nacional de Ciberseguridad de Arabia Saudí (NCA) publicó una alerta que recomienda actualizar los productos afectados. Aplique la misma regla a todo sistema expuesto: el sitio web, el cortafuegos, la VPN y el correo. Los detalles están en nuestros artículos sobre la falla PHP2Shell, la nueva vulnerabilidad de Linux y los cortafuegos FortiGate.
6. Verifique cualquier solicitud de dinero o de datos por un segundo canal. En su campaña de concienciación sobre los deepfakes, SDAIA y la Comisión de Comunicaciones, Espacio y Tecnología (CST) dicen que «ver a alguien en un vídeo u oír su voz no prueba que lo haya dicho», y citan entre los riesgos las pérdidas económicas y las estafas, la vulneración de los sistemas de verificación y la suplantación de identidad. Así que nunca transfiera dinero ni envíe datos por una llamada, un mensaje de voz o un vídeo, aunque la voz parezca la del director. Devuelva la llamada a la persona en el número que ya tiene y exija dos firmas para cualquier transferencia por encima de un límite que usted fije. Explicamos las capas de protección en nuestro artículo sobre deepfakes y fraude con IA, y cómo cerrar cada vía que mueve el dinero de su empresa sin su firma en la lección del hackeo de Binance.
7. Revise lo que cubre su seguro y lo que dicen los contratos de sus proveedores. El folleto de salida a bolsa de Anthropic afirma: «Como nuestros modelos pueden comportarse de formas que ningún usuario ni desarrollador pretendía, las reclamaciones derivadas de esas acciones podrían generar una responsabilidad considerable». Añade que sus pólizas de seguro pueden no ofrecer una cobertura suficiente y que «el mercado de seguros para los riesgos específicos de la IA es incipiente y está en evolución». Si esa es la situación de la empresa que construye el modelo, pregunte por escrito a su aseguradora: ¿cubre la póliza una fuga de datos causada por un agente de IA, o una transferencia fraudulenta hecha con una voz clonada? Y pregunte a cada proveedor de herramientas dónde se guardan sus datos, cuánto tiempo se conservan y cuándo le avisará de un incidente.

¿Qué dicen las autoridades saudíes?

Tres referencias importan a cualquier empresa saudí que use IA:

• SDAIA lanzó el marco nacional de gestión de riesgos de la IA como referencia orientativa para entidades públicas y privadas; explicamos sus cuatro etapas y cómo puede aplicarlas su empresa.
• La Autoridad Nacional de Ciberseguridad (NCA) sometió a consulta pública su borrador de directrices de ciberseguridad para la IA, con el 5 de agosto de 2026 como fecha límite para enviar comentarios. El borrador se apoya en 4 dominios: gobernanza de la ciberseguridad, defensa, resiliencia y ciberseguridad de terceros, y cubre la IA generativa y la IA agéntica.
• La Ley de Protección de Datos Personales (PDPL) obliga a toda empresa que trate datos personales, incluidos los artículos 17 y 24 de su reglamento de aplicación mencionados arriba. Encontrará más en nuestra guía práctica de la ley.

¿Cuál es el plan para los primeros 30 días?

La opinión de Origami

No vemos en estas advertencias una razón para apagar la IA en su empresa, sino para usarla dentro de límites claros. La propia Microsoft dice que el objetivo no es un modelo cuyas acciones sean todas predecibles, sino «sistemas que sigan siendo seguros incluso cuando el modelo no lo es». En Origami integramos funciones y agentes de IA en los sistemas de las empresas con permisos limitados, pasos de aprobación y registros claros, revisamos el código creado con herramientas de IA y cerramos sus brechas, y actualizamos los servidores y aplicaciones expuestos a internet. Contáctenos para revisar juntos sus herramientas y agentes.

Puntos clave

• Las advertencias de octubre de 2026 dicen que la IA acelera el hallazgo y la explotación de fallas, que los agentes pueden equivocarse o ser manipulados y que los modelos pueden comportarse de formas que nadie pretendía.
• Conozca sus herramientas y agentes, dé a cada agente el menor acceso y exija aprobación humana antes de los pasos financieros y sensibles.
• Use cuentas de empresa que no entrenan modelos con sus datos por defecto, y mantenga los datos de los clientes fuera de las herramientas no aprobadas.
• Aplique parches a los sistemas expuestos en días, verifique las solicitudes de dinero por un segundo canal y revise su seguro y los contratos de sus proveedores.

Fuentes

• Microsoft: los agentes son su personal interno más reciente, 19 de octubre de 2026
• OpenAI: Patch the Planet, la coordinación de la respuesta a las fallas críticas de PHP
• CISA: las vulnerabilidades críticas de PHP requieren parches inmediatos
• Autoridad Nacional de Ciberseguridad de Arabia Saudí (NCA): alerta sobre PHP
• Fortinet: versión de refuerzo de seguridad para varios productos
• Anthropic: un servicio opcional de búsqueda de vulnerabilidades para software de código abierto, 8 de octubre de 2026
• Anthropic: descubrir y explotar vulnerabilidades con Claude, 27 de octubre de 2026
• Anthropic: formulario de registro S-1 ante la SEC de Estados Unidos
• SPA: SDAIA lanza el marco nacional de gestión de riesgos de la IA
• Autoridad Nacional de Ciberseguridad de Arabia Saudí (NCA): consulta sobre las directrices de ciberseguridad para la IA
• SDAIA y CST: deepfakes y vídeos falsos
• SDAIA: reglamento de aplicación de la Ley de Protección de Datos Personales
• OpenAI: cómo se usan sus datos para mejorar el rendimiento de los modelos
• Anthropic: ¿se usan mis datos para entrenar modelos?