La IA ya está en su empresa. Si no está asegurada, se está quedando atrás

La IA ya ha entrado en su organización, tanto si la ha adoptado oficialmente como si no. Los empleados aprovechan ChatGPT para redactar documentos, cargan potencialmente información confidencial en herramientas en línea para un análisis más rápido y confían en herramientas generativas para agilizar todo, desde la producción de código hasta la atención al cliente. La IA está evolucionando con o sin su aprobación, y esa realidad debería preocupar a todos los responsables de seguridad de la información.
Esta propagación silenciosa de herramientas de IA no aprobadas en todos los departamentos ha dado lugar a una capa de TI en la sombra en rápida expansión. Está descentralizada, a menudo es indetectable y está plagada de vulnerabilidades. Las repercusiones -que van desde infracciones de la normativa y fugas de datos hasta la imposibilidad de rastrear la toma de decisiones- son significativas. Sin embargo, muchas organizaciones siguen creyendo que pueden contenerla mediante políticas o cortafuegos.
La realidad es que la IA no puede detenerse; sólo puede protegerse. Cuanto antes lo reconozcan las empresas, antes podrán abordar las brechas de seguridad que la IA ya ha creado.
La IA en la sombra es un creciente punto ciego de seguridad dentro de las organizaciones
Ya hemos sido testigos de esta situación. El aumento inicial de la adopción de la nube a principios de la década de 2010 siguió una trayectoria similar: los equipos adoptaron herramientas que mejoraban su productividad, a menudo eludiendo los protocolos de seguridad. Muchos equipos de seguridad intentaron resistirse, sólo para encontrarse luchando por contener las brechas, las malas configuraciones y los problemas de cumplimiento después de los hechos.
Hoy en día, la misma tendencia se repite con la IA. Nuestro informe 2024 State of AI Security indica que más de la mitad de las organizaciones están utilizando IA para crear aplicaciones personalizadas, pero pocas tienen una visibilidad clara de dónde se alojan estos modelos, cómo están configurados o si están comprometiendo datos confidenciales.
Esta situación presenta dos riesgos importantes:
- Empleados que utilizan herramientas públicas de IA con datos confidenciales o de propiedad, exponiendo esa información a sistemas externos sin la supervisión adecuada.
- Equipos internos que despliegan modelos de IA sin suficientes controles de seguridad, lo que conduce a debilidades explotables y prácticas que pueden fallar en las auditorías de cumplimiento.
La IA en la sombra no es sólo un problema de seguridad; puede convertirse en una crisis de gobernanza. Sin visibilidad del uso de la IA, no se pueden gestionar los procesos de formación, el acceso a los datos o la generación de resultados. No realizar un seguimiento de las decisiones impulsadas por la IA significa que no puede explicarlas ni defenderlas, lo que deja a su organización vulnerable a las amenazas normativas, de reputación y operativas.
Por qué las herramientas de seguridad convencionales son inadecuadas
La mayoría de las soluciones de seguridad no se diseñaron para abordar los retos específicos de la IA. No pueden identificar artefactos de modelos, escanear rutas de datos de IA, supervisar grandes interacciones de modelos de lenguaje (LLM) ni aplicar la gobernanza de modelos. Incluso las herramientas especializadas tienden a abordar sólo aspectos aislados, lo que obliga a las organizaciones a gestionar soluciones fragmentadas sin una perspectiva de seguridad unificada.
Se trata de una cuestión crítica. La seguridad de la IA no puede ser un complemento o una ocurrencia tardía. Debe integrarse en su estrategia de gestión de la nube, protocolos de protección de datos y flujos de trabajo DevSecOps. Si no lo hace, subestimará el creciente papel de la IA en sus operaciones y perderá la oportunidad de protegerla como infraestructura empresarial fundamental.
Hay que abandonar la estrategia errónea de bloquear la IA
Puede parecer sencillo imponer prohibiciones radicales mediante políticas como "no a las herramientas de IA de terceros" o "no a la experimentación interna de IA". Sin embargo, este enfoque no es realista. Los empleados ya utilizan la IA para mejorar la productividad, no con malas intenciones, sino porque ofrece resultados.
La IA actúa como un potenciador de la productividad, y la gente seguirá utilizándola mientras les ayude a cumplir los plazos, reducir las tareas repetitivas y resolver los problemas de manera eficiente.
Intentar bloquear por completo el uso de la IA no la eliminará; simplemente la empujará más hacia la clandestinidad. Cuando surjan problemas, tendrá que enfrentarse a ellos sin visibilidad, políticas establecidas o un plan de respuesta.
Adopte la IA con estrategia, seguridad y visibilidad
Un enfoque más inteligente implica adoptar proactivamente la IA en sus propios términos, centrándose en tres áreas clave:
Proporcione a los empleados alternativas seguras y aprobadas. Para reducir la dependencia de herramientas de riesgo, ofrezca opciones seguras. Ya sea a través de LLM internos, aplicaciones de terceros examinadas o asistentes de IA integrados en plataformas centrales, el objetivo es ofrecer herramientas que sean igual de eficientes pero significativamente más seguras.
Establezca y aplique políticas claras. La gobernanza de la IA debe ser precisa, práctica y fácil de aplicar. Defina qué datos pueden compartirse con las herramientas de IA, establezca límites claros y asigne la responsabilidad de revisar y aprobar las iniciativas internas de IA. Comunique ampliamente estas políticas y asegúrese de que las medidas de aplicación tanto técnicas como de procedimiento son operativas.
Priorizar la visibilidad y la supervisión. No se puede proteger lo que no se ve. Implemente herramientas capaces de detectar el uso de la IA en la sombra, identificar las claves de acceso expuestas, señalar los modelos mal configurados y supervisar dónde pueden estar filtrándose datos confidenciales en los conjuntos de datos de entrenamiento o en los resultados. La gestión de la postura de la IA se está convirtiendo rápidamente en algo tan esencial como la gestión de la postura de la seguridad en la nube.
Los CISO deben guiar esta transformación
Este es un momento crucial para el liderazgo en seguridad. El papel del CISO se está expandiendo más allá de la protección de la infraestructura para incluir la habilitación de la innovación segura. Esto significa ayudar a la organización a aprovechar la IA para obtener velocidad y eficiencia, al tiempo que garantiza que la seguridad, la privacidad y el cumplimiento sean parte integral de cada etapa.
Este liderazgo implica:
- Educar a los miembros del consejo y a los ejecutivos sobre los riesgos reales frente a los percibidos de la IA.
- Colaborar con los equipos de ingeniería y productos para integrar la seguridad en las primeras fases de los ciclos de implantación de la IA.
- Invertir en herramientas modernas diseñadas para la seguridad de los sistemas de IA.
- Fomentar una cultura en la que el uso responsable de la IA sea una responsabilidad compartida.
Los CISO no necesitan ser especialistas en IA, pero deben plantearse preguntas críticas: ¿Qué modelos estamos utilizando? ¿Qué datos los alimentan? ¿Qué medidas de protección se aplican? ¿Podemos verificar nuestra postura de seguridad?
Lo esencial: La inacción supone el mayor riesgo
La IA ya está remodelando las operaciones empresariales. Ya sea facilitando respuestas más rápidas de atención al cliente, mejorando las previsiones financieras o acelerando los flujos de trabajo de desarrollo, la IA está profundamente integrada en las tareas diarias. Negar esta realidad no frenará la adopción de la IA; sólo aumentará las vulnerabilidades, la exposición de datos y los fallos de cumplimiento.
El enfoque más peligroso es no hacer nada. Los CISO y los líderes de seguridad deben reconocer lo innegable: La IA está presente en sus sistemas y flujos de trabajo, y está aquí para quedarse. La cuestión fundamental es si la protegerá de forma proactiva o esperará a que cause daños irreversibles.
Adopte la IA, pero siempre con un enfoque que dé prioridad a la seguridad. Es la única forma de prepararse para el futuro.
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (2)
0/500
Interesting how AI integration happens with or without formal policies. Saw a coworker use ChatGPT for client reports last week – no one batted an eye. 🤔 Are we just trusting these tools with sensitive data because they’re convenient? Feels like the genie’s already out of the bottle, and security is playing catch-up.
La ciberseguridad con IA me preocupa tanto en el trabajo como en lo personal. Si los empleados suben info sensible a ChatGPT sin pensar, ¿quién garantiza que no se filtre? Al final, los más vulnerables somos los usuarios comunes, no las grandes empresas con sus propios sistemas. 😅 La solución no es prohibir, sino educar y dar herramientas seguras, pero eso cuesta dinero y tiempo...

La IA ya ha entrado en su organización, tanto si la ha adoptado oficialmente como si no. Los empleados aprovechan ChatGPT para redactar documentos, cargan potencialmente información confidencial en herramientas en línea para un análisis más rápido y confían en herramientas generativas para agilizar todo, desde la producción de código hasta la atención al cliente. La IA está evolucionando con o sin su aprobación, y esa realidad debería preocupar a todos los responsables de seguridad de la información.
Esta propagación silenciosa de herramientas de IA no aprobadas en todos los departamentos ha dado lugar a una capa de TI en la sombra en rápida expansión. Está descentralizada, a menudo es indetectable y está plagada de vulnerabilidades. Las repercusiones -que van desde infracciones de la normativa y fugas de datos hasta la imposibilidad de rastrear la toma de decisiones- son significativas. Sin embargo, muchas organizaciones siguen creyendo que pueden contenerla mediante políticas o cortafuegos.
La realidad es que la IA no puede detenerse; sólo puede protegerse. Cuanto antes lo reconozcan las empresas, antes podrán abordar las brechas de seguridad que la IA ya ha creado.
La IA en la sombra es un creciente punto ciego de seguridad dentro de las organizaciones
Ya hemos sido testigos de esta situación. El aumento inicial de la adopción de la nube a principios de la década de 2010 siguió una trayectoria similar: los equipos adoptaron herramientas que mejoraban su productividad, a menudo eludiendo los protocolos de seguridad. Muchos equipos de seguridad intentaron resistirse, sólo para encontrarse luchando por contener las brechas, las malas configuraciones y los problemas de cumplimiento después de los hechos.
Hoy en día, la misma tendencia se repite con la IA. Nuestro informe 2024 State of AI Security indica que más de la mitad de las organizaciones están utilizando IA para crear aplicaciones personalizadas, pero pocas tienen una visibilidad clara de dónde se alojan estos modelos, cómo están configurados o si están comprometiendo datos confidenciales.
Esta situación presenta dos riesgos importantes:
- Empleados que utilizan herramientas públicas de IA con datos confidenciales o de propiedad, exponiendo esa información a sistemas externos sin la supervisión adecuada.
- Equipos internos que despliegan modelos de IA sin suficientes controles de seguridad, lo que conduce a debilidades explotables y prácticas que pueden fallar en las auditorías de cumplimiento.
La IA en la sombra no es sólo un problema de seguridad; puede convertirse en una crisis de gobernanza. Sin visibilidad del uso de la IA, no se pueden gestionar los procesos de formación, el acceso a los datos o la generación de resultados. No realizar un seguimiento de las decisiones impulsadas por la IA significa que no puede explicarlas ni defenderlas, lo que deja a su organización vulnerable a las amenazas normativas, de reputación y operativas.
Por qué las herramientas de seguridad convencionales son inadecuadas
La mayoría de las soluciones de seguridad no se diseñaron para abordar los retos específicos de la IA. No pueden identificar artefactos de modelos, escanear rutas de datos de IA, supervisar grandes interacciones de modelos de lenguaje (LLM) ni aplicar la gobernanza de modelos. Incluso las herramientas especializadas tienden a abordar sólo aspectos aislados, lo que obliga a las organizaciones a gestionar soluciones fragmentadas sin una perspectiva de seguridad unificada.
Se trata de una cuestión crítica. La seguridad de la IA no puede ser un complemento o una ocurrencia tardía. Debe integrarse en su estrategia de gestión de la nube, protocolos de protección de datos y flujos de trabajo DevSecOps. Si no lo hace, subestimará el creciente papel de la IA en sus operaciones y perderá la oportunidad de protegerla como infraestructura empresarial fundamental.
Hay que abandonar la estrategia errónea de bloquear la IA
Puede parecer sencillo imponer prohibiciones radicales mediante políticas como "no a las herramientas de IA de terceros" o "no a la experimentación interna de IA". Sin embargo, este enfoque no es realista. Los empleados ya utilizan la IA para mejorar la productividad, no con malas intenciones, sino porque ofrece resultados.
La IA actúa como un potenciador de la productividad, y la gente seguirá utilizándola mientras les ayude a cumplir los plazos, reducir las tareas repetitivas y resolver los problemas de manera eficiente.
Intentar bloquear por completo el uso de la IA no la eliminará; simplemente la empujará más hacia la clandestinidad. Cuando surjan problemas, tendrá que enfrentarse a ellos sin visibilidad, políticas establecidas o un plan de respuesta.
Adopte la IA con estrategia, seguridad y visibilidad
Un enfoque más inteligente implica adoptar proactivamente la IA en sus propios términos, centrándose en tres áreas clave:
Proporcione a los empleados alternativas seguras y aprobadas. Para reducir la dependencia de herramientas de riesgo, ofrezca opciones seguras. Ya sea a través de LLM internos, aplicaciones de terceros examinadas o asistentes de IA integrados en plataformas centrales, el objetivo es ofrecer herramientas que sean igual de eficientes pero significativamente más seguras.
Establezca y aplique políticas claras. La gobernanza de la IA debe ser precisa, práctica y fácil de aplicar. Defina qué datos pueden compartirse con las herramientas de IA, establezca límites claros y asigne la responsabilidad de revisar y aprobar las iniciativas internas de IA. Comunique ampliamente estas políticas y asegúrese de que las medidas de aplicación tanto técnicas como de procedimiento son operativas.
Priorizar la visibilidad y la supervisión. No se puede proteger lo que no se ve. Implemente herramientas capaces de detectar el uso de la IA en la sombra, identificar las claves de acceso expuestas, señalar los modelos mal configurados y supervisar dónde pueden estar filtrándose datos confidenciales en los conjuntos de datos de entrenamiento o en los resultados. La gestión de la postura de la IA se está convirtiendo rápidamente en algo tan esencial como la gestión de la postura de la seguridad en la nube.
Los CISO deben guiar esta transformación
Este es un momento crucial para el liderazgo en seguridad. El papel del CISO se está expandiendo más allá de la protección de la infraestructura para incluir la habilitación de la innovación segura. Esto significa ayudar a la organización a aprovechar la IA para obtener velocidad y eficiencia, al tiempo que garantiza que la seguridad, la privacidad y el cumplimiento sean parte integral de cada etapa.
Este liderazgo implica:
- Educar a los miembros del consejo y a los ejecutivos sobre los riesgos reales frente a los percibidos de la IA.
- Colaborar con los equipos de ingeniería y productos para integrar la seguridad en las primeras fases de los ciclos de implantación de la IA.
- Invertir en herramientas modernas diseñadas para la seguridad de los sistemas de IA.
- Fomentar una cultura en la que el uso responsable de la IA sea una responsabilidad compartida.
Los CISO no necesitan ser especialistas en IA, pero deben plantearse preguntas críticas: ¿Qué modelos estamos utilizando? ¿Qué datos los alimentan? ¿Qué medidas de protección se aplican? ¿Podemos verificar nuestra postura de seguridad?
Lo esencial: La inacción supone el mayor riesgo
La IA ya está remodelando las operaciones empresariales. Ya sea facilitando respuestas más rápidas de atención al cliente, mejorando las previsiones financieras o acelerando los flujos de trabajo de desarrollo, la IA está profundamente integrada en las tareas diarias. Negar esta realidad no frenará la adopción de la IA; sólo aumentará las vulnerabilidades, la exposición de datos y los fallos de cumplimiento.
El enfoque más peligroso es no hacer nada. Los CISO y los líderes de seguridad deben reconocer lo innegable: La IA está presente en sus sistemas y flujos de trabajo, y está aquí para quedarse. La cuestión fundamental es si la protegerá de forma proactiva o esperará a que cause daños irreversibles.
Adopte la IA, pero siempre con un enfoque que dé prioridad a la seguridad. Es la única forma de prepararse para el futuro.
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Interesting how AI integration happens with or without formal policies. Saw a coworker use ChatGPT for client reports last week – no one batted an eye. 🤔 Are we just trusting these tools with sensitive data because they’re convenient? Feels like the genie’s already out of the bottle, and security is playing catch-up.
La ciberseguridad con IA me preocupa tanto en el trabajo como en lo personal. Si los empleados suben info sensible a ChatGPT sin pensar, ¿quién garantiza que no se filtre? Al final, los más vulnerables somos los usuarios comunes, no las grandes empresas con sus propios sistemas. 😅 La solución no es prohibir, sino educar y dar herramientas seguras, pero eso cuesta dinero y tiempo...





Hogar






