Lo que las organizaciones necesitan saber sobre los peligros ocultos de la automatización de la IA

 

• Decir que la inteligencia artificial es una revolución podría ser quedarse corto. Considere lo siguiente: mientras que Internet tardó 23 años en llegar a mil millones de usuarios y la tecnología móvil tardó 16, la GenAI está en camino de alcanzar ese hito en solo siete. 

Eugenio Rodríguez Seco, Senior Regional Director de Palo Alto Networks Chile 

ROIPRESS / LATAM / EXPERTOS - La tecnología está cambiando profundamente las operaciones de las organizaciones, agilizando los procesos, mejorando la productividad y descubriendo información valiosa. Su potencial en ciberseguridad es innegable; es un punto de inflexión. Pero mientras las empresas se apresuran a aprovechar el poder de la IA generativa (GenAI), los ciberdelincuentes hacen lo mismo, solo que con intenciones diferentes. Los actores de amenazas utilizan la IA para desarrollar malware sofisticado, lanzar campañas de phishing impulsadas por IA y explotar vulnerabilidades en software y API más rápido que nunca.

El panorama de la ciberseguridad en Chile

Las organizaciones chilenas enfrentan los mismos desafíos que el resto del mundo. Datos recientes de ChileTec, asociación nacional de desarrolladores de software, muestran que los ciberataques aumentaron un 30% durante el primer semestre de 2024. La principal amenaza es el robo de información, e incluso e bloqueo de un operación entera, seguido de campañas de phishing y fraude. Tanto el sector público como el privado son vulnerables a estas intrusiones. Según el Equipo Nacional de Respuesta a Incidentes Cibernéticos (CSIRT), el país registró 54 incidentes de ciberseguridad en el primer trimestre de 2024 y catalogó 11 como relevantes.

Chile ha fortalecido sus estándares de ciberseguridad y desarrollo de IA. El 26 de marzo de 2024, el gobierno chileno promulgó la Ley Marco de Ciberseguridad, que entró en vigencia en 2025. La ley contempla la creación de una estrategia de seguridad, medidas obligatorias y la Agencia Nacional de Ciberseguridad (ANCI), un servicio público descentralizado encargado de supervisar, monitorear y coordinar los esfuerzos de ciberseguridad en los sectores público y privado. ​

Chile también ha logrado avances significativos en inteligencia artificial al establecer el Centro Nacional de Inteligencia Artificial (CENIA). Este centro ha logrado un progreso notable en investigación y desarrollo, formando alianzas estratégicas y promoviendo la IA para el beneficio social. Esta iniciativa coloca a Chile entre los líderes en adopción de IA en su Índice Latinoamericano de IA.

publicidad

A través de "EL ANFiTRiÓN DEL CAMBiO", David C. Mendoza comparte con la audiencia su conocimiento y experiencia en el uso de las Leyes Mentales, para que las personas que busquen hacer cambios a mejor en sus vidas puedan lograrlos.

Automatización de IA como contexto global

A pesar de que los esfuerzos en ciberseguridad son notables, hasta el 70% de las PYMES no cuentan con las medidas de seguridad que necesitan, dice ChileTec. La cifra coincide con hallazgos del equipo de inteligencia de amenazas de Palo Alto Networks, Unit 42, que indica que el 76% de las organizaciones a nivel mundial no aplican la autenticación multifactor (MFA) para sus usuarios y el 58% no aplica la MFA para los usuarios root o administradores, lo que deja los sistemas vulnerables al acceso no autorizado y posibles manipulaciones.

El equipo también descubrió que el sesgo en la toma de decisiones de la IA es una de las principales preocupaciones de su adopción. Dado que los algoritmos de IA dependen completamente de los datos con los que están entrenados, cualquier sesgo o inexactitud en ellos puede conducir a resultados problemáticos. El sesgo puede causar problemas de cumplimiento normativo, decisiones injustas y la creación de puntos ciegos dentro del marco de seguridad de una organización.

Otro problema apremiante tiene que ver con la privacidad y la seguridad de los datos. Los sistemas de IA a menudo procesan grandes cantidades de información, incluidos datos altamente sensibles. Según el último informe sobre amenazas en la nube, se encontraron datos confidenciales en el 63% de los depósitos de almacenamiento expuestos públicamente, lo que indica un problema generalizado con la seguridad de los datos en entornos de nube. Sin garantías rigurosas, las empresas se exponen a accesos no autorizados, multas regulatorias y posibles filtraciones de datos. Los actores malintencionados pueden manipular los propios sistemas de IA e introducir información engañosa en los modelos, desorientándolos para que pasen por alto las amenazas o introduzcan involuntariamente vulnerabilidades en los sistemas de seguridad automatizados.

La dependencia excesiva de la IA plantea otro riesgo. En 2024, el 86% de los incidentes a los que respondió Palo Alto Networks involucraron la interrupción del negocio, lo que subraya la necesidad de supervisión humana junto con los sistemas de IA para mantener la resiliencia operativa. Los equipos de seguridad deben mantener un equilibrio cuidadoso, utilizando la IA para respaldar la toma de decisiones.

Integración y proactividad como factores clave para el éxito en ciberseguridad

Las organizaciones deben adoptar una estrategia de seguridad proactiva y en capas para gestionar los riesgos de forma inteligente al incorporar la IA en sus operaciones. La primera capacidad esencial es la visibilidad y la supervisión. Es vital comprender dónde se utiliza la IA y quién tiene acceso a ella, con una supervisión continua para detectar actividades no autorizadas y amenazas emergentes a medida que ocurren. Este enfoque proactivo garantiza que las organizaciones estén preparadas y en control en lugar de reaccionar a las amenazas después de que ocurran. Proteger los datos es igualmente crítico. Los controles de acceso estrictos, el cifrado y los protocolos de cumplimiento garantizan que los sistemas de IA gestionen la información confidencial de forma segura. Por último, las políticas de control de acceso deben estar claramente definidas para controlar qué empleados pueden utilizar las herramientas de IA y los tipos de datos que las herramientas de IA pueden procesar.

En Palo Alto Networks, también aprovechamos la información de nuestro Informe de Amenazas para ayudar a las empresas a evitar riesgos emergentes y adaptar sus estrategias de seguridad en consecuencia, implementando nuestras soluciones y plataformas para proteger sus operaciones. Desde la identificación de amenazas impulsadas por IA hasta el desarrollo de marcos robustos de gestión de riesgos, la monitorización continua es clave para mantenerse protegido en este panorama en constante cambio.

La automatización de la IA llegó para quedarse, pero las organizaciones deben tomar el control de su postura de seguridad antes de que los ciberdelincuentes lo hagan por ellas. Al integrar la seguridad desde el principio, mantener la supervisión humana y aprovechar los conocimientos de los expertos, las empresas pueden aprovechar los beneficios de la IA sin ser víctimas de sus riesgos.

Por Eugenio Rodríguez Seco, Senior Regional Director de Palo Alto Networks Chile

from RoiPress canal de noticias empresariales https://ift.tt/tQEaAeM
via IFTTT