Los chatbots potenciados con IA continúan masificándose, y el más reciente desarrollado en China –DeepSeek– generó expectación mundial y no solo a nivel de usuario, sino que también en el ámbito corporativo.
Una nueva investigación de Sophos titulada “Más allá del Hype: La realidad empresarial de la IA para la ciberseguridad”, reveló que el 89% de los líderes de TI están preocupados por los fallos de la IA Generativa, y que estos afecten negativamente las estrategias de ciberseguridad de sus empresas.
Chester Wisniewski, Director Global Field CTO de Sophos, explicó que “la naturaleza de ´código abierto´ de DeepSeek lo abre a la exploración tanto de adversarios como de entusiastas. Al igual que con Llama, se puede jugar con él y, en gran medida, quitar las barreras de seguridad. Esto podría ser una fuente de problemas si los delincuentes deciden convertirlo en un arma, pero también es una oportunidad para que aficionados y creadores tengan un nuevo entorno para jugar”.
El experto de Sophos agrega que cuanto mejor se vayan revelando las capacidades y limitaciones de estas tecnologías, las personas podrán sacarle más provecho, y al mismo tiempo estar más preparadas para sus riesgos.
“El desafío, por supuesto, son los recursos. Mientras que el modelo de 7 mil millones de parámetros puede funcionar en un PC de escritorio de alta especificación (GPU NVidia 4080), el modelo de 678 mil millones de parámetros de DeepSeek-R1, requiere 1,3 Terabytes de memoria de GPU y 16 GPU NVidia A100, además de los 25 KWh de energía y refrigeración necesarios para operar una máquina de este tipo. Es difícil imaginar construir este sistema y la infraestructura por menos de un millón de dólares”, comentó Wisniewski. Además, destacó que debido a estos requisitos, la mayoría de las organizaciones podrían optar por utilizar estos modelos cloud.
La investigación de Sophos también reveló que el 75% de los directores de TI coinciden en que los costos de GenAI en productos de ciberseguridad todavía son difíciles de cuantificar.
Si bien en la reciente encuesta de Sophos sobre IA, el 99% de las organizaciones encuestadas afirmó que evalúan el tamaño de los procesos y controles de ciberseguridad utilizados en el desarrollo de la GenAI, no está claro si tienen la experiencia necesaria para determinar eficazmente los riesgos.
“La competencia entre los modelos de IA es probable que traiga beneficios para todos. Debería generar más alternativas que se adapten mejor a una tarea u otra, pero también la competencia mantiene bajos los costos y reduce el riesgo de que todos tengan las mismas vulnerabilidades cuando se descubren fallas. Sin embargo, esta elección debe hacerse con cuidado, ya que quién y dónde se procesan sus datos también es una consideración muy importante», comentó Wisniewski, quien concluyó diciendo que ahroa es un buen momento para considerar la soberanía de los datos y las cuestiones de privacidad.
