Análisis: Los riesgos de seguridad de DeepSeek que preocupan a los gobiernos
Investigadores revelan vulnerabilidades críticas en el modelo chino que han llevado a prohibiciones gubernamentales por riesgos de seguridad nacional.
El fenómeno DeepSeek ha generado preocupaciones significativas sobre seguridad cibernética y privacidad de datos. Investigadores de Cisco y la Universidad de Pennsylvania han revelado que DeepSeek R1 falló en todos los tests de seguridad, exhibiendo una tasa de éxito de ataque del 100%, lo que significa que no logró bloquear ni una sola consulta dañina.
Estas vulnerabilidades han llevado a varios gobiernos a tomar medidas precautorias. El gobernador de Texas, Greg Abbott, prohibió el uso de DeepSeek y otras aplicaciones vinculadas a IA china por parte de empleados estatales, citando riesgos de seguridad nacional y posible filtración de datos sensibles.
Principales Preocupaciones de Seguridad
- Fallas de Seguridad Críticas: 100% de tasa de éxito en ataques durante las pruebas de seguridad.
- Censura Interna: El modelo se autocensura en temas sensibles como Tiananmen Square o la autonomía de Taiwán.
- Origen de Datos Incierto: Falta de transparencia sobre los datos utilizados para entrenar el modelo.
- Riesgos de Privacidad: Posible transferencia de datos de usuarios a servidores chinos para supervisión gubernamental.
A pesar de estos desafíos, el impacto de DeepSeek en el mercado ha sido innegable, demostrando que la eficiencia algorítmica puede competir con recursos masivos. Sin embargo, las empresas deben evaluar cuidadosamente los riesgos de seguridad antes de implementar modelos de código abierto, especialmente aquellos desarrollados en jurisdicciones con diferentes marcos regulatorios de privacidad y seguridad.