Auditorías de sesgo, diseño de sistemas con privacidad por defecto y acompañamiento en la implementación de marcos de gobernanza para modelos de aprendizaje automático.
Para que no queden dudas sobre qué se ofrece y qué no, conviene aclarar algunos puntos antes de empezar a trabajar.
Cuando hablamos de proteger datos, nos referimos a medidas concretas: minimización de la recolección, cifrado en reposo y en tránsito, y controles de acceso definidos por rol. No prometemos anonimato absoluto, porque en la práctica no existe. Lo que sí garantizamos es que los datos personales no se usen para entrenar modelos sin un consentimiento explícito y documentado.
Las ZK-proofs son una herramienta útil para verificar que un modelo cumple ciertas propiedades sin revelar los datos subyacentes. Pero no resuelven todo. Su aplicación práctica todavía tiene costos computacionales altos y no reemplazan una auditoría de sesgos bien hecha. Las usamos donde aportan valor real, no como una etiqueta de moda.
Ningún sistema es completamente neutral. Nuestro trabajo consiste en detectar sesgos medibles, documentarlos y reducirlos hasta donde la técnica lo permita. Cuando un sesgo no se puede eliminar por completo, lo informamos con claridad y explicamos qué impacto puede tener en los resultados.
No hablamos de promesas abstractas. Las observaciones que recibimos suelen referirse a cambios concretos en la forma de plantear un problema de datos o de auditar un modelo antes de su despliegue. Tres comentarios aparecen con frecuencia.
Una auditoría que no se queda en el papel
Un equipo de una cooperativa de crédito nos pidió revisar su modelo de scoring. Encontraron que el informe señalaba variables con sesgo indirecto que ellos no habían considerado. Lo que valoraron fue que la corrección vino con un plan de re-entrenamiento, no solo con una lista de problemas.
Privacidad explicada sin tecnicismos
Una organización de salud necesitaba compartir datos entre dos hospitales sin violar la normativa local. Implementamos una capa de verificación basada en pruebas de conocimiento cero. El responsable del proyecto comentó que por primera vez pudo explicar a su junta directiva cómo se protegía la información sin revelar los registros.
Menos ruido en las reuniones de seguimiento
Un estudio jurídico que usa IA para clasificar documentos nos contactó porque el sistema marcaba demasiados falsos positivos. Ajustamos los umbrales de confianza y documentamos el criterio. La abogada a cargo dijo que las revisiones semanales pasaron de discutir errores a discutir casos límite reales.
Cada proyecto tiene un punto de partida distinto. Por eso ofrecemos tres modalidades de colaboración, pensadas para acompañar desde la primera auditoría hasta el despliegue en producción. La elección depende del estado de tu sistema y del nivel de control que necesites.