La inteligencia artificial ya forma parte del arsenal cotidiano del seguro: tarificacion, deteccion de fraude, suscripcion automatizada y gestion de siniestros se apoyan en modelos predictivos cada vez mas potentes. Con esa potencia llega, sin embargo, una tension conocida: los modelos mas precisos suelen ser tambien los mas opacos. La inteligencia artificial responsable es la disciplina que busca reconciliar rendimiento con transparencia, equidad y rendicion de cuentas.
El problema de la caja negra
Un modelo de regresion lineal o logistica es interpretable por construccion: cada coeficiente tiene un significado directo. Un gradient boosting con miles de arboles o una red neuronal profunda, en cambio, funcionan como una caja negra: predicen bien, pero no revelan con facilidad por que asignaron una prima elevada o rechazaron una solicitud.
En seguros, esta opacidad no es un mero inconveniente tecnico. El asegurado tiene derecho a una explicacion, el regulador exige justificar que las tarifas sean tecnicamente fundamentadas y no injustamente discriminatorias, y la propia aseguradora necesita entender su modelo para gestionarlo. Un modelo que nadie puede explicar es un modelo que nadie puede gobernar.
Tecnicas de explicabilidad
Frente a este reto ha surgido el campo de la explainable AI (XAI), con herramientas que abren la caja negra sin renunciar a su poder predictivo:
- SHAP (Shapley Additive Explanations): basado en los valores de Shapley de la teoria de juegos cooperativos, reparte la prediccion entre las variables de entrada de forma consistente, indicando cuanto empuja cada una hacia arriba o hacia abajo. Es hoy el estandar de facto para explicaciones locales y globales.
- LIME (Local Interpretable Model-agnostic Explanations): aproxima el comportamiento del modelo alrededor de una prediccion individual mediante un modelo lineal local, sencillo de leer.
- Graficas de dependencia parcial (partial dependence plots) y sus variantes individuales (ICE): muestran como varia la prediccion promedio al mover una variable, manteniendo las demas fijas, revelando efectos no lineales y umbrales.
Estas tecnicas son complementarias. La dependencia parcial ofrece una vision global del efecto de una variable; SHAP y LIME explican casos individuales, algo especialmente valioso cuando hay que justificar una decision concreta ante un cliente o un supervisor.
Discriminacion por variables proxy
Un riesgo particularmente sutil es la discriminacion indirecta. Aun cuando un modelo excluya variables protegidas (genero, origen etnico, estado de salud), puede reconstruir su efecto a traves de variables proxy correlacionadas: el codigo postal puede correlacionar con nivel socioeconomico u origen; ciertos habitos de consumo pueden correlacionar con condiciones de salud. El modelo, optimizando la prediccion, aprende la relacion prohibida por una puerta trasera.
Detectar estos proxies exige analisis deliberado. No basta con omitir la variable sensible: hay que medir si el resultado del modelo la esta capturando de forma implicita, y decidir con criterio actuarial y de cumplimiento que correlaciones son legitimas (asociadas a un riesgo real) y cuales constituyen discriminacion inaceptable.
La equidad como objetivo explicito
La equidad (fairness) algoritmica es un campo activo que ha propuesto multiples definiciones formales, entre ellas la paridad demografica, la igualdad de oportunidades y la calibracion por grupos. Un resultado teorico incomodo es que, en general, estas definiciones no pueden satisfacerse todas a la vez: mejorar una metrica de equidad suele degradar otra. No existe una nocion unica y universal de justicia que el modelo pueda simplemente optimizar.
Esto tiene una implicacion profunda: la equidad no es un problema puramente tecnico, sino una decision de politica que combina criterios eticos, legales y de negocio. El seguro se basa en la diferenciacion de riesgos, de modo que el reto no es eliminar toda distincion, sino asegurar que las distinciones sean actuarialmente justificadas y socialmente aceptables.
Riesgo de modelo y gobernanza
Todo lo anterior se integra en la gestion del riesgo de modelo (model risk): la posibilidad de perdidas por decisiones basadas en modelos incorrectos o mal utilizados. Una gobernanza solida abarca:
- Documentacion completa de datos, supuestos, limitaciones y validaciones.
- Validacion independiente por un equipo distinto al que desarrollo el modelo.
- Monitoreo continuo del desempeno y de la deriva de datos (data drift) en produccion.
- Trazabilidad y control de versiones, para reconstruir por que se tomo cada decision.
Marcos profesionales como los estandares actuariales sobre modelado, y la creciente regulacion internacional sobre inteligencia artificial, apuntan en la misma direccion: los modelos de alto impacto requieren supervision humana, transparencia y responsabilidad asignada.
El actuario como responsable del modelo
Aqui es donde la profesion actuarial encuentra un rol natural y estrategico. El actuario combina un entendimiento profundo del riesgo, formacion estadistica, sensibilidad regulatoria y un codigo de conducta que exige objetividad y cuidado del interes publico. Organismos como la Society of Actuaries (SOA), la Casualty Actuarial Society (CAS) y el Institute and Faculty of Actuaries (IFoA) han producido material sobre data science, equidad y gobernanza de modelos, reforzando esta vocacion.
El responsable del modelo (model owner) no es un tecnico que optimiza una metrica, sino un profesional que responde por las consecuencias del modelo: su exactitud, su equidad, su explicabilidad y su cumplimiento. En la era de la caja negra, la inteligencia artificial responsable no consiste en frenar la innovacion, sino en gobernarla con rigor. Y en esa tarea, el actuario esta llamado a ser un actor central.