shap

Descripción general del skill shap

Qué hace shap

El skill shap te ayuda a explicar predicciones de modelos con valores SHAP, para que puedas ver qué entradas empujaron una predicción hacia arriba o hacia abajo. Es ideal para usuarios que necesitan interpretabilidad del modelo, atribución de variables o un flujo de explainable AI para análisis real, no un resumen genérico de “importancia de variables”.

Cuándo este skill es la opción adecuada

Usa el skill shap cuando necesites responder preguntas prácticas como: por qué ocurrió esta predicción, qué variables importan más, si el modelo se comporta de forma justa, o cómo presentar una explicación fiable a partes interesadas. Funciona con modelos de árboles, modelos lineales, modelos de deep learning y muchos modelos de caja negra.

Lo que suele importar más a los usuarios

La mayoría de quienes instalan shap buscan una guía rápida para llegar al resultado: qué explainer elegir, qué datos necesita el explainer y qué gráfico encaja mejor con la pregunta. El valor del skill está en que se centra en el flujo de explicación, no solo en la API de la librería.

Cómo usar el skill shap

Instala y localiza las instrucciones principales

Instala el skill shap con el flujo normal de instalación de skills del directorio y luego abre primero scientific-skills/shap/SKILL.md. Si en el futuro el paquete incluye contexto enlazado, revisa README.md, AGENTS.md, metadata.json y cualquier carpeta rules/, resources/ o references/, pero en este repositorio el flujo se concentra actualmente en SKILL.md.

Convierte una petición vaga en un prompt útil

El skill shap funciona mejor cuando tu prompt incluye el tipo de modelo, la tarea de predicción, el fragmento del dataset que quieres explicar y el objetivo del análisis. Por ejemplo, en lugar de decir “usa shap en mi modelo”, pide: una explicación SHAP para un clasificador binario, las variables más importantes para una predicción, un resumen global para el conjunto de validación y un gráfico waterfall para una fila concreta.

Proporciona los inputs que SHAP realmente necesita

Un uso sólido de shap suele depender de un dataset de referencia, una fila concreta de predicción o un conjunto de muestras, y el objeto de modelo exacto o la función de predicción. Si solo das el nombre del modelo y no aportas contexto de datos, el resultado será menos útil. Incluye nombres de variables, detalles de preprocesamiento, etiquetas de clase y cualquier restricción conocida, como valores ausentes o codificación de variables categóricas.

Lee el flujo en el orden correcto

Empieza por la visión general y las pautas de “cuándo usarlo”, y luego pasa al paso de selección del explainer y a los ejemplos de gráficos. Para tomar buenas decisiones, presta atención a cualquier instrucción que relacione el tipo de explainer con la familia de modelos, porque usar el explainer equivocado es la razón más común por la que los resultados de SHAP se vuelven lentos, ruidosos o engañosos.

Preguntas frecuentes sobre el skill shap

¿shap es mejor que un prompt normal?

Normalmente sí, si necesitas un flujo de explicabilidad repetible. Un prompt normal puede describir SHAP, pero el skill shap ofrece una guía más estructurada para elegir el explainer correcto, preparar los inputs y leer bien el resultado.

¿shap es apto para principiantes?

Es apto para principiantes en inspección básica, especialmente para importancia de variables y explicaciones de una sola predicción. Es menos apto para principiantes si quieres interpretar interacciones, comparar modelos o depurar problemas de preprocesamiento, porque esas tareas dependen de una buena preparación de los datos.

¿Cuándo no debería usar shap?

No uses shap cuando solo necesites una puntuación simple del modelo o una respuesta vaga de “por qué pasa esto” sin acceso al modelo y a los datos. Tampoco es la mejor opción si tu explicación tiene que ser extremadamente rápida a gran escala y no puedes asumir la sobrecarga de las explicaciones locales.

¿Qué debería comprobar antes de instalar shap?

Asegúrate de que tu entorno puede ejecutar el modelo que quieres explicar y de que tienes datos de referencia representativos. En shap para análisis de datos, el mayor bloqueo suele ser el contexto de entrada incompleto, no la librería en sí.

Cómo mejorar el skill shap

Dale el fragmento correcto del problema

Los mejores resultados de shap salen de peticiones acotadas y verificables: un modelo, una tarea, un fragmento de datos y un objetivo de explicación. Si pides “todos los gráficos SHAP”, normalmente obtendrás un resultado más débil que si solicitas un beeswarm para el ranking global más un gráfico waterfall para una predicción de alto riesgo.

Incluye los detalles que cambian la explicación

Menciona la familia del modelo, el tipo de objetivo, el preprocesamiento de variables y si quieres interpretación local o global. Estos detalles afectan a la elección del explainer y a cómo deben interpretarse los valores SHAP. Por ejemplo, los modelos basados en árboles y las redes neuronales suelen requerir decisiones de configuración distintas, y las variables codificadas pueden necesitar un mapeo a nombres comprensibles para humanos.

Vigila los fallos más comunes

Los principales fallos en el uso de shap son un background data desajustado, explicar variables transformadas sin volver a mapearlas, y usar el gráfico incorrecto para la pregunta. Si el primer resultado no encaja, revisa el prompt con el índice exacto de la fila, el nombre de la clase, el pipeline de preprocesamiento y la pregunta de negocio que quieres responder.

Itera de la explicación a la decisión

Después del primer resultado, pide el siguiente paso de interpretación: comparar dos muestras, revisar efectos de interacción o resumir en lenguaje claro los principales impulsores. Es la forma más rápida de convertir shap de una herramienta de visualización en un flujo práctico de análisis para depuración de modelos e informes a stakeholders.