Fernando Prieto
Gestión del Riesgo de Modelo (MRM)
Índice
1. Definición y fuentes del Riesgo de Modelo
2. Normativa sobre Riesgo de Modelo
3. Mejores Prácticas
4. Conclusiones
1. Definición y fuentes del Riesgo de Modelo
Ejemplos - London Whale (1/2)
Las operaciones del Chieff Investment Office de JP Morgan Chase generaron pérdidas de al menos USD 5.800 M reconocidas
en mayo de 2012. Las operaciones se realizaban en un mercado muy complejo y el modelo contenía errores en los cálculos…
En Enero JPMC cambia el modelo VaR para el CIO, reduciéndose a la mitad.
En Mayo se vuelve al modelo anterior. VaR diario llegó a superar los 100MUSD
Aumenta la inversión en
posiciones largas en IG
que financia el
incremento de posiciones
cortas en HY
Posición inicial corta en
High Yield. Los traders
invierten en posiciones
largas en Investment
Grade.
La responsable del CIO
(Ina Drew), suspende la
negociación y se crea
una task force para
revisar y tomar control
del libro
Febrero
Enero Marzo Junio
La exposición en las
posiciones largas sigue
aumentando
significativamente
J. Dimon (CEO) califica
la estrategia como:
“defectuosa, compleja,
mal revisada, mal
ejecutada y sin control.”
Se cierra la posición y
se reconocen pérdidas
acumuladas de 5,8bill.
100 M$
169 M$
718 M$
5.800 M$
Errores cometidos
London Whale
Existían varias fuentes
de errores operativos:
algunas hojas debían
ser completadas
manualmente, lo que
generaba errores en las
asignaciones de
precios
La hoja de cálculo del
VaR utilizaba la suma
de dos factores en lugar
de su promedio, que es
lo que pretendía el
modelador, silenciando
la volatilidad
1. Definición y fuentes del Riesgo de Modelo
Ejemplos - London Whale (2/2)
… los errores pusieron de manifiesto el escaso control interno y transparencia del departamento, la insuficiencia de
límites y el incumplimiento de las políticas de Riesgo de Modelo
Conocimiento del mercado de la posición
de JP en el momento en que se hizo pública
Falta de transparencia y escaso control
interno en el CIO
Escaso control sobre las métricas
utilizadas para la medición del riesgo,
ignorando las alertas que se generaron
Posibles causas
Existencia de deficiencias en el VCG (Valuation Control Group), en la
revisión de los modelos de riesgos y valoración, falta de
documentación, escasa importancia dedicada a los ajustes realizados
sobre la valoración, etc
London Whale
Incumplimiento de la Política de Riesgo de Modelo
El VaR se modificó en enero, de forma rápida y sin revisión
suficiente, posibilitando la reducción del riesgo. El modelo
anterior se volvió a implantar en mayo, debido a los errores del
anterior
Claves
•Toma de riesgos excesiva y deficientemente controlada
•Falta de entendimiento por la Alta Dirección de los riesgos inherentes
•Errores en el modelo y arbitraje “metodológico” para disminuir RWAs sin modificar la posición subyacente
1. Definición y fuentes del Riesgo de Modelo
Ejemplos – Cópulas gaussianas y mercado de CDOs
La fórmula, introducida por David X. Li, se basaba en calcular la probabilidad de default de los productos en función del valor de su
CDS
MBS y CDOs impagados
Miles
de
millones
de
$
Emisiones de 2005-2007 impagadas a Dic 09
Saldo vivo de CDOs
2000
2001
2002
2003
2004
2005
2006
2007
2008
2009
2010
2011
2012
2013
0
200,000
400,000
600,000
800,000
1,000,000
1,200,000
1,400,000
1,600,000
En la valoración de los CDOs únicamente podía utilizar los últimos 10
años, ya que es cuando existían datos de CDS, período que coincide con
una burbuja inmobiliaria. Como consecuencia las correlaciones de
incumplimiento eran muy bajas.
En el año 2000, David X. Li introdujo el uso de cópulas gaussianas para calcular la PD de derivados crediticios con subyacente
hipotecario. A pesar de ser una simplificación teórica, su uso se extendió. Muchos productos se valoraron como AAA a pesar de
tener alto riesgo de impago
Cópulas Gaussianas
Este sesgo en el modelo provocó que cuando bajó el precio de la
vivienda las correlaciones de incumplimiento aumentaran de manera
muy significativa y el valor de los CDOs se hundiera, impagándose un
gran porcentaje de los CDOs emitidos entre 2005 y 2007.
1. Definición y fuentes del Riesgo de Modelo
Ejemplos – Algorithmic trading
Al ejecutar una orden automática de trading, el 6 de mayo de 2010 se produjo un «flash crash» en la Bolsa de Nueva
York, que cayó más de 1.000 puntos y se recuperó al mismo valor en tan solo 15 minutos
Claves
• Limitaciones al modelo: En mercados estresados la ejecución automática de una importante operación de venta puede suponer movimientos
extremos en los precios (sobre todo si el algoritmo no tiene en cuenta el precio).
• Mitigación: hay que trabajar (por parte de la SEC y la FINRA) en la definición de un circuito que paralice la cotización de acciones si ocurren
diferentes signos (como por ejemplo, que su precio varíe en un 10% en 5 minutos).
2:40 La orden anterior absorbe toda la
liquidez del mercado al responder a
todas las órdenes de compra
2:32 Un gestor de fondos utilizando
un algoritmo pone a la venta 75.000
futuros sobre el S&P 500 (4.100 M$)
que suponen el 9% del volumen
1:00 La volatilidad en algunas
acciones aumenta. Se registran
caídas debido a la situación de Grecia
4:00 El índice se
recupera, perdiendo
finalmente cerca de un
3% sobre el valor de
apertura
2:46 El mercado
alcanza el mínimo,
perdiendo un 9%. La
cotización se paraliza
durante 5 segundos.
20,000 trades de + de
300 securities se
ejecutaron a precios
con variaciones
superiores al 60%
1
Cotización del Dow Jones Industrial el 6 de mayo de 2010
2
4
3
5
Algorithmic trading
La proliferación de modelos en las entidades ha comenzado por los ámbitos de Riesgos y Comercial, pero ya se
extiende a otros ámbitos, como Finanzas, Tecnología y Operaciones o RRHH
Comercial
Riesgos
Finanzas
Otros:
Tecnología,
RRHH
• Pricing de
productos
• Captación selectiva
• Vinculación
• Abandono
• Potencial-Recorrido
• Cross y up selling
• Reactivación
• Sensibilidad al
precio y rango de
negociación
• Geolocalización de
oficinas, ATMs y
fuerza de ventas
• Cesta óptima
• Best Time to Call
• Propensión al canal
• Next Best
Multichannel
Interaction
• Modelo de unidades
familiares
• Share of Wallet
Comercial
Finanzas / Riesgos
• Capital Regulatorio
• Capital Económico
• Modelos internos de
provisiones (IAS
39/IFRS 9)
• Stress test de balance y P&L (PPNR)
Riesgos
Riesgos / Comercial
• Mercado y ALM:
valoración, VaR,
SVaR, CVA, IRC,
MVE
• Sensibilidad de
márgenes
• Scoring de admisión
y seguimiento
• Rating
• Módulos cualitativos
• Modelos LDP
• Recovery scoring
• Parámetros IRB
(PD, LGD, CCF)
• Stress test
• Riesgo Operacional
(TSA, AMA)
• Prepagos
• Run-off
• Liquidez: LCR,
NSFR, Horizonte de
supervivencia
• Gap liquidez
• AML (KYC)
• Fraude
• Pricing
• RAR
• CLV
• Renta
Mapa de modelos
1. Definición y fuentes del Riesgo de Modelo
Alcance
El riesgo de modelo se origina como consecuencia de la incertidumbre en la estimación, por el uso inadecuado del
modelo o por la carencia o errores en los datos utilizados
Definición
(Comisión
Europea)
Definición
(FED)
“El Riesgo de Modelo se refiere a la pérdida potencial en la que una institución podría incurrir como consecuencia de
decisiones que podrían estar basadas principalmente en los resultados de modernos internos, debido a errores
en el desarrollo, implementación o el uso de dichos modelos”.
“Riesgo de Modelo es el conjunto de posibles consecuencias adversas derivadas de decisiones basadas en
resultados o informes incorrectos de un modelo, o de su uso inapropiado. Los errores en un modelo pueden
incluir simplificaciones, aproximaciones, hipótesis incorrectas o un proceso de diseño incorrecto; por su lado, el uso
inapropiado de los modelos se refiere a su aplicación fuera del ámbito para el cual fueron diseñados”.
Deficiencias en los datos
• Disponibilidad y Calidad de datos:
• Errores en los datos
• Ausencia de variables críticas
• Falta de profundidad histórica
• Errores en la carga de
información
• Errores de muestreo
• Tamaño de muestra
insuficiente
Incertidumbre del modelo
• Simplificaciones, aproximaciones,
supuestos erroneos, diseño erroneo
del modelo, limitaciones inherentes:
• Incertidumbre en las estimaciones
• Interdependencia entre modelos
• Uso de parametros no
observables
• Ausencia de consenso del
mercado
• Dificultades computacionales
• …
1 2
Uso
D
a
t
o
s
M
o
d
e
l
o
Uso o administración inapropiada del modelo
• Aplicación fuera del ámbito para el cual se diseñó
• No reestimar ni recalibrar los modelos por un tiempo
prolongado
3
1. Definición y fuentes del Riesgo de Modelo
Administración del Riesgo de Modelo
1. Definición y fuentes del Riesgo de Modelo
Otra perspectiva…
“Si torturas los datos por suficiente tiempo, confesarán lo que sea”
Ronald Coase
“Digamos que usted estuviese parado con un pie en un horno y el
otro pie sobre un cubo de hielo. De acuerdo al porcentaje de toda la
gente, usted debería estar perfectamente cómodo”
Bobby Bragan
De los más escépticos…
…a los que defienden el uso de
datos …
…y, hasta cierto punto, el uso de
modelos…
“Sólo me fío de las estadísticas que he manipulado”
Winston Churchill
“Todos los modelos son incorrectos, pero algunos son útiles”
George E. P. Box
“Confiamos en Dios. Los demás deben traer datos”
W. Edwards Deming
Índice
1. Definición y fuentes del Riesgo de Modelo
2. Normativa sobre Riesgo de Modelo
3. Mejores Prácticas
4. Conclusiones
2. Normativa sobre Riesgo de Modelo
Contexto Supervisor y Regulatorio
El contexto de regulación relacionado con MRM presenta diferencias entre países: madurez regulatoria en USA, regulación
indirecta e inespecífica en Europa (salvo en Polonia), escasa regulación en otras regiones
USA
Regulación madura. Cartas supervisoras emitidas por la Reserva
Federal que definen las principales características de un marco de
gestión de riesgo de modelo eficiente.
 SR 11-7 (abril de 2011), Supervisory Guidance on Model Risk
Management
 SR 15-18 (diciembre de 2015), Supervisory Assessment of
Capital Planning and Positions for LISCC Firms and Large and
Complex Firms
FRANCE
Regulación CAC
UK
Bank of England / PRA – Supervisory
letter on stress test model management
(Marzo de 2017)
POLAND
KNF - Recommendation W: guías específicas sobre la
gestión del riesgo de modelos incluyendo la necesidad de
un marco y principios para el desarrollo y la
monitorización y la validación de modelos
EUROPE
Sin regulación específica del ECB, pero el proceso supervisor
(TRIM, SREP, …) requiere a las entidades financieras tener un
plan de gestión del riesgo de modelo, sin exigencias estrictas ni
específicas.
Además, recientes inspecciones on-site (OSI) realizadas por el ECB
están también centradas en la práctica de la gestión de riesgo de
modelo.
• Supervisory Guidance on MRM (OCC/Fed): directrices generales de gestión del riesgo de
modelo mediante un framework que abarca desarrollo e implementación, uso, validación,
gobierno, políticas y control, y documentación de los modelos.
Normativa relevante sobre riesgo de modelo
2. Normativa sobre Riesgo de Modelo
Principales Normas
Actualmente existe poca normativa que regule el riesgo de modelo; los documentos más relevantes son la
Supervisory Guidance on MRM (OCC-Fed) y el Prudent Valuation (EBA)
¿Cuantificación detallada?
• Prudent valuation (EBA): ajustes explícitos a la valoración de derivados por riesgo de
modelo (model risk AVAs), enmarcados en la valoración prudencial.
• CCAR (Fed): recomendación de carácter general de la Fed en el ejercicio CCAR de EEUU de
disponer de un buffer de capital por todos los riesgos que el banco considere relevantes,
pero sin especificar el modo preciso.
• Basilea (BCBS): en BIS II se espera que el capital por Pilar II recoja “todos los riesgos
relevantes”; también se esperan ajustes por riesgo de modelo en la valoración de productos
complejos. En BIS III, el ratio de apalancamiento tiene por objetivo, entre otros, cubrir el
riesgo de modelo en el cálculo de los RWA.
• Guía PAC: las entidades deben dotar capital por cualquier riesgo relevante.
• CBE 03/08 y 04/11 (BdE): se exige que las entidades estudien realizar ajustes de valoración
por riesgo de modelo (por método incorrecto y por parámetros inobservables o incorrectos).
2. Normativa sobre Riesgo de Modelo
OCC – Fed
La Supervisory Guidance de la OCC-Fed (2011-12) se enfoca en la identificación de fuentes de riesgo de modelo y su
gestión a través de un marco, y no prescribe una organización concreta, sino una distinción de roles
Contenidos
Supervisory Guidance on Model Risk Management
1. Resumen
2. Lineamientos
o Desarrollo e implementación
o Uso del modelo
o Validación
o Gobierno, políticas y control
o Documentación
El Riesgo de Modelo debe ser mitigado a través de un marco coherente de Administración de Riesgo de Modelo (MRM) aprobado
por la junta directiva. OCC&Fed ha desarrollado un marco para el MRM que considera el ciclo de vida completo del modelo
• Errors in the fundamentals.
• Inappropriate or incorrect use.
Identification of model risk sources
1. Understanding the origin and the magnitude of
risk.
2. Consideration of the individual and aggregated
risk of each model.
3. Some tools to manage MR:
• Limitations in the usage.
• Monitoring the performance.
• Adjustments and revisions.
• Other analysis to complement the models’
results.
Model Risk Management (MRM)
• It is not possible to eliminate model risk.
• It is necessary the continuous
improvement of the models.
• The key principle is the effective
challenge: critical analysis done by
objective and qualified persons who can
identify the limitations and assumptions, as
well as to put proportion the appropriate
improvements. Therefore, the regulator
imposes some directives which will be
synthetized in the following.
Key observations
Supervisory Guidance on MRM
Governance,
policies and
control
Documentation
2. Normativa sobre Riesgo de Modelo
Regulación Relevante
Fed-OCC approach to model risk
Development
and
implementation
Usage
Validation
La OCC/Fed prescribe la elaboración de un framework de MRM que establezca los criterios para el control del desarrollo y la
implementación del modelo, el análisis de su uso prudente y su validación, además de la definición de políticas, gobierno,
controles y documentación detallada
Validación
Desarrollo e
implementación
Uso
• Finalidad del modelo
• Datos e información de calidad
• Procedimiento de testing
• Documentación en detalle
• Feedback de los usuarios
• Salidas del modelo para distintos
sets de entrada
• Uso prudente (buffer capital, stress..)
• Abuso de elementos conservadores
Gobierno, políticas
y control
• Framework desarrollado por la Alta Dirección y
aprobado por el Consejo
• Roles: ownership, control y compliance
• Inventario de modelos
• Recursos externos
• Detallada: funcionamiento,
limitaciones y asunciones clave
del modelo
• Garantizar doc. adecuada para
los modelos de terceros
Documentación
Directrices de OCC-Fed sobre riesgo de modelo (MR)
• Todos los modelos
• Todos los componentes (inputs, estimación, outputs,..)
• Proporcionada al uso, complejidad y materialidad
• Independencia
• Conocimientos y experiencia de los validadores
• Periodicidad mínima anual y ante cambios relevantes
2. Normativa sobre Riesgo de Modelo
OCC – Fed
No existe regulación europea específica sobre la gestión del riesgo de modelo, si bien en el proceso y las guías
supervisoras (TRIM, SREP, …) se requiere una adecuada gestión de dicho riesgo
 Las guías supervisoras(1)
especifican la necesidad de que las entidades implementen de un marco de gestión del riesgo de modelo
para todos los modelos, con una serie de requisitos a alto nivel, sin detallarlos específicamente:
“An institution should have a model risk management framework in place that allows it to identify, understand and manage its model risk
as it relates to internal models across the group. This framework should include the following: (a) A model inventory that allows a
holistic understanding of their application and usage. (b) Guidelines on identifying and mitigating the areas where measurement
uncertainty and model deficiencies are known. In particular the elements that relate to qualitative aspects of model risk (such as model
misuse or implementation error) should be considered. This methodology should be applied consistently to the internal models across the
group (e.g. within subsidiaries or regions). (c) Definitions of roles and responsibilities. (d) Definition of policies, measurement
procedures and reporting
“This document focuses on internal models, but institutions are expected to implement an effective model risk management
framework for all models”
 Adicionalmente, en relación con el contenido y proceso de validación interna, se detallan los análisis y test a realizar periódicamente
(back-testing, poder discriminante, análisis de representatividad, forzajes, estabilidad, cualitativo e input data, benchmark) así como otros
test a realizar en la validación inicial y en la validación de cambios materiales (réplica, challenge al diseño, supuestos y metodología, QA
del código)
(1) Guide for the Targeted Review of Internal Models (TRIM)
2. Normativa sobre Riesgo de Modelo
Normativa Europea y Recomendaciones ECB
El BCE está llevando a cabo inspecciones en diferentes entidades, poniendo de manifiesto recomendaciones
relativas al adecuado gobierno y gestión de los modelos
Validación
Interna
Auditoría Interna
Seguimiento de
modelos
Gobierno y
políticas
Inventario de
Modelos
• Debilidades en los órganos de decisión y comités relacionados con la aprobación de modelos: debilidades en comités, falta de
challenge, independencia de VI, apetito de riesgo de modelo, …
• Involucración insuficiente de la alta dirección en la supervisión del desempeño de los modelos.
• Documentación incompleta / imprecisa relacionada con modelos internos: réplica, implementación IT, uso de modelo, políticas de
cambio de modelos, …
• Debilidades en la calidad del inventario de modelos (integridad, calidad de la información relacionada con los modelos, criterios
de clasificación / tiering no claros)
• Deficiencias detectadas en el seguimiento de modelo: falta de implicación de los model owner, seguimiento del uso de los
modelos, supervisión de modelos desarrollados por terceros, falta de supervisión de los parámetros de IRB, falta de recursos, …
2. Normativa sobre Riesgo de Modelo
Normativa Europea y Recomendaciones ECB
• Debilidades en la función de validación interna: falta de recursos, debilidades en los estándares y criterios de validación interna,
análisis y pruebas de desempeño, …
• Ausencia de validación de modelos: backlog, frecuencia adecuada de validación para modelos regulatorios, …
• Deficiencias detectadas en la función de auditoría interna: falta de recursos con suficientes conocimientos técnicos, incapacidad
para identificar modelos débiles, debilidades en el proceso de escalado a la alta dirección, …
Índice
1. Definición y fuentes del Riesgo de Modelo
2. Normativa sobre Riesgo de Modelo
3. Mejores Prácticas
4. Conclusiones
3. Mejores Prácticas
Principales tendencias
Las entidades están focalizando sus esfuerzos tanto en la mejora del control del riesgo de modelo y el cumplimiento
normativo, como en la mayor agilidad y eficiencia
Alcance,
Organización y
Gobierno
Framework,
apetito,
políticas y
procedimientos
Mejora de
modelos,
agilidad y
eficiencia
Sistemas
Soporte
 Ampliación progresiva de alcance
 Ubicación en Riesgos, generalmente
junto a Validación Int.
 Funciones: gobierno, framework,
apetito, relación con el supervisor, ...
 Refuerzo de funciones: desarrollo,
seguimiento, validación, MRM, ...
 Reflexiones organizativas: model
owner 1st
LoD, Centro Excelencia,
sponsorship, ...
 Governance diferenciado para
aprobación y para MRM
 Involucración Alta Dirección / Board
 Comunicación y cultura
 Herramienta de MRM: inventario y
tiering, workflow, gestor documental y
reporting
 Integración con otras herramientas:
seguimiento de modelos, calidad de
datos de modelos, gestor de políticas,
alertas, limites, ...
 Desarrollo de framework y de apetito
(métricas relativas a workflow, findings,
performance, ...)
 Políticas y procedimientos con visión end
to end (planificación, desarrollo, validación
interna, aprobación, implantación, usos,
seguimiento, ...)
 Inventario y tiering: modelo vs. no modelo,
tiering (materialidad, relevancia de su uso,
complejidad / madurez), tiering pre y post
mitigación, ...
 Mejora de modelos existentes fruto del
desarrollo de MRM
 Racionalización y mejora del inventario de
modelos
 Mayor agilidad en los procesos relativos a la
gestión de los modelos (p.ej. aprobación o
implantación)
 Eficiencia: mejoras organizativas, procesos
menos “pesados”, reaprovechamiento de
modelos, ...
3. Mejores Prácticas
Desarrollo de modelos
Desarrollo de modelos: documentación, inventario y tiering
La categorización del modelo se lleva a cabo mediante un proceso subjetivo que incluye un análisis en tres dimensiones: complejidad, exposición y
dependencia (de la entidad respecto del modelo).
• La documentación requerida varía según el tier.
Para tier 1 y 2, debe completarse antes de la
validación del modelo y debería ser suficiente
para una revisión independiente.
• Aunque más exhaustiva en tier 1 y 2, debe
contener documentación de la metodología, plan
de pruebas realizado, guía de uso, documento de
calibración, y evaluación del riesgo operacional.
Documentación
• El inventario de modelos incluye información
sobre el tier, documentación, estado de
revisión, etc.
• Debe guardarse en un repositorio global de la
entidad.
Inventario
Baja
Media
Alta
Alta
Media
Baja
Baja Media Alta
E
x
p
o
s
i
c
i
ó
n
Dependencia
Complejidad
Tier
1
Tier
2
Tier
3
Criterios de clasificación de modelos (ejemplo ilustrativo)
El usuario (owner) del modelo debe proponer un tier que represente su riesgo para la entidad, aunque la decisión
última corresponde al MRO
3. Mejores Prácticas
Análisis benchmark: Alcance
Los bancos en el benchmark se dirigen a MRM de manera incremental, priorizando los modelos básicos y los
mercados domésticos, con escasas diferencias entre Estados Unidos y Europa
Grupo de modelo
País/ Unidad de
Negocio
Fase I:
Principales
Modelos
Fase II
Fase III
Principales mercados
Otros mercados
Fase I (principales modelos)
• Regulatorios (IRB, IFRS9, …)
• Riesgo de crédito
• Riesgo de Mercado y Contraparte
• ALM
• CCAR / ICAAP (estrés de pérdidas y PPNR)
• Pricers riesgo de mercado
Fase II
• Riesgo operacional
• Modelos macro, resto modelos de estrés
• Capital Económico
• RAROC y pricing
• AML
• Compliance y fraude
Fase III
• Comercial
• Marketing
• Recuperaciones
• Transfer pricing
• Pensiones
• Seguros
• Researchs, …
Fases manifiestas en:
1. Qué modelos están inventariados
y sujetos a las políticas de MRM
2. Qué países/unidades de negocio
se priorizan en términos de
impactos organizacionales (por
ejemplo, función de MRM, model
owner, …)
Índice
1. Definición y fuentes del Riesgo de Modelo
2. Normativa sobre Riesgo de Modelo
3. Mejores Prácticas
4. Conclusiones
4. Conclusiones
Claves y Principales Desafíos
Una función de gestión del riesgo de modelo eficiente se basa en una serie de pilares que deben ser seguidos para
asegurar así la implementación segura.
Fuerte Promoción: MRM requiere ser respaldado al más alto nivel a fin de asegurar que sus objetivos y
acciones se llevan a cabo
Marco de MRM: se necesita definir un marco que incluya el gobierno, la organización de las líneas de
defensa, politicas y procedimientos y la herramientas para la gestión y reporting
Gobierno MRM: comités específicos para MRM además de comités de aprobación de modelos
Plan estratégico de MRM: incluyendo un amplio Target Operating Model y una hoja de ruta
consensuada y concreta.
Independencia de las LoDs: clara distinción entre líneas de defensa (LoD1,LoD2,LoD3).
Herramienta de MRM: inventario de modelos, reporting, workflow y repositorio de documentación
Contacto con reguladores: para asegurar el cumplimiento de la regulación existente y a fin de anticipar
la nueva regulación
1
4
6
2
5
7
3
Pilares fundamentales
4. Conclusiones
Claves y Principales Desafíos
Lanzamiento de iniciativas para evolución de la función del Model Risk Management con el adecuado refuerzo de las
funciones
Evolución de
MRM
 Evolución de la gestión del riesgo de modelo: planes de acción plurianuales “MRM 2.0”, con sponsor de
máximo nivel, refuerzo de funciones e involucración de la Alta Dirección
Eficiencia
 Foco no sólo en el ámbito de control y de cumplimiento normativo sino también en la mejora de los
modelos y procesos / procedimientos (mayor agilidad y eficiencia)
Nuevos
Modelos
 Encaje de nuevas técnicas (machine learning) e infraestructuras (big data), considerando las posibles
restricciones del supervisor para usos regulatorios)
Metodología
 Nº óptimo de modelos (granularidad), prociclicidad (PIT vs TTC), integración de metodologías para distintos
parámetros (IRB, IFRS 9, stress, pricing…), ...
Ampliación de
Alcance
 Ampliación del alcance a modelos que no son de riesgos
Pilares fundamentales
4. Conclusiones
Ejemplo de Impacto Cuantitativo
• Para analizar el impacto, se parte de un modelo de scoring que no se actualiza durante 12 meses. Se aplica este
modelo sobre la cartera durante los 12 meses, de forma que el poder predictivo cae por las diferencias en la población
• La disminución del poder predictivo provoca que la morosidad aceptada por el modelo aumente
Región factible a los tres meses de la construcción
Región factible a los doce meses
Variación de la tasa de incumplimiento
Variación de morosidad
Interpretación de resultados
• Se observa un decaimiento del poder predictivo de
más de un 10% (8 puntos de ROC) a los 12 meses.
• Mantener el volumen de negocio captado por el
modelo original multiplica la tasa de incumplimiento
por 1,67.
Conclusiones
Como ejemplo, en el caso de riesgo de crédito, el riesgo de modelo que emana de su uso inadecuado puede tener un
impacto considerable sobre la morosidad
El resultado anterior aplicado, p.ej. al saldo hipotecario total en balance de algunas de las mayores EEFF globales podría
provocar impactos superiores a 5.000MM EUR.
Tasa de incumplimiento
2.7
8
%
3.2
5
%
4.6
4
%
3 meses 12 meses
Inicial
SANTANDER
+1,86%
5.022 millones de
euros
Coste de la mayor
morosidad
5.4
3
%
6.3
5
%
9.0
7
%
JPMORGAN CHASE
+3,64%
7.717 millones de
euros
3 meses 12 meses
Inicial
4,5
5
%
5,3
2
%
7,6
0
%
+3,06%
3 meses 12 meses
Inicial
BARCLAYS
4. Conclusiones
Ejemplo de Impacto Cuantitativo
5.795 millones de
euros
Conclusiones
Un ejemplo de cuantificación del riesgo de modelo es estimar el impacto de la obsolescencia de un modelo en la tasa
de incumplimiento y estimar como podría afectar a la morosidad de las principales entidades
“La parte más peligrosa (de un modelo) es cuando las
personas creen en todo lo que sale de él.“
David X. Li
𝑃𝑟 [𝑇 𝐴<1 ,𝑇 𝐵<1]=ϕ2 [ϕ− 1
( 𝐹 𝐴 (1)), ϕ− 1
( 𝐹 𝐵 (1)), 𝑌 ]
4. Conclusiones

Más contenido relacionado

PPT
Clase 2 - Riesgo de Mercado: Introduccion al VaR
PPT
Basilea Ale
PDF
Tesoreria en Tiempos de Crisis
PPTX
P-Auditoría en base a riesgos privado.pptx
PDF
Documento técnico 67 muestreo de la unidad monetaria (mum)
PDF
Documento tecnico-67-muestreo-de-la-unidad-monetaria-mum
PPTX
Cubrir riesgo cambiario y evaluar flujo de caja descontable
PPTX
Conferencia Daniel Sánchez Piñol: ¿Cómo administran los bancos el decalce de ...
Clase 2 - Riesgo de Mercado: Introduccion al VaR
Basilea Ale
Tesoreria en Tiempos de Crisis
P-Auditoría en base a riesgos privado.pptx
Documento técnico 67 muestreo de la unidad monetaria (mum)
Documento tecnico-67-muestreo-de-la-unidad-monetaria-mum
Cubrir riesgo cambiario y evaluar flujo de caja descontable
Conferencia Daniel Sánchez Piñol: ¿Cómo administran los bancos el decalce de ...

Similar a 04.-Fernando-Prieto-201711_Riesgo-de-Modelo_vf.pptx (20)

PPTX
Daniel Sánchez Piñol - ¿Bancos y descalce de plazos? (24-01-15)
PPTX
EFRON. VIII SEMANA CMMI 2013. Centro de Excelencia orientado a servicios inte...
PPTX
Seminario "Beneficios de la implementación de Lean Six Sigma"
PDF
6 sigma
PPTX
Cobit 5 presentacion
PDF
03_CreditScoring_CicloVidaModeloCrediticio.pdf
PPTX
Gestión de riesgos 2020.pptx
PDF
Estrategias para crear futuros modelos de negocios
PPTX
6 errores comunes en los modelos financieros
PDF
Retanalvarez
PPTX
Semana 1 y 2
PPTX
Mercado de dinero
PDF
Importancia de medir el riesgo operativo SEGUROS.pdf
PPT
Scrum y la Crisis Mundial
PPT
tecnicas de auditoria asistidas por computador
PDF
DOCX
Modelo VCS cuestionario
Daniel Sánchez Piñol - ¿Bancos y descalce de plazos? (24-01-15)
EFRON. VIII SEMANA CMMI 2013. Centro de Excelencia orientado a servicios inte...
Seminario "Beneficios de la implementación de Lean Six Sigma"
6 sigma
Cobit 5 presentacion
03_CreditScoring_CicloVidaModeloCrediticio.pdf
Gestión de riesgos 2020.pptx
Estrategias para crear futuros modelos de negocios
6 errores comunes en los modelos financieros
Retanalvarez
Semana 1 y 2
Mercado de dinero
Importancia de medir el riesgo operativo SEGUROS.pdf
Scrum y la Crisis Mundial
tecnicas de auditoria asistidas por computador
Modelo VCS cuestionario
Publicidad

Más de DefensoriaNacionalAm (20)

PDF
11.-Gloria-Lucia-Alvarez INVASIOn en ABRAES.pdf
PDF
13.-CAROLINA-MONTES-CORTES, Los Mat Peligrosos penal.pdf
PPTX
VIRUELA MONO_ 02-06-2022 FOLLETO MOPX.pptx
PDF
2. Plan nacional de rabia de Venezuela.pdf
PDF
59632474- Manual-de-Pesca-Sostenible.pdf
DOCX
208404977-DEFINICION-DEL-DERECHO-AGRARIO.docx
PPTX
371155018-Diapositivas-La-Constitucion-Bolivariana-de-Venezuela.pptx
PPT
225977354-15 peces ornamentales de venezuela.ppt
PPTX
VIRUELA SIMICA VERSION A - copia (1).pptx
PPTX
Presentación - sobre la Viruela Mpox.pptx
DOCX
511656944-Bolivar- Conservacionista.docx
PPTX
mesa_internacional_p11 impulso comp.pptx
PPTX
MSDS e-and-SDSinserviceFinalSpanish.pptx
PPTX
Manuel_Venegas riesgos en chile chile.pptx
PPTX
22012024-PTEP_2024-Presentacion_Aprobada-CIGD_28_dic_2024.pptx
PPSX
Presentacion prevencion de prevenir.ppsx
PPTX
BEATIFICACIÓN de José Gregorio Hernández.pptx
PPTX
Clase-de-6to-A-Frontera-y-Soberanía.pptx
PDF
manos-unidas-ong-campana-2024-folleto.pdf
PPT
Presentación Tema 1 Principios discapacidad NNA.ppt
11.-Gloria-Lucia-Alvarez INVASIOn en ABRAES.pdf
13.-CAROLINA-MONTES-CORTES, Los Mat Peligrosos penal.pdf
VIRUELA MONO_ 02-06-2022 FOLLETO MOPX.pptx
2. Plan nacional de rabia de Venezuela.pdf
59632474- Manual-de-Pesca-Sostenible.pdf
208404977-DEFINICION-DEL-DERECHO-AGRARIO.docx
371155018-Diapositivas-La-Constitucion-Bolivariana-de-Venezuela.pptx
225977354-15 peces ornamentales de venezuela.ppt
VIRUELA SIMICA VERSION A - copia (1).pptx
Presentación - sobre la Viruela Mpox.pptx
511656944-Bolivar- Conservacionista.docx
mesa_internacional_p11 impulso comp.pptx
MSDS e-and-SDSinserviceFinalSpanish.pptx
Manuel_Venegas riesgos en chile chile.pptx
22012024-PTEP_2024-Presentacion_Aprobada-CIGD_28_dic_2024.pptx
Presentacion prevencion de prevenir.ppsx
BEATIFICACIÓN de José Gregorio Hernández.pptx
Clase-de-6to-A-Frontera-y-Soberanía.pptx
manos-unidas-ong-campana-2024-folleto.pdf
Presentación Tema 1 Principios discapacidad NNA.ppt
Publicidad

Último (20)

PDF
U4SDASDASDSSSFSFSFSFSDEESDSDDFGGHGJS5.pdf
PDF
RAZA HOLSTEIN.pdf sobre que es y usus usosos
PPTX
IMPACTO AMBIENTAL MINAS MEDIO AMBIENTE MINERO
PPTX
VARIABLES BIOLOGICAS.pptxbjjhjhjhjhjhjhjhjhj
PPTX
Prevencion de incendios y Manejo de extintores.pptx
PPTX
TRABAJO PRÁCTICO FINAL sobre contaminación Río Arenalespptx
PDF
Blue and White Illustration Planet Earth
PPTX
BIODIVERSIDAD MEDIO AMBIENTE EN SALUD OPS
PPTX
TIROIDES Y PARATIROIDES ANATOMIA Y FISIO
PDF
CAMBIO CLIMÁTICO Y GESTIÓN DEL RIESGO.pdf
PPTX
INFLUENCIA DEL SOL EN LA TIERRA Y CARACTERISTICAS.pptx
DOCX
PLAN MICROCURRICULAR CIUDADANÍA (1) PRIMERO BGU.docx
PDF
5 PPT financiamiento para planes de negocios forestales.pdf
PPTX
SISTEMAS DE ALIMENTACIÓN DE AGUA EN CENTRALES DE-1.pptx
PPTX
administracion-ganadera .pptx
PPTX
Capacitación cahuapanas aliment manejo cerdos.pptx
PPTX
Excursión a montañas caminando senderos ecologicos
DOCX
Justicia indígena y derechos colectivos en Morona Santiago.docx
PPTX
PPTS1_DESPROYINV_PRES-XXXXXXXXXXXXXXXXXXXXXXXXXXX2025FGG-1.pptx
PDF
El impacto ambiental es el efecto o consecuencia que producen las actividades...
U4SDASDASDSSSFSFSFSFSDEESDSDDFGGHGJS5.pdf
RAZA HOLSTEIN.pdf sobre que es y usus usosos
IMPACTO AMBIENTAL MINAS MEDIO AMBIENTE MINERO
VARIABLES BIOLOGICAS.pptxbjjhjhjhjhjhjhjhjhj
Prevencion de incendios y Manejo de extintores.pptx
TRABAJO PRÁCTICO FINAL sobre contaminación Río Arenalespptx
Blue and White Illustration Planet Earth
BIODIVERSIDAD MEDIO AMBIENTE EN SALUD OPS
TIROIDES Y PARATIROIDES ANATOMIA Y FISIO
CAMBIO CLIMÁTICO Y GESTIÓN DEL RIESGO.pdf
INFLUENCIA DEL SOL EN LA TIERRA Y CARACTERISTICAS.pptx
PLAN MICROCURRICULAR CIUDADANÍA (1) PRIMERO BGU.docx
5 PPT financiamiento para planes de negocios forestales.pdf
SISTEMAS DE ALIMENTACIÓN DE AGUA EN CENTRALES DE-1.pptx
administracion-ganadera .pptx
Capacitación cahuapanas aliment manejo cerdos.pptx
Excursión a montañas caminando senderos ecologicos
Justicia indígena y derechos colectivos en Morona Santiago.docx
PPTS1_DESPROYINV_PRES-XXXXXXXXXXXXXXXXXXXXXXXXXXX2025FGG-1.pptx
El impacto ambiental es el efecto o consecuencia que producen las actividades...

04.-Fernando-Prieto-201711_Riesgo-de-Modelo_vf.pptx

  • 1. Fernando Prieto Gestión del Riesgo de Modelo (MRM)
  • 2. Índice 1. Definición y fuentes del Riesgo de Modelo 2. Normativa sobre Riesgo de Modelo 3. Mejores Prácticas 4. Conclusiones
  • 3. 1. Definición y fuentes del Riesgo de Modelo Ejemplos - London Whale (1/2) Las operaciones del Chieff Investment Office de JP Morgan Chase generaron pérdidas de al menos USD 5.800 M reconocidas en mayo de 2012. Las operaciones se realizaban en un mercado muy complejo y el modelo contenía errores en los cálculos… En Enero JPMC cambia el modelo VaR para el CIO, reduciéndose a la mitad. En Mayo se vuelve al modelo anterior. VaR diario llegó a superar los 100MUSD Aumenta la inversión en posiciones largas en IG que financia el incremento de posiciones cortas en HY Posición inicial corta en High Yield. Los traders invierten en posiciones largas en Investment Grade. La responsable del CIO (Ina Drew), suspende la negociación y se crea una task force para revisar y tomar control del libro Febrero Enero Marzo Junio La exposición en las posiciones largas sigue aumentando significativamente J. Dimon (CEO) califica la estrategia como: “defectuosa, compleja, mal revisada, mal ejecutada y sin control.” Se cierra la posición y se reconocen pérdidas acumuladas de 5,8bill. 100 M$ 169 M$ 718 M$ 5.800 M$ Errores cometidos London Whale Existían varias fuentes de errores operativos: algunas hojas debían ser completadas manualmente, lo que generaba errores en las asignaciones de precios La hoja de cálculo del VaR utilizaba la suma de dos factores en lugar de su promedio, que es lo que pretendía el modelador, silenciando la volatilidad
  • 4. 1. Definición y fuentes del Riesgo de Modelo Ejemplos - London Whale (2/2) … los errores pusieron de manifiesto el escaso control interno y transparencia del departamento, la insuficiencia de límites y el incumplimiento de las políticas de Riesgo de Modelo Conocimiento del mercado de la posición de JP en el momento en que se hizo pública Falta de transparencia y escaso control interno en el CIO Escaso control sobre las métricas utilizadas para la medición del riesgo, ignorando las alertas que se generaron Posibles causas Existencia de deficiencias en el VCG (Valuation Control Group), en la revisión de los modelos de riesgos y valoración, falta de documentación, escasa importancia dedicada a los ajustes realizados sobre la valoración, etc London Whale Incumplimiento de la Política de Riesgo de Modelo El VaR se modificó en enero, de forma rápida y sin revisión suficiente, posibilitando la reducción del riesgo. El modelo anterior se volvió a implantar en mayo, debido a los errores del anterior Claves •Toma de riesgos excesiva y deficientemente controlada •Falta de entendimiento por la Alta Dirección de los riesgos inherentes •Errores en el modelo y arbitraje “metodológico” para disminuir RWAs sin modificar la posición subyacente
  • 5. 1. Definición y fuentes del Riesgo de Modelo Ejemplos – Cópulas gaussianas y mercado de CDOs La fórmula, introducida por David X. Li, se basaba en calcular la probabilidad de default de los productos en función del valor de su CDS MBS y CDOs impagados Miles de millones de $ Emisiones de 2005-2007 impagadas a Dic 09 Saldo vivo de CDOs 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 0 200,000 400,000 600,000 800,000 1,000,000 1,200,000 1,400,000 1,600,000 En la valoración de los CDOs únicamente podía utilizar los últimos 10 años, ya que es cuando existían datos de CDS, período que coincide con una burbuja inmobiliaria. Como consecuencia las correlaciones de incumplimiento eran muy bajas. En el año 2000, David X. Li introdujo el uso de cópulas gaussianas para calcular la PD de derivados crediticios con subyacente hipotecario. A pesar de ser una simplificación teórica, su uso se extendió. Muchos productos se valoraron como AAA a pesar de tener alto riesgo de impago Cópulas Gaussianas Este sesgo en el modelo provocó que cuando bajó el precio de la vivienda las correlaciones de incumplimiento aumentaran de manera muy significativa y el valor de los CDOs se hundiera, impagándose un gran porcentaje de los CDOs emitidos entre 2005 y 2007.
  • 6. 1. Definición y fuentes del Riesgo de Modelo Ejemplos – Algorithmic trading Al ejecutar una orden automática de trading, el 6 de mayo de 2010 se produjo un «flash crash» en la Bolsa de Nueva York, que cayó más de 1.000 puntos y se recuperó al mismo valor en tan solo 15 minutos Claves • Limitaciones al modelo: En mercados estresados la ejecución automática de una importante operación de venta puede suponer movimientos extremos en los precios (sobre todo si el algoritmo no tiene en cuenta el precio). • Mitigación: hay que trabajar (por parte de la SEC y la FINRA) en la definición de un circuito que paralice la cotización de acciones si ocurren diferentes signos (como por ejemplo, que su precio varíe en un 10% en 5 minutos). 2:40 La orden anterior absorbe toda la liquidez del mercado al responder a todas las órdenes de compra 2:32 Un gestor de fondos utilizando un algoritmo pone a la venta 75.000 futuros sobre el S&P 500 (4.100 M$) que suponen el 9% del volumen 1:00 La volatilidad en algunas acciones aumenta. Se registran caídas debido a la situación de Grecia 4:00 El índice se recupera, perdiendo finalmente cerca de un 3% sobre el valor de apertura 2:46 El mercado alcanza el mínimo, perdiendo un 9%. La cotización se paraliza durante 5 segundos. 20,000 trades de + de 300 securities se ejecutaron a precios con variaciones superiores al 60% 1 Cotización del Dow Jones Industrial el 6 de mayo de 2010 2 4 3 5 Algorithmic trading
  • 7. La proliferación de modelos en las entidades ha comenzado por los ámbitos de Riesgos y Comercial, pero ya se extiende a otros ámbitos, como Finanzas, Tecnología y Operaciones o RRHH Comercial Riesgos Finanzas Otros: Tecnología, RRHH • Pricing de productos • Captación selectiva • Vinculación • Abandono • Potencial-Recorrido • Cross y up selling • Reactivación • Sensibilidad al precio y rango de negociación • Geolocalización de oficinas, ATMs y fuerza de ventas • Cesta óptima • Best Time to Call • Propensión al canal • Next Best Multichannel Interaction • Modelo de unidades familiares • Share of Wallet Comercial Finanzas / Riesgos • Capital Regulatorio • Capital Económico • Modelos internos de provisiones (IAS 39/IFRS 9) • Stress test de balance y P&L (PPNR) Riesgos Riesgos / Comercial • Mercado y ALM: valoración, VaR, SVaR, CVA, IRC, MVE • Sensibilidad de márgenes • Scoring de admisión y seguimiento • Rating • Módulos cualitativos • Modelos LDP • Recovery scoring • Parámetros IRB (PD, LGD, CCF) • Stress test • Riesgo Operacional (TSA, AMA) • Prepagos • Run-off • Liquidez: LCR, NSFR, Horizonte de supervivencia • Gap liquidez • AML (KYC) • Fraude • Pricing • RAR • CLV • Renta Mapa de modelos 1. Definición y fuentes del Riesgo de Modelo Alcance
  • 8. El riesgo de modelo se origina como consecuencia de la incertidumbre en la estimación, por el uso inadecuado del modelo o por la carencia o errores en los datos utilizados Definición (Comisión Europea) Definición (FED) “El Riesgo de Modelo se refiere a la pérdida potencial en la que una institución podría incurrir como consecuencia de decisiones que podrían estar basadas principalmente en los resultados de modernos internos, debido a errores en el desarrollo, implementación o el uso de dichos modelos”. “Riesgo de Modelo es el conjunto de posibles consecuencias adversas derivadas de decisiones basadas en resultados o informes incorrectos de un modelo, o de su uso inapropiado. Los errores en un modelo pueden incluir simplificaciones, aproximaciones, hipótesis incorrectas o un proceso de diseño incorrecto; por su lado, el uso inapropiado de los modelos se refiere a su aplicación fuera del ámbito para el cual fueron diseñados”. Deficiencias en los datos • Disponibilidad y Calidad de datos: • Errores en los datos • Ausencia de variables críticas • Falta de profundidad histórica • Errores en la carga de información • Errores de muestreo • Tamaño de muestra insuficiente Incertidumbre del modelo • Simplificaciones, aproximaciones, supuestos erroneos, diseño erroneo del modelo, limitaciones inherentes: • Incertidumbre en las estimaciones • Interdependencia entre modelos • Uso de parametros no observables • Ausencia de consenso del mercado • Dificultades computacionales • … 1 2 Uso D a t o s M o d e l o Uso o administración inapropiada del modelo • Aplicación fuera del ámbito para el cual se diseñó • No reestimar ni recalibrar los modelos por un tiempo prolongado 3 1. Definición y fuentes del Riesgo de Modelo Administración del Riesgo de Modelo
  • 9. 1. Definición y fuentes del Riesgo de Modelo Otra perspectiva… “Si torturas los datos por suficiente tiempo, confesarán lo que sea” Ronald Coase “Digamos que usted estuviese parado con un pie en un horno y el otro pie sobre un cubo de hielo. De acuerdo al porcentaje de toda la gente, usted debería estar perfectamente cómodo” Bobby Bragan De los más escépticos… …a los que defienden el uso de datos … …y, hasta cierto punto, el uso de modelos… “Sólo me fío de las estadísticas que he manipulado” Winston Churchill “Todos los modelos son incorrectos, pero algunos son útiles” George E. P. Box “Confiamos en Dios. Los demás deben traer datos” W. Edwards Deming
  • 10. Índice 1. Definición y fuentes del Riesgo de Modelo 2. Normativa sobre Riesgo de Modelo 3. Mejores Prácticas 4. Conclusiones
  • 11. 2. Normativa sobre Riesgo de Modelo Contexto Supervisor y Regulatorio El contexto de regulación relacionado con MRM presenta diferencias entre países: madurez regulatoria en USA, regulación indirecta e inespecífica en Europa (salvo en Polonia), escasa regulación en otras regiones USA Regulación madura. Cartas supervisoras emitidas por la Reserva Federal que definen las principales características de un marco de gestión de riesgo de modelo eficiente.  SR 11-7 (abril de 2011), Supervisory Guidance on Model Risk Management  SR 15-18 (diciembre de 2015), Supervisory Assessment of Capital Planning and Positions for LISCC Firms and Large and Complex Firms FRANCE Regulación CAC UK Bank of England / PRA – Supervisory letter on stress test model management (Marzo de 2017) POLAND KNF - Recommendation W: guías específicas sobre la gestión del riesgo de modelos incluyendo la necesidad de un marco y principios para el desarrollo y la monitorización y la validación de modelos EUROPE Sin regulación específica del ECB, pero el proceso supervisor (TRIM, SREP, …) requiere a las entidades financieras tener un plan de gestión del riesgo de modelo, sin exigencias estrictas ni específicas. Además, recientes inspecciones on-site (OSI) realizadas por el ECB están también centradas en la práctica de la gestión de riesgo de modelo.
  • 12. • Supervisory Guidance on MRM (OCC/Fed): directrices generales de gestión del riesgo de modelo mediante un framework que abarca desarrollo e implementación, uso, validación, gobierno, políticas y control, y documentación de los modelos. Normativa relevante sobre riesgo de modelo 2. Normativa sobre Riesgo de Modelo Principales Normas Actualmente existe poca normativa que regule el riesgo de modelo; los documentos más relevantes son la Supervisory Guidance on MRM (OCC-Fed) y el Prudent Valuation (EBA) ¿Cuantificación detallada? • Prudent valuation (EBA): ajustes explícitos a la valoración de derivados por riesgo de modelo (model risk AVAs), enmarcados en la valoración prudencial. • CCAR (Fed): recomendación de carácter general de la Fed en el ejercicio CCAR de EEUU de disponer de un buffer de capital por todos los riesgos que el banco considere relevantes, pero sin especificar el modo preciso. • Basilea (BCBS): en BIS II se espera que el capital por Pilar II recoja “todos los riesgos relevantes”; también se esperan ajustes por riesgo de modelo en la valoración de productos complejos. En BIS III, el ratio de apalancamiento tiene por objetivo, entre otros, cubrir el riesgo de modelo en el cálculo de los RWA. • Guía PAC: las entidades deben dotar capital por cualquier riesgo relevante. • CBE 03/08 y 04/11 (BdE): se exige que las entidades estudien realizar ajustes de valoración por riesgo de modelo (por método incorrecto y por parámetros inobservables o incorrectos).
  • 13. 2. Normativa sobre Riesgo de Modelo OCC – Fed La Supervisory Guidance de la OCC-Fed (2011-12) se enfoca en la identificación de fuentes de riesgo de modelo y su gestión a través de un marco, y no prescribe una organización concreta, sino una distinción de roles Contenidos Supervisory Guidance on Model Risk Management 1. Resumen 2. Lineamientos o Desarrollo e implementación o Uso del modelo o Validación o Gobierno, políticas y control o Documentación
  • 14. El Riesgo de Modelo debe ser mitigado a través de un marco coherente de Administración de Riesgo de Modelo (MRM) aprobado por la junta directiva. OCC&Fed ha desarrollado un marco para el MRM que considera el ciclo de vida completo del modelo • Errors in the fundamentals. • Inappropriate or incorrect use. Identification of model risk sources 1. Understanding the origin and the magnitude of risk. 2. Consideration of the individual and aggregated risk of each model. 3. Some tools to manage MR: • Limitations in the usage. • Monitoring the performance. • Adjustments and revisions. • Other analysis to complement the models’ results. Model Risk Management (MRM) • It is not possible to eliminate model risk. • It is necessary the continuous improvement of the models. • The key principle is the effective challenge: critical analysis done by objective and qualified persons who can identify the limitations and assumptions, as well as to put proportion the appropriate improvements. Therefore, the regulator imposes some directives which will be synthetized in the following. Key observations Supervisory Guidance on MRM Governance, policies and control Documentation 2. Normativa sobre Riesgo de Modelo Regulación Relevante Fed-OCC approach to model risk Development and implementation Usage Validation
  • 15. La OCC/Fed prescribe la elaboración de un framework de MRM que establezca los criterios para el control del desarrollo y la implementación del modelo, el análisis de su uso prudente y su validación, además de la definición de políticas, gobierno, controles y documentación detallada Validación Desarrollo e implementación Uso • Finalidad del modelo • Datos e información de calidad • Procedimiento de testing • Documentación en detalle • Feedback de los usuarios • Salidas del modelo para distintos sets de entrada • Uso prudente (buffer capital, stress..) • Abuso de elementos conservadores Gobierno, políticas y control • Framework desarrollado por la Alta Dirección y aprobado por el Consejo • Roles: ownership, control y compliance • Inventario de modelos • Recursos externos • Detallada: funcionamiento, limitaciones y asunciones clave del modelo • Garantizar doc. adecuada para los modelos de terceros Documentación Directrices de OCC-Fed sobre riesgo de modelo (MR) • Todos los modelos • Todos los componentes (inputs, estimación, outputs,..) • Proporcionada al uso, complejidad y materialidad • Independencia • Conocimientos y experiencia de los validadores • Periodicidad mínima anual y ante cambios relevantes 2. Normativa sobre Riesgo de Modelo OCC – Fed
  • 16. No existe regulación europea específica sobre la gestión del riesgo de modelo, si bien en el proceso y las guías supervisoras (TRIM, SREP, …) se requiere una adecuada gestión de dicho riesgo  Las guías supervisoras(1) especifican la necesidad de que las entidades implementen de un marco de gestión del riesgo de modelo para todos los modelos, con una serie de requisitos a alto nivel, sin detallarlos específicamente: “An institution should have a model risk management framework in place that allows it to identify, understand and manage its model risk as it relates to internal models across the group. This framework should include the following: (a) A model inventory that allows a holistic understanding of their application and usage. (b) Guidelines on identifying and mitigating the areas where measurement uncertainty and model deficiencies are known. In particular the elements that relate to qualitative aspects of model risk (such as model misuse or implementation error) should be considered. This methodology should be applied consistently to the internal models across the group (e.g. within subsidiaries or regions). (c) Definitions of roles and responsibilities. (d) Definition of policies, measurement procedures and reporting “This document focuses on internal models, but institutions are expected to implement an effective model risk management framework for all models”  Adicionalmente, en relación con el contenido y proceso de validación interna, se detallan los análisis y test a realizar periódicamente (back-testing, poder discriminante, análisis de representatividad, forzajes, estabilidad, cualitativo e input data, benchmark) así como otros test a realizar en la validación inicial y en la validación de cambios materiales (réplica, challenge al diseño, supuestos y metodología, QA del código) (1) Guide for the Targeted Review of Internal Models (TRIM) 2. Normativa sobre Riesgo de Modelo Normativa Europea y Recomendaciones ECB
  • 17. El BCE está llevando a cabo inspecciones en diferentes entidades, poniendo de manifiesto recomendaciones relativas al adecuado gobierno y gestión de los modelos Validación Interna Auditoría Interna Seguimiento de modelos Gobierno y políticas Inventario de Modelos • Debilidades en los órganos de decisión y comités relacionados con la aprobación de modelos: debilidades en comités, falta de challenge, independencia de VI, apetito de riesgo de modelo, … • Involucración insuficiente de la alta dirección en la supervisión del desempeño de los modelos. • Documentación incompleta / imprecisa relacionada con modelos internos: réplica, implementación IT, uso de modelo, políticas de cambio de modelos, … • Debilidades en la calidad del inventario de modelos (integridad, calidad de la información relacionada con los modelos, criterios de clasificación / tiering no claros) • Deficiencias detectadas en el seguimiento de modelo: falta de implicación de los model owner, seguimiento del uso de los modelos, supervisión de modelos desarrollados por terceros, falta de supervisión de los parámetros de IRB, falta de recursos, … 2. Normativa sobre Riesgo de Modelo Normativa Europea y Recomendaciones ECB • Debilidades en la función de validación interna: falta de recursos, debilidades en los estándares y criterios de validación interna, análisis y pruebas de desempeño, … • Ausencia de validación de modelos: backlog, frecuencia adecuada de validación para modelos regulatorios, … • Deficiencias detectadas en la función de auditoría interna: falta de recursos con suficientes conocimientos técnicos, incapacidad para identificar modelos débiles, debilidades en el proceso de escalado a la alta dirección, …
  • 18. Índice 1. Definición y fuentes del Riesgo de Modelo 2. Normativa sobre Riesgo de Modelo 3. Mejores Prácticas 4. Conclusiones
  • 19. 3. Mejores Prácticas Principales tendencias Las entidades están focalizando sus esfuerzos tanto en la mejora del control del riesgo de modelo y el cumplimiento normativo, como en la mayor agilidad y eficiencia Alcance, Organización y Gobierno Framework, apetito, políticas y procedimientos Mejora de modelos, agilidad y eficiencia Sistemas Soporte  Ampliación progresiva de alcance  Ubicación en Riesgos, generalmente junto a Validación Int.  Funciones: gobierno, framework, apetito, relación con el supervisor, ...  Refuerzo de funciones: desarrollo, seguimiento, validación, MRM, ...  Reflexiones organizativas: model owner 1st LoD, Centro Excelencia, sponsorship, ...  Governance diferenciado para aprobación y para MRM  Involucración Alta Dirección / Board  Comunicación y cultura  Herramienta de MRM: inventario y tiering, workflow, gestor documental y reporting  Integración con otras herramientas: seguimiento de modelos, calidad de datos de modelos, gestor de políticas, alertas, limites, ...  Desarrollo de framework y de apetito (métricas relativas a workflow, findings, performance, ...)  Políticas y procedimientos con visión end to end (planificación, desarrollo, validación interna, aprobación, implantación, usos, seguimiento, ...)  Inventario y tiering: modelo vs. no modelo, tiering (materialidad, relevancia de su uso, complejidad / madurez), tiering pre y post mitigación, ...  Mejora de modelos existentes fruto del desarrollo de MRM  Racionalización y mejora del inventario de modelos  Mayor agilidad en los procesos relativos a la gestión de los modelos (p.ej. aprobación o implantación)  Eficiencia: mejoras organizativas, procesos menos “pesados”, reaprovechamiento de modelos, ...
  • 20. 3. Mejores Prácticas Desarrollo de modelos Desarrollo de modelos: documentación, inventario y tiering La categorización del modelo se lleva a cabo mediante un proceso subjetivo que incluye un análisis en tres dimensiones: complejidad, exposición y dependencia (de la entidad respecto del modelo). • La documentación requerida varía según el tier. Para tier 1 y 2, debe completarse antes de la validación del modelo y debería ser suficiente para una revisión independiente. • Aunque más exhaustiva en tier 1 y 2, debe contener documentación de la metodología, plan de pruebas realizado, guía de uso, documento de calibración, y evaluación del riesgo operacional. Documentación • El inventario de modelos incluye información sobre el tier, documentación, estado de revisión, etc. • Debe guardarse en un repositorio global de la entidad. Inventario Baja Media Alta Alta Media Baja Baja Media Alta E x p o s i c i ó n Dependencia Complejidad Tier 1 Tier 2 Tier 3 Criterios de clasificación de modelos (ejemplo ilustrativo) El usuario (owner) del modelo debe proponer un tier que represente su riesgo para la entidad, aunque la decisión última corresponde al MRO
  • 21. 3. Mejores Prácticas Análisis benchmark: Alcance Los bancos en el benchmark se dirigen a MRM de manera incremental, priorizando los modelos básicos y los mercados domésticos, con escasas diferencias entre Estados Unidos y Europa Grupo de modelo País/ Unidad de Negocio Fase I: Principales Modelos Fase II Fase III Principales mercados Otros mercados Fase I (principales modelos) • Regulatorios (IRB, IFRS9, …) • Riesgo de crédito • Riesgo de Mercado y Contraparte • ALM • CCAR / ICAAP (estrés de pérdidas y PPNR) • Pricers riesgo de mercado Fase II • Riesgo operacional • Modelos macro, resto modelos de estrés • Capital Económico • RAROC y pricing • AML • Compliance y fraude Fase III • Comercial • Marketing • Recuperaciones • Transfer pricing • Pensiones • Seguros • Researchs, … Fases manifiestas en: 1. Qué modelos están inventariados y sujetos a las políticas de MRM 2. Qué países/unidades de negocio se priorizan en términos de impactos organizacionales (por ejemplo, función de MRM, model owner, …)
  • 22. Índice 1. Definición y fuentes del Riesgo de Modelo 2. Normativa sobre Riesgo de Modelo 3. Mejores Prácticas 4. Conclusiones
  • 23. 4. Conclusiones Claves y Principales Desafíos Una función de gestión del riesgo de modelo eficiente se basa en una serie de pilares que deben ser seguidos para asegurar así la implementación segura. Fuerte Promoción: MRM requiere ser respaldado al más alto nivel a fin de asegurar que sus objetivos y acciones se llevan a cabo Marco de MRM: se necesita definir un marco que incluya el gobierno, la organización de las líneas de defensa, politicas y procedimientos y la herramientas para la gestión y reporting Gobierno MRM: comités específicos para MRM además de comités de aprobación de modelos Plan estratégico de MRM: incluyendo un amplio Target Operating Model y una hoja de ruta consensuada y concreta. Independencia de las LoDs: clara distinción entre líneas de defensa (LoD1,LoD2,LoD3). Herramienta de MRM: inventario de modelos, reporting, workflow y repositorio de documentación Contacto con reguladores: para asegurar el cumplimiento de la regulación existente y a fin de anticipar la nueva regulación 1 4 6 2 5 7 3 Pilares fundamentales
  • 24. 4. Conclusiones Claves y Principales Desafíos Lanzamiento de iniciativas para evolución de la función del Model Risk Management con el adecuado refuerzo de las funciones Evolución de MRM  Evolución de la gestión del riesgo de modelo: planes de acción plurianuales “MRM 2.0”, con sponsor de máximo nivel, refuerzo de funciones e involucración de la Alta Dirección Eficiencia  Foco no sólo en el ámbito de control y de cumplimiento normativo sino también en la mejora de los modelos y procesos / procedimientos (mayor agilidad y eficiencia) Nuevos Modelos  Encaje de nuevas técnicas (machine learning) e infraestructuras (big data), considerando las posibles restricciones del supervisor para usos regulatorios) Metodología  Nº óptimo de modelos (granularidad), prociclicidad (PIT vs TTC), integración de metodologías para distintos parámetros (IRB, IFRS 9, stress, pricing…), ... Ampliación de Alcance  Ampliación del alcance a modelos que no son de riesgos Pilares fundamentales
  • 25. 4. Conclusiones Ejemplo de Impacto Cuantitativo • Para analizar el impacto, se parte de un modelo de scoring que no se actualiza durante 12 meses. Se aplica este modelo sobre la cartera durante los 12 meses, de forma que el poder predictivo cae por las diferencias en la población • La disminución del poder predictivo provoca que la morosidad aceptada por el modelo aumente Región factible a los tres meses de la construcción Región factible a los doce meses Variación de la tasa de incumplimiento Variación de morosidad Interpretación de resultados • Se observa un decaimiento del poder predictivo de más de un 10% (8 puntos de ROC) a los 12 meses. • Mantener el volumen de negocio captado por el modelo original multiplica la tasa de incumplimiento por 1,67. Conclusiones Como ejemplo, en el caso de riesgo de crédito, el riesgo de modelo que emana de su uso inadecuado puede tener un impacto considerable sobre la morosidad
  • 26. El resultado anterior aplicado, p.ej. al saldo hipotecario total en balance de algunas de las mayores EEFF globales podría provocar impactos superiores a 5.000MM EUR. Tasa de incumplimiento 2.7 8 % 3.2 5 % 4.6 4 % 3 meses 12 meses Inicial SANTANDER +1,86% 5.022 millones de euros Coste de la mayor morosidad 5.4 3 % 6.3 5 % 9.0 7 % JPMORGAN CHASE +3,64% 7.717 millones de euros 3 meses 12 meses Inicial 4,5 5 % 5,3 2 % 7,6 0 % +3,06% 3 meses 12 meses Inicial BARCLAYS 4. Conclusiones Ejemplo de Impacto Cuantitativo 5.795 millones de euros Conclusiones Un ejemplo de cuantificación del riesgo de modelo es estimar el impacto de la obsolescencia de un modelo en la tasa de incumplimiento y estimar como podría afectar a la morosidad de las principales entidades
  • 27. “La parte más peligrosa (de un modelo) es cuando las personas creen en todo lo que sale de él.“ David X. Li 𝑃𝑟 [𝑇 𝐴<1 ,𝑇 𝐵<1]=ϕ2 [ϕ− 1 ( 𝐹 𝐴 (1)), ϕ− 1 ( 𝐹 𝐵 (1)), 𝑌 ] 4. Conclusiones