Pregunta a la mayoría de las personas qué tan bueno es su modelo y te van a citar la precisión: con qué frecuencia ganó su apuesta principal. Para las apuestas, eso es casi inútil. Si respaldas al favorito cada semana, parecerás muy "preciso", pero las cuotas ya tienen en cuenta al favorito, así que no ganas nada. Lo que realmente paga es acertar la probabilidad, especialmente cuando la tuya difiere de la del mercado.
Eso es la calibración. Cuando dices 40%, ¿ocurre eso aproximadamente el 40% de las veces? Tres puntajes lo miden adecuadamente, y todos son reglas de puntuación "adecuadas", lo que significa que tu puntuación esperada es la mejor cuando reportas lo que genuinamente crees.
Puntaje de Brier (un evento sí/no) = (p - o)^2
Pronóstico del 70%, ocurre: (0.7 - 1)^2 = 0.09
Pronóstico del 70%, no ocurre: (0.7 - 0)^2 = 0.49
Decir siempre el 50%: 0.25 (la marca de "no saber nada")
Pérdida de registro = -ln(probabilidad que diste a lo que realmente ocurrió)
80% en el ganador: 0.22 8% en el ganador: 2.53
RPS (tres vías, ordenadas Local / Empate / Visitante)
= 1/2 x [ (pH - oH)^2 + (pH + pD - oH - oD)^2 ]
El puntaje de Brier, introducido por Glenn Brier en 1950, es el error cuadrático medio de tus probabilidades, y cuanto más bajo sea, mejor. La pérdida de registro es brutal con los errores de confianza alta. El Puntaje de Probabilidad por Rango respeta el hecho de que una victoria del local está "más cerca" de un empate que de una victoria del visitante, y Constantinou y Fenton argumentaron en 2012 que es la regla que evalúa adecuadamente los modelos de pronóstico de fútbol.
Toma un partido ilustrativo con tres pronosticadores: un modelo sensato (55/25/20), el mercado (45/28/27) y un modelo sobreconfiado (80/12/8).
| Resultado |
RPS Modelo |
RPS Mercado |
RPS Sobreconfiado |
Pérdida de registro sobreconfiado |
| Victoria local |
0.121 |
0.188 |
0.023 |
0.22 |
| Empate |
0.171 |
0.138 |
0.323 |
2.12 |
| Victoria visitante |
0.471 |
0.368 |
0.743 |
2.53 |
Números ilustrativos. Menor es mejor.
El pronosticador sobreconfiado parece un genio cuando el equipo local gana y recibe un castigo en los demás casos. La puntuación de precisión puntuaría de manera idéntica los pronósticos del 55% y del 80%. Solo los promedios sobre cientos de partidos revelan quién está calibrado, así que combina los puntajes con una tabla de calibración: clasifica tus pronósticos (0-10%, 10-20% y así sucesivamente) y verifica la tasa de aciertos en cada uno.
Por qué importa para la ganancia
Walsh y Joshi pusieron esto a prueba con datos de la NBA, entrenando modelos durante varias temporadas y realizando experimentos de apuestas en una temporada retenida con cuotas publicadas. Elegir modelos por calibración devolvió un promedio de +34.69%, en contra de -35.17% al elegirlos por precisión. Es baloncesto y una sola temporada de prueba, así que tómalos como un fuerte respaldo para el principio en lugar de una receta. Pero es un principio en el que construiríamos cada modelo: puntuar probabilidades, no apuestas.