Cadenas de Markov

¿Qué son las cadenas de Márkov y para qué se utilizan?

Reciben su nombre del matemático ruso Andréi Andréyevich Márkov (1856-1922), que las introdujo en 1907, quien fue muy reconocido por sus trabajos en la teoría de los números y la teoría de probabilidades.

Las cadenas de Márkov son una herramienta que se utiliza para analizar procesos estocásticos, en los que la probabilidad de que ocurra un evento depende del evento inmediatamente anterior en un tiempo determinado en torno a un conjunto de estados. Estos modelos muestran una estructura de dependencia simple, pero muy útil en muchas aplicaciones. De hecho, se dice que las cadenas de este tipo tienen memoria, ya que “recuerdan" el último evento y esto condiciona las posibilidades de ocurrencia de los eventos futuros.
De esta manera, una cadena de Markov representa un sistema que varía su estado a lo largo del tiempo, cada cambio corresponde a una transición del sistema. Estos cambios están sujetos a la probabilidad de ocurrencia de un estado en función de los anteriores. 

Una cadena de Markov se determina con los siguientes elementos:
·         Un conjunto de estados del sistema.
·         La definición de transición.
·    Una ley de probabilidad condicional, que defina la probabilidad del nuevo estado en función de los anteriores, con un estado inicial P0.

En la siguiente tabla se muestra la matriz de transición para las siguientes condiciones para cada estado Movistar, Tigo y Comcel:

  • Los individuos que están en Movistar tienen una probabilidad de 30% de quedarse en la misma operadora, una de 50% de cambiar a Tigo, y una de 20% para pasarse a Comcel.
  • Los individuos que están en Tigo tienen una probabilidad de 70% de quedarse en la misma operadora, una de 10% de cambiar a Movistar, y una de 20% para pasarse a Comcel.
  • Los individuos que están en Comcel  tienen una probabilidad de 50% de quedarse en la misma operadora, una de 30% de cambiar a Tigo, y una de 20% para pasarse a Movistar.


 

La suma horizontal de las probabilidades de cada estado debe ser igual a 1 (uno).
Ahora supongamos que la población que usa los diferentes operadores de telefonía celular en el estado inicial, está distribuida para Movistar un 30%, Tigo: 30% y Comcel: 40%.

Calculamos los valores de la distribución de la población al cabo de determinados períodos n, mediante la siguiente fórmula:









Hallamos los valores de la distribución para diferentes períodos hasta llegar al valor en estado estable.
A partir del valor en estado estable, si seguimos este proceso iterativo, los resultados serán aproximadamente los mismos, es decir, las probabilidades no cambian de período a período.


Los estados que pueden ocurrir, pueden ser de diferentes tipos, algunos son los siguientes:

  • Estado Absorbente: una vez el proceso entra en este estado, permanecerá allí indefinidamente, es decir, la probabilidad de hacer una transición fuera de ese estado es igual a 0 (cero).
  • Estado de transición: es el que no llega a ser absorbente, o sea, sus probabilidades cambian constantemente con respecto al periodo anterior.

 De una cadena de Markov que consta de estados transitorios y absorbentes se dice que es una Cadena de Markov Absorbente. Por otro lado, si en una cadena de Márkov existe alguna potencia positiva de la matriz de transición cuyas entradas sean todas estrictamente mayores que cero, se dice que es una cadena de Markov regular, primitiva o ergódica.

  •      Estado recurrente: es en el que comenzando en él se tenga la certeza de volver en algún momento del tiempo (una determinada cantidad de etapas) sobre si mismo. Si tenemos una Cadena de Markov que tiene una cantidad finita de estados e identificamos un estado recurrente, este será recurrente positivo. Si la cantidad de estados es infinito entonces un estado recurrente será recurrente nulo.
Para poder estudiar las cadenas de Markov absorbentes es preciso reordenar la matriz de transición de forma que las filas correspondientes a los estados absorbentes aparezcan en primer lugar. Así ordenada se dirá que la matriz de transición está en la forma canónica.











Ejemplo:
Una distribuidora de autopartes vende partes de vehículos de carga a distintas empresas en la ciudad, a las cuales se les da 3 meses para cancelar sus cuentas. Si estas no son pagadas durante este plazo la cuenta será cancelada y enviada a una agencia de cobranza y da por terminadas las transacciones con el cliente. Por esto, la distribuidora clasifica sus cuentas en nuevas, con 1 mes de retraso, 2 meses de retraso, 3 meses de retraso, pagadas e incobrables. La distribuidora estudió sus antiguos registros y llegó a la siguiente conclusión:

·         70% de las cuentas nuevas se pagan en un mes.
·         60% de las cuentas con un mes de retraso se liquidan al final del mes.
·         50% de las cuentas con dos meses de retraso se pagan a fin de mes.
·         60% de las cuentas con tres meses de retraso se pagan al final del mes.

De acuerdo con esto, se pide:
a. Matriz de transición.
      b. Determinar si la matriz es regular o absorbente.
      c. Probabilidad de que una cuenta nueva se liquide.
     dCuantos meses debería esperar la distribuidora para que un cliente promedio liquide su      cuenta.