1,720,984 research outputs found
Exact MLE and asymptotic properties for nonparametric Semi-Markov models
International audienc
MLE for variants of Hidden Semi-Markov Models and algorithmic techniques
International audienc
Etude de l'estimation du Maximum de Vraisemblance dans des modèles Markoviens, Semi-Markoviens et Semi-Markoviens Cachés avec Applications
I give a summary of the basic contributions of this study. We construct the maximum likelihood estimator (MLE) of the stationnary distribution and of the asymptotic variance of the central limit theorem for additive functionals of ergodic Markov chains and we prove its strong consistency and its asymptotic normality. In the sequel, we consider a non-parametric semi-Markov model. We present the exact MLE of the semi-Markov kernel that governs the evolution of the semi-Markov chain (SMC) and we prove the strong consistency as well as the asymptotic normality of every finite subvector of this estimator by obtaining explicit forms for the asymptotic covariance matrices. The asymptotics were considered for one trajectory of a SMC as well as for a sequence of i.i.d. observations of a SMC censored at a fixed time. We introduce a general hidden semi-Markov model (HSMM) with backward recurrence time dependence. We prove asymptotic properties of the MLE that corresponds to this model. We also deduce explicit expressions for the asymptotic covariance matrices that appear in the CLT for the MLE of some basic characteristics of the SMC. Finally, we propose an improved version of the EM algorithm for HSMM and a stochastic version of this algorithm (SAEM), in order to find the MLE for non-parametric HSMMs. Numerical examples are presented for both algorithms.Dans ce travail je présente une étude unifiée basée sur l'estimation du maximum de vraisemblance pour des modèles markoviens, semi-markoviens et semi-markoviens cachés. Il s'agit d'une étude théorique des propriétés asymptotiques de l'EMV des modèles mentionnés ainsi que une étude algorithmique. D'abord, nous construisons l'estimateur du maximum de vraisemblance (EMV) de la loi stationnaire et de la variance asymptotique du théorème de la limite centrale (TLC) pour des fonctionnelles additives des chaînes de Markov ergodiques et nous démontrons sa convergence forte et sa normalité asymptotique. Ensuite, nous considérons un modèle semi-markovien non paramétrique. Nous présentons l'EMV exact du noyau semi-markovien qui gouverne l'évolution de la chaîne semi-markovienne (CSM) et démontrons la convergence forte, ainsi que la normalité asymptotique de chaque sous-vecteur fini de cet estimateur en obtenant des formes explicites pour les matrices de covariance asymptotiques. Ceci a été appliqué pour une observation de longue durée d'une seule trajectoire d'une CSM, ainsi que pour une suite des trajectoires i.i.d. d'une CSM censurée à un instant fixe. Nous introduisons un modèle semi-markovien caché (MSMC) général avec dépendance des temps de récurrence en arrière. Nous donnons des propriétés asymptotiques de l'EMV qui correspond à ce modèle. Nous déduisons également des expressions explicites pour les matrices de covariance asymptotiques qui apparaissent dans le TLC pour l'EMV des principales caractéristiques des CSM. Enfin, nous proposons une version améliorée de l'algorithme EM (Estimation-Maximisation) et une version stochastique de cet algorithme (SAEM) afin de trouver l'EMV pour les MSMC non paramétriques. Des exemples numériques sont présentés pour ces deux algorithmes
Maximum likelihood estimation for general hidden semi-Markov processes with backward recurrence time dependence
International audienc
Etude de l'estimation du Maximum de Vraisemblance dans des modèles Markoviens, Semi-Markoviens et Semi-Markoviens Cachés avec Applications
I give a summary of the basic contributions of this study. We construct the maximum likelihood estimator (MLE) of the stationnary distribution and of the asymptotic variance of the central limit theorem for additive functionals of ergodic Markov chains and we prove its strong consistency and its asymptotic normality. In the sequel, we consider a non-parametric semi-Markov model. We present the exact MLE of the semi-Markov kernel that governs the evolution of the semi-Markov chain (SMC) and we prove the strong consistency as well as the asymptotic normality of every finite subvector of this estimator by obtaining explicit forms for the asymptotic covariance matrices. The asymptotics were considered for one trajectory of a SMC as well as for a sequence of i.i.d. observations of a SMC censored at a fixed time. We introduce a general hidden semi-Markov model (HSMM) with backward recurrence time dependence. We prove asymptotic properties of the MLE that corresponds to this model. We also deduce explicit expressions for the asymptotic covariance matrices that appear in the CLT for the MLE of some basic characteristics of the SMC. Finally, we propose an improved version of the EM algorithm for HSMM and a stochastic version of this algorithm (SAEM), in order to find the MLE for non-parametric HSMMs. Numerical examples are presented for both algorithms.Dans ce travail je présente une étude unifiée basée sur l'estimation du maximum de vraisemblance pour des modèles markoviens, semi-markoviens et semi-markoviens cachés. Il s'agit d'une étude théorique des propriétés asymptotiques de l'EMV des modèles mentionnés ainsi que une étude algorithmique. D'abord, nous construisons l'estimateur du maximum de vraisemblance (EMV) de la loi stationnaire et de la variance asymptotique du théorème de la limite centrale (TLC) pour des fonctionnelles additives des chaînes de Markov ergodiques et nous démontrons sa convergence forte et sa normalité asymptotique. Ensuite, nous considérons un modèle semi-markovien non paramétrique. Nous présentons l'EMV exact du noyau semi-markovien qui gouverne l'évolution de la chaîne semi-markovienne (CSM) et démontrons la convergence forte, ainsi que la normalité asymptotique de chaque sous-vecteur fini de cet estimateur en obtenant des formes explicites pour les matrices de covariance asymptotiques. Ceci a été appliqué pour une observation de longue durée d'une seule trajectoire d'une CSM, ainsi que pour une suite des trajectoires i.i.d. d'une CSM censurée à un instant fixe. Nous introduisons un modèle semi-markovien caché (MSMC) général avec dépendance des temps de récurrence en arrière. Nous donnons des propriétés asymptotiques de l'EMV qui correspond à ce modèle. Nous déduisons également des expressions explicites pour les matrices de covariance asymptotiques qui apparaissent dans le TLC pour l'EMV des principales caractéristiques des CSM. Enfin, nous proposons une version améliorée de l'algorithme EM (Estimation-Maximisation) et une version stochastique de cet algorithme (SAEM) afin de trouver l'EMV pour les MSMC non paramétriques. Des exemples numériques sont présentés pour ces deux algorithmes
Estimation du maximum de vraisemblance pour les processus semi-markoviens cachés généraux dépendant de temps de récurrence en arrière
International audienc
Etude de l'estimation du maximum de vraisemblance dans des modèles markoviens, semi-markoviens et semi-markoviens cachés avec applications
COMPIEGNE-BU (601592101) / SudocSudocFranceF
Moment-Type Estimators for the Dirichlet and the Multivariate Gamma Distributions
This study presents new closed-form estimators for the Dirichlet and the
Multivariate Gamma distribution families, whose maximum likelihood estimator
cannot be explicitly derived. The methodology builds upon the score-adjusted
estimators for the Beta and Gamma distributions, extending their applicability
to the Dirichlet and Multivariate Gamma distributions. Expressions for the
asymptotic variance-covariance matrices are provided, demonstrating the
superior performance of score-adjusted estimators over the traditional moment
ones. Leveraging well-established connections between Dirichlet and
Multivariate Gamma distributions, a novel class of estimators for the latter is
introduced, referred to as "Dirichlet-based moment-type estimators". The
general asymptotic variance-covariance matrix form for this estimator class is
derived. To facilitate the application of these innovative estimators, an R
package called estimators is developed and made publicly available.Comment: 27 pages, 5 figure
Variance Estimation in the Central Limit Theorem for Markov chains
International audienceThis article concerns the variance estimation in the central limit theorem for finite recurrent Markov chains. The associated variance is calculated in terms of the transition matrix of the Markov chain. We prove the equivalence of different matrix forms representing this variance. The maximum likelihood estimator for this variance is constructed and it is proved that it is strongly consistent and asymptotically normal. The main part of our analysis consists in presenting closed matrix forms for this new variance. Additionally, we prove the asymptotic equivalence between the empirical and the MLE estimator for the stationary distribution
- …
