X hits on this document

PDF document

BANCO DE LA REPÚBLICA - page 14 / 43

86 views

0 shares

0 downloads

0 comments

14 / 43

En la primera etapa se seleccionan las variables que conforman los conjuntos X t y

Zt ,como también, el número de unidades escondidas, Q . Existen diferentes estrategias que

pueden ser utilizadas para determinar el número de unidades ocultas y el conjunto de variables input, es decir, la especificación de la red neuronal. En este trabajo se sigue el esquema de Swanson y White (1995, 1997a), donde la determinación del conjunto de variables “input” parte la adopción de un estrategia step-wise en la componente lineal, de tal forma que, en cada paso, la variable adicionada sea considerada en el conjunto input si su inclusión mejora los criterios de

selección14. Una vez definido el conjunto de variables input de la componente lineal, X t ecuación

(9), se conforma el conjunto Zt , Zt X t . En primera instancia, el conjunto Zt incluye tan sólo la

primera variable del conjunto input, luego se adiciona a dicho conjunto la segunda variable input de tal forma que en el último paso Zt = X t . La estimación de la red se lleva a cabo considerando

cada uno de estos conjuntos Zt y diferente número de unidades ocultas, (Q) (Q = 1,L,Q* )15.

De

acuerdo

con

Gradojevic

y

Yang

(2000),

el

número

de

unidades

ocultas

Q

a

elegir

presenta una disyuntiva (trade-off). Demasiadas unidades pueden llevar a un sobre entrenamiento

  • o

    sobre ajuste lo cual evita que la red aprenda una solución general; muy pocas unidades ocultas

por otro lado, inhiben el aprendizaje del patrón entre el input y el output. De esta forma, se parte de un amplio número de modelos de redes neuronales, los cuales deben ser estimados y posteriormente evaluados, en lo concerniente a su desempeño muestral.

La segunda etapa o etapa de estimación se lleva a cabo a través de la metodología de

P mínimos cuadrados γ φ φ φ , , , , 1 0 L = Ψ 1 0

,

K γ ordinarios γ , , , 1 L L

no

lineales

Q 0

,

L,γ

Q K

β , 1

,

(NLS).

L, βQ )

Así,

de la

el vector

Ecuación

de

(9)

es

parámetros

estimado

mediante la minimización de la función S(Ψ) presentada en la Ecuación(11)16.

n

2

S(Ψ) =

[

( ; Ψ t t X F y

)]

(11)

t =1

14

15

Criterios tales como AIC y BIC. Donde Q * es el máximo número de unidades ocultas.

16 En este trabajo: (i) las variables son re-escaladas de tal forma que tengan media cero y desviación estándar unitaria y (ii) en la función objetivo del proceso de estimación, ecuación (1), se involucra un término de penalización (weight decay), de tal forma que, se evite la presencia de parámetros muy grandes, Franses

(2000). De tal forma que la nueva función objetivo es:

S(Θ) =

n

2

( ) [ ] + Θ t t r X F y ; φ

k

+ i r 2 φ β

Q

Q

k

+ j r 2 β γ

γ

2 ij

t =1

i=0

j =1

j=1 i=0

14

Document info
Document views86
Page views86
Page last viewedSun Dec 04 14:38:30 UTC 2016
Pages43
Paragraphs3606
Words13933

Comments