İKT316U-EKONOMETRİNİN TEMELLERİ
Ünite 3: Çoklu Doğrusal Regresyon Modeli
Çoklu Doğrusal Regresyon Modeli
Bir bağımlı ve bir bağımsız değişkenden oluşan modellere basit regresyon modeli, bir bağımlı ve birden çok bağımsız değişkenin oluşturduğu modellere ise çoklu regresyon modeli adı verilmektedir. Öte yandan değişkenler arasındaki ilişkilerin doğrusallığına göre, regresyon modelleri doğrusal (lineer) regresyon modeli ve doğrusal olmayan (nonlineer) regresyon modeli olarak sınıflandırılmaktadır. Eğer model, aralarında doğrusal ilişkiler bulunan bir bağımlı değişken ve birden çok bağımsız değişkenden oluşuyorsa bu tür modeller ise çoklu doğrusal regresyon modeli olarak adlandırılmaktadır.
Çoklu doğrusal regresyon için genel ekonometrik model şu şekilde ifade edilir:
Yi = β0 + β1X1i + β2X2i + … + βnXni + ui (3.1)
Eşitlikte Yi bağımlı değişkeni, Xi’ler ise her i gözlemi için 1’den n’e kadar olan bağımsız değişkenleri göstermektedir. Öte yandan β0 sabit terimi, βni’ler ise bağımsız değişkenlere ait katsayıları diğer bir adıyla kısmi regresyon katsayılarını temsil etmektedir. Kısmi regresyon katsayıları temel olarak bağımsız değişkenler ile bağımlı değişken arasındaki ilişkileri ortaya koyan katsayılardır. Modelin doğrusal model olarak adlandırılması da bir önceki bölümde bahsedildiği gibi yine bu β katsayılarının doğrusallığı ile ilgilidir. β katsayıları temel olarak bağımsız değişkenlerin bağımlı değişken üzerindeki etkisini gösterir ve katsayı doğrusal formda yorumlanır. Örneğin, eğer β1 katsayısı +5 olarak belirlenmişse bu X1i’in 1 birim değişmesi durumunda Yi’nin aynı yönde 5 birim değişeceğini söylemektedir. Öte yandan modelde yer alan ui ise yine hata terimini temsil etmektedir. Basit doğrusal regresyon modelinde olduğu gibi burada da hata terimi stokastik yani tesadüfi bir değişkendir.
Faiz oranları ile tasarruflar arasında teorik olarak doğru yönlü bir ilişki olduğu varsayılır. Çünkü faiz oranlarındaki artış tüketimin fırsat maliyetini artırmaktadır ve bireylerin tasarruflarını artırmalarına yol açmaktadır.
S = S0 + sY + br (3.2)
Eşitlikde yer alan S0 otonom tasarruflardır. Otonom tasarruflar harcanabilir gelirin ve faiz oranlarının sıfır olduğu durumda toplam tasarrufların alacağı değerdir. sY ise harcanabilir gelire bağlı olarak değişen tasarrufları belirtir. Bu ifade de yer alan s marjinal tasarruf eğilimini temsil eder ve bu katsayı gelirdeki artışın ne oranda tasarruflara ayrılacağını ifade eder. Öte yandan modelde yer alan r faiz oranlarını, faiz değişkenine ait katsayı olan b ise faiz oranlarındaki değişimin tasarruflar üzerindeki etkisinin ne yönde ve ne büyüklükte olacağını gösteren katsayıdır. Eşitlikte hem harcanabilir gelir hem de faiz oranlarına ait katsayıların pozitif işarete sahip olduğu görülmektedir. Buna göre tasarrufların, harcanabilir gelirin ve faiz oranlarının doğru yönlü bir fonksiyonu olduğunu söyleyebiliriz.
Değişkenler arasındaki ilişkilerin deterministik yani kesin olduğu anlaşılmaktadır. Oysa ki ekonometrik analizlerde söz konusu ilişkilerin stokastik olduğu bilinmektedir. Çünkü her tahmin bir hata payını içerir. Örneğin, biraz önce de bahsettiğimiz gibi döviz kurunu veya tasarrufları etkileyen herhangi bir faktörü model dışında bırakmış olabiliriz. Ancak bu faktörlerin de modelde temsil edilmesi gerekmektedir. Bu nedenle tüm bu faktörlerin etkisini temsil eden stokastik hata terimini modele dahil etmemiz gerekir. Bu durumda model değişkenler arasındaki kesin ilişkileri değil, değişkenler arasındaki ortalama ilişkileri temsil edecektir. Buna göre Eşitlik (3.2)’de genel ekonomik modelini çizdiğimiz tasarruf fonksiyonuna stokastik hata terimini dahil ederek tahmin edilecek ekonometrik modeli oluşturabiliriz.
Si = S0 + sYi + bri + ui (3.3)
Çoklu Doğrusal Regresyon Modelinin Varsayımları
Basit doğrusal regresyon modelinde hata terimlerinin sıfır ortalamaya sahip olduğu, sabit varyanslı olduğu, otokorelasyon içermediği, normal dağılım sergilediği ve bağımsız değişken ile hata terimi arasında bir ilişki olmadığı varsayılmaktadır. Bu varsayımlar çoklu doğrusal regresyon modeli için de geçerli olmakla birlikte bu varsayımlara bir ilave yapılması gerekmektedir.
Çoklu doğrusal regresyon modelinde basit doğrusal regresyon modelinden farklı olarak birden çok bağımsız değişken yer almaktadır. Buna göre çoklu doğrusal regresyon modelinde bağımsız değişkenlerin kendi aralarında da doğrusal bir ilişkinin olmadığı varsayılır. Bu durumda bağımsız değişkenler arasındaki doğrusal korelasyon katsayıları “0” veya “0”a yakın bir değerdir. Bu varsayımın ihlali ise “Çoklu doğrusal bağlantı” olarak adlandırılmaktadır. Kitabımızın ilerleyen bölümlerinde çoklu doğrusal bağlantı sorununun nedenlerine ve sonuçlarına dair detaylı bilgiler verileceğini belirttikten sonra, çoklu doğrusal regresyon modelinin temel varsayımlarını şu şekilde sıralayabiliriz:
• Hata terimleri sıfır ortalamaya sahiptir. • Hata terimleri sabit varyanslıdır. • Hata terimleri otokorelasyon içermemektedir. • Hata terimleri normal dağılıma sahiptir. • Bağımsız değişkenler ile hata terimi arasında bir ilişki yoktur. • Bağımsız değişkenlerin kendi aralarında kuvvetli ve tam bir ilişki yoktur.
Çoklu doğrusal bağlantı sorunu bağımsız değişkenler
arasındaki kuvvetli ve tam bir ilişkinin varlığını açıklar.
Bağımsız değişkenler arasındaki ilişkiler korelasyon katsayısı (r) ile gösterilir. Eğer değişkenler arasında tam bir ilişki söz konusu ise korelasyon katsayısı “1” değerini alır. Korelasyon katsayısının 1 değerini aldığı durumlarda değişkenler arasında tam çoklu doğrusal bağlantı söz konusudur ve bu durumda parametreler tahmin edilemez hâle gelir. Öte yandan değişkenler arasında hiçbir ilişki
söz konusu değilse korelasyon katsayısı “0” değerini almaktadır. Aralarında hiçbir ilişki bulunmayan değişkenlere ortogonal (dikey) değişkenler adı verilir. Bu durumda ise katsayıların tahminin de çoklu doğrusal bağlantıya dair bir sorun söz konusu değildir. Değişkenler arasındaki ilişkilerin ortogonal olduğu durumlarda çoklu regresyon modelinin yanı sıra katsayılar bireysel olarak basit regresyon modeliyle de tahmin edilebilir.
rxy = 1 → tam çoklu doğrusal ilişki rxy = 0 → ortogonal (dikey) ilişki
Çoklu Doğrusal Regresyon Modelinin Tahmini
Çoklu doğrusal regresyon modellerinde de katsayılar, basit regresyon modellerinde olduğu gibi en küçük kareler yöntemiyle tahmin edilebilmektedir. Biz de bu kısımda yine en küçük kareler yöntemini tahmin yöntemi olarak tercih edeceğiz.
En Küçük Kareler Tahmincisi
Burada iki bağımsız değişkenli bir çoklu doğrusal regresyon modelini ele alalım. Söz konusu model şu şekilde ifade edilir:
Yi = β0 + β1X1i + β2X2i + ui (3.4)
Modelde Yi bağımsız değişkeni, Xi’ler bağımsız değişkenleri, β0, sabit katsayıyı, β1 ve β2 kısmi regresyon katsayılarını, ui ise stokastik hata terimini ifade etmektedir. En küçük kareler yöntemi, bir önceki bölümde de bahsedildiği gibi hata kareleri toplamını minimum yapan β katsayılarının belirlenmesini amaçlamaktadır.
! 𝑢! = ! (𝑌 − 𝑌)!= ! (𝑌 − 𝛽 − 𝛽 𝑥 − !!! ! !!! ! ! !!! ! ! ! !! 𝛽 𝑥 )! = 𝑚𝑖𝑛 (3.5) ! !!
Bu amaçla Eşitlik (3.5)’in 𝛽! , 𝛽! ve 𝛽! ’ye göre kısmi türevleri alınıp sıfıra eşitlendiğinde normal denklemleri elde edilir. Normal denklemler 𝛽! , 𝛽! ve 𝛽! ’ye göre çözülerek hata terimlerinin karelerini minimum yapan 𝛽!, 𝛽! ve 𝛽! tahmincileri (formülleri) elde edilir.
Katsayı Tahminlerinin Yorumlanması
Çoklu doğrusal regresyon modellerinde kısmi regresyon katsayıları yorumlanırken, diğer bağımsız değişkenlerin bağımlı değişken üzerindeki etkileri sabit tutulur.
Çoklu Belirlilik Katsayısı (R2)
Çoklu doğrusal regresyon modellerinde, basit doğrusal regresyon modellerinden farklı olarak bağımlı değişken birden çok açıklayıcı değişken tarafından açıklanmaktadır. Çoklu belirlilik katsayısı da burada bağımlı değişkendeki değişimin yüzde kaçının bağımsız değişkenler tarafından açıklandığını göstermektedir. Bu katsayı 0 ila 1 arasında bir değer alır ve 1’e yaklaştıkça modelin açıklama gücünün arttığını ifade eder. Yüksek R2 değeri tahmin
edilen regresyon fonksiyonunun gerçek durumun iyi bir temsilcisi olduğunu yani uyum iyiliğinin yüksek olduğunu ifade eder. R2 değeri 0’a yaklaştıkça tahmin edilen
fonksiyonun uyum iyiliğinin de azaldığı anlaşılır. Belirlilik katsayısı şu şekilde hesaplanır:
! !!! ! 𝑅 = ! (3.7) !!!
! Eşitliğin payında yer alan 𝑌 − 𝑌 regresyona bağlı değişimi diğer bir ifadeyle açıklanan değişimi, paydasında ! yer alan 𝑌 − 𝑌 ise toplam değişimi temsil etmektedir.
Hipotez Testleri
Ekonometrik çalışmalarda, iktisadi teori temel alınarak oluşturulan ekonometrik modeller çeşitli yöntemlerle tahmin edilir ve tahmin parametreleri belirlenir. Ancak analizler sadece parametrelerin belirlenmesiyle son bulmaz. Tahmin edilen parametrelerin iktisadi ve istatistiksel olarak anlamlı olup olmadığının da belirlenmesi gerekir. Ekonometriyi kısaca iktisadi teori veya hipotezleri matematiksel araçlar ve istatistiksel yöntemlerle sınayan bilim dalı olarak tanımlamıştık. Dolayısıyla burada tahmin edilen parametrelerin geçerliliğini sınarken sonuçların hem iktisadi ölçütlere göre anlamlılığının hem de istatistiksel ve ekonometrik ölçütlere göre anlamlılığının sınanması gerekir. İktisadi ölçütlere göre katsayıların anlamlılığı sınanırken başvurulacak kaynak ise iktisat teorisidir. Buna göre tahmin edilen parametrelerin iktisadi teoriyle uyumu, araştırılması gereken ilk noktadır.
t-Testi
Basit doğrusal regresyon modellerinde olduğu gibi çoklu regresyon modellerinde de katsayıların bireysel olarak anlamlılığı t testi ile belirlenir. Burada da t testi ile tahmin parametrelerinin istatistiksel olarak sıfıra eşit olup olmadığı test edilir. Buna göre t testi için sıfır hipotezi şu şekilde kurulur:
H0: β = 0
Alternatif hipotez ise tek taraflı ve çift taraflı testlerde farklılık göstermektedir. Eğer test çift taraflı ise alternatif hipotez,
H1: β ≠ 0
şeklinde, eğer test tek taraflıysa alternatif hipotez,
H1: β > 0 (tahmin edilen β sıfırdan büyükse) H1: β < 0 (tahmin edilen β sıfırdan küçükse)
şeklinde oluşturulur.
Burada tahmin edilen parametrenin tahminin standart hatasına oranlanmasıyla t istatistiği değeri elde edilir. Bu değer küçük örneklemlerde (n < 30) t dağılım tablosundan, büyük örneklemlerde (n > 30) ise normal dağılım tablosunda elde edilen tablo kritik değeri ile karşılaştırılır. Örneğin, toplam gözlemlerin 30’un altında olduğunu varsayarsak bu durumda hesaplanan t istatistiği değeri α anlam düzeyi (genellikle 0.05) ve n-k serbestlik derecesi (n: gözlem sayısı, k: bağımsız değişken sayısı) referans alınarak t tablosundan elde edilen kritik değer ile
karşılaştırılır. Eğer t istatistiği mutlak olarak tablo kritik değerinden büyükse H0 hipotezi reddedilir.
F Testi
Çoklu doğrusal regresyon modellerinde katsayıların bireysel olarak anlamlılığı t testi ile belirlenirken, sabit katsayı dışındaki diğer katsayıların eş anlı olarak anlamlılığı F testi yardımıyla belirlenir. F testinde sıfır hipotezi katsayıların toplu olarak sıfıra eşit olduğunu ifade eder. H0: β1= β2 = … = βk = 0 Sıfır hipotezi bize 1’den k’ya kadar tüm bağımsız değişken parametrelerinin toplu olarak anlamsız olduğunu yani modelin bir bütün olarak anlamlı olmadığını söyler. Öte yandan F testinde alternatif hipotez şu şekilde ifade edilir: H1: β1 ≠ β2 ≠ … ≠ βk ≠ 0 Alternatif hipotez ise bağımsız değişken parametrelerinden en az birinin istatistiksel olarak sıfırdan farklı yani anlamlı olduğunu söylemektedir. F testi, t testinden farklı olarak yalnızca çift taraflı uygulanır. Burada da t testine benzer şekilde F test istatistiği belirlenerek F dağılım tablosundan elde edilen tablo değeriyle karşılaştırılır. F test istatistiği ise şu şekilde hesaplanır:
!! 𝐹 = !!! (3.15) !"#. !!!! !!!
F test istatistiği bağımsız değişkenler tarafından açıklanan değişimin, bağımsız değişkenler tarafından açıklanmayan değişime oranlanmasıyla hesaplanır. Hesaplanan bu değer, α anlamlılık düzeyi k-1 ve n-k serbestlik derecelerine göre F tablosundan elde eden tablo kritik değeri ile karşılaştırılır. Eğer hesaplanan F istatistiği, tablo kritik değerinden büyükse sıfır hipotezi reddedilir ve bağımsız değişkenlerden en az birinin istatistiksel olarak sıfırdan farklı olduğu sonucuna ulaşılır.
Fist. > Fα,k–1,n–k → H0 reddedilir.