Regresi Linier Sederhana

Apabila dipunyai kumpulan data yang terdiri atas dua atau lebih variabel, maka dapat dipelajari bagaimana variabel-variabel tersebut berhubungan. Hubungan yang diperoleh umumnya dinyatakan dalam bentuk persamaan matematik yang menyatakan hubungan fungsional antara variabel. Analisis regresi bertujuan untuk  menjelaskan hubungan antara dua variabel. Selanjutnya tujuan dari penggunaan persamaan regresi adalah memperkirakan nilai dari suatu variabel jika diketahui nilai tertentu dari variabel lain. Dengan kata lain persamaan regresi digunakan untuk prediksi. Dalam analisis regresi, variabel dibedakan menjadi dua, yaitu variabel bebas (variabel prediktor) dan variabel takbebas (variabel respon) yang terjadi karena pengaruh variabel bebas. Dalam analisis regresi, variabel bebas akan dinyatakan dengan  X  sedangkan variabel takbebas dinyatakan dengan Y. Regresi sederhana sering disebut dengan regresi garis sederhana, dimana akan dilihat hubungan antara dua variabel yang biasanya cukup tepat dinyatakan dalam suatu garis lurus.

Hubungan fungsional antar variabel bebas dan takbebas dituliskan dalam bentuk persamaan matematik yang disebut dengan persamaan regresi yang ditulis

                                                            

dengan X merupakan variabel bebas dan Y variabel takbebasnya dinamakan regresi Y atas X.

Dengan menggunakan metode kuadrat terkecil, koefisien-koefisien regresi  dan  untuk regresi linier dapat dihitung dengan rumus

                     

Jika terlebih dahulu dihitung koefisien  , maka koefisien dapat pula ditentukan dengan rumus

                      

dengan dan  masing-masing adalah rata-rata untuk variabel X  dan Y.

Dalam regresi linier, koefisien b berarti perubahan rata-rata Y untuk setiap perubahan satu unit variabel X. Perubahan nilai Y bertambah apabila nilai b bertanda positif dan berkurang untuk tanda b negatif.