Apa itu regresi linier?

Regresi linier adalah metode untuk menemukan hubungan linier antar variabel. Ini biasanya digunakan ketika mencoba menentukan nilai variabel berdasarkan nilai variabel lain. Variabel yang diketahui disebut variabel bebas atau penjelas, sedangkan variabel yang ingin diprediksi disebut variabel terikat atau respon.

Ada dua jenis utama regresi linier:

• Regresi linier sederhana: menggunakan satu variabel independen untuk mencoba memprediksi hasil dari variabel dependen
• Regresi linier berganda: menggunakan dua atau lebih variabel independen untuk mencoba memprediksi hasil dari variabel dependen

Saat melakukan regresi linier sederhana, Anda membuat asumsi tertentu tentang data yang tersedia. Mereka:

• Homogenitas varians: ukuran kesalahan yang diprediksi tidak berbeda secara signifikan di semua nilai variabel independen
• Independensi pengamatan: semua pengamatan dalam kumpulan data dikumpulkan melalui metode pengambilan sampel yang valid secara statistik, tanpa hubungan tersembunyi di antara keduanya
• Normalitas: ada distribusi data yang normal
• Hubungan linier antar variabel: regresi linier mengasumsikan ada hubungan linier antara variabel bebas dan variabel terikat, artinya garis yang melalui titik-titik data adalah lurus

Aplikasi untuk regresi linier

Regresi linier digunakan di berbagai bidang dan memiliki banyak kegunaan praktis. Ini terutama digunakan dalam dua cara:

• Jika tujuan penggunaannya adalah memprediksi evolusi variabel atau mengurangi margin kesalahan, biasanya digunakan untuk membandingkan model prediktif dengan kumpulan data yang diamati yang berisi nilai respons dan variabel penjelas. Jika, setelah membuat model, nilai variabel penjelas tambahan ditentukan tanpa nilai respons yang sesuai, model prediktif biasanya digunakan untuk membuat prediksi.
• Jika tujuan penggunaan regresi linier adalah untuk menunjukkan variasi dalam variabel respons yang mungkin disebabkan oleh variasi dalam variabel penjelas, maka dapat dianalisis untuk menentukan kekuatan hubungan antara variabel penjelas dan variabel respons. Ini sering digunakan sedemikian rupa untuk menentukan apakah beberapa variabel penjelas dan respons tidak memiliki hubungan linier satu sama lain.

Bidang yang paling banyak menggunakan regresi linier adalah:

• Statistik: berasal dari statistik dan digunakan dalam pemodelan statistik untuk menunjukkan hubungan antara variabel dependen dan independen dari berbagai kumpulan data
• Pembelajaran mesin: bidang yang relatif baru ini juga menggunakan regresi linier, terutama untuk pemodelan prediktif, dengan tujuan akhir membatasi margin kesalahan model sebanyak mungkin
• Keuangan: profesional keuangan menganalisis hubungan linier antara harga komoditas dan harga saham dalam bisnis yang menangani komoditas masing-masing
• Penjualan: profesional penjualan menganalisis hubungan antara variabel yang berbeda dalam upaya untuk memprediksi penjualan di masa depan

Persamaan regresi linier

Persamaan untuk regresi linier sederhana adalah:

Y = a + bX + u

Persamaan untuk regresi linier berganda adalah:

Y = a + b1 x 1 + b2 x 2 + b3 x 3 + … + b + u

Di mana:

Y = variabel dependen (atau respons)

X = variabel independen (atau penjelas)

b = kemiringan (atau kecuraman garis grafik)

a = mencegat (atau di mana garis memotong sumbu)

u = residual regresi (atau jarak vertikal antara titik data dan garis regresi)

Apa teknik regresi kuadrat terkecil?

Teknik regresi kuadrat terkecil adalah jenis analisis regresi yang bertujuan untuk menentukan garis yang paling cocok untuk suatu kumpulan data, yang mengacu pada garis yang melewati sebaran titik-titik data yang paling baik menunjukkan hubungan antara titik-titik tersebut. Ini biasanya digunakan dalam analisis regresi linier untuk menentukan persamaan geometrik untuk masing-masing garis. Analisis regresi sederhana menghasilkan garis lurus, sedangkan regresi dengan banyak variabel dapat menghasilkan garis lengkung.

Pencilan dalam regresi linier

Pencilan statistik adalah titik data yang berbeda secara signifikan dari pengamatan lainnya. Mereka mungkin disebabkan oleh variabilitas abnormal dalam kumpulan data, tetapi juga dapat menunjukkan bahwa kesalahan terjadi di suatu tempat dalam perhitungan. Mereka dapat secara signifikan mempengaruhi hasil, jadi menentukan asal mereka dengan benar sangat penting untuk akurasi regresi.

Dua cara utama untuk mendeteksi outlier ketika mengembangkan model regresi linier adalah:

• Jarak Mahalanobis: Ini terdiri dari pengukuran jarak antara titik yang dipilih (P) dan distribusi (D). Hal ini bertujuan untuk mengukur jarak antara P dan mean D, dihitung dalam jumlah standar deviasi.
• Leverage: Sering digunakan dalam analisis regresi, leverage adalah cara untuk mengukur jarak antara nilai variabel independen suatu observasi dan observasi lainnya.

Contoh regresi linier

Perhatikan contoh regresi linier sederhana ini:

Anda dapat menggunakan regresi linier untuk menentukan hubungan antara usia mobil tertentu dan proyeksi harga jualnya. Sebagai aturan umum, harga mobil secara bertahap menurun seiring bertambahnya usia, yang berarti ada hubungan negatif antara harga mobil (Y) dan usianya (X). Dengan menganalisis hubungan antara usia mobil dan harganya di tahun-tahun sebelumnya, kita dapat membuat model dan memprediksi bagaimana harga akan berubah di tahun-tahun mendatang.

Analisis regresi

Analisis regresi meliputi beberapa variasi, seperti linier, linier berganda, dan nonlinier. Model yang paling umum adalah linier sederhana dan linier berganda. Analisis regresi nonlinier biasanya digunakan untuk kumpulan data yang lebih rumit di mana variabel dependen dan independen menunjukkan hubungan nonlinier.

Analisis regresi menawarkan banyak aplikasi dalam berbagai disiplin ilmu, termasuk keuangan.

Analisis Regresi – Asumsi Model Linier

Analisis regresi linier didasarkan pada enam asumsi mendasar:

• Variabel dependen dan independen menunjukkan hubungan linier antara kemiringan dan intersep.
• Variabel bebas tidak acak.
• Nilai residual (kesalahan) adalah nol.
• Nilai residual (kesalahan) konstan di semua pengamatan.
• Nilai residual (kesalahan) tidak berkorelasi di semua pengamatan.
• Nilai residual (kesalahan) mengikuti distribusi normal.

Analisis Regresi – Regresi Linier Sederhana

Regresi linier sederhana adalah model yang menilai hubungan antara variabel dependen dan variabel independen. Model linier sederhana dinyatakan dengan menggunakan persamaan berikut:

Y = a + bX + e

Di mana:

• Y – Variabel terikat
• X – Variabel bebas (penjelas)
• a – mencegat
• b – Kemiringan
• e – Residu (kesalahan)

Analisis Regresi – Regresi Linier Berganda

Analisis regresi linier berganda pada dasarnya mirip dengan model linier sederhana, dengan pengecualian bahwa beberapa variabel independen digunakan dalam model. Representasi matematis dari regresi linier berganda adalah:

Y = a + bX1 + cX2 + dX3 + e

Di mana:

• Y – Variabel terikat
• X1, X2, X3 – Variabel bebas (penjelas)
• a – mencegat
• b, c, d – Lereng
• e – Residu (kesalahan)

Regresi linier berganda mengikuti kondisi yang sama dengan model linier sederhana. Namun, karena ada beberapa variabel independen dalam analisis linier berganda, ada kondisi wajib lain untuk model:

Non-kolinearitas: Variabel independen harus menunjukkan korelasi minimum satu sama lain. Jika variabel independen sangat berkorelasi satu sama lain, akan sulit untuk menilai hubungan yang benar antara variabel dependen dan independen.

Analisis regresi dalam keuangan

Analisis regresi hadir dengan beberapa aplikasi di bidang keuangan. Misalnya, metode statistik merupakan dasar Capital Asset Pricing Model (CAPM). Pada dasarnya, persamaan CAPM adalah model yang menentukan hubungan antara pengembalian yang diharapkan dari suatu aset dan premi risiko pasar.

Analisis ini juga digunakan untuk meramalkan pengembalian sekuritas, berdasarkan faktor yang berbeda, atau untuk meramalkan kinerja bisnis.

Beta dan CAPM

Di bidang keuangan, analisis regresi digunakan untuk menghitung Beta (volatilitas pengembalian relatif terhadap pasar secara keseluruhan) untuk suatu saham. Itu bisa dilakukan di Excel menggunakan fungsi Slope.

Peramalan pendapatan dan beban

Saat meramalkan laporan keuangan untuk sebuah perusahaan, mungkin berguna untuk melakukan analisis regresi berganda untuk menentukan bagaimana perubahan asumsi atau penggerak bisnis tertentu akan berdampak pada pendapatan atau pengeluaran di masa depan. Misalnya, mungkin ada korelasi yang sangat tinggi antara jumlah tenaga penjualan yang dipekerjakan oleh perusahaan, jumlah toko yang mereka operasikan, dan pendapatan yang dihasilkan bisnis.

Contoh di atas menunjukkan cara menggunakan fungsi Forecast di Excel untuk menghitung pendapatan perusahaan, berdasarkan jumlah iklan yang dijalankannya.

Alat regresi

Excel tetap menjadi alat yang populer untuk melakukan analisis regresi dasar di bidang keuangan, namun, ada banyak alat statistik yang lebih canggih yang dapat digunakan.

Python dan R adalah bahasa pengkodean yang kuat yang telah menjadi populer untuk semua jenis pemodelan keuangan, termasuk regresi. Teknik-teknik ini membentuk bagian inti dari ilmu data dan pembelajaran mesin di mana model dilatih untuk mendeteksi hubungan ini dalam data.