Từ quan điểm thực tế, L1 có xu hướng thu nhỏ hệ số về 0 trong khi L2 có xu hướng thu nhỏ hệ số một cách đồng đều. Do đó, L1hữu ích cho việc lựa chọn đối tượng, vì chúng ta có thể loại bỏ bất kỳ biến nào được liên kết với các hệ số về 0. Mặt khác, L2 hữu ích khi bạn có các tính năng cộng tuyến / phụ thuộc mã.
Việc sử dụng chính quy hóa L1 và L2 là gì?
L1 chính quy cho kết quả đầu ra dưới dạng trọng số nhị phân từ 0 đến 1 cho các tính năng của mô hìnhvà được chấp nhận để giảm số lượng các tính năng trong một tập dữ liệu chiều lớn. Chính quy hóa L2 phân tán các điều khoản lỗi trong tất cả các trọng số dẫn đến các mô hình cuối cùng được tùy chỉnh chính xác hơn.
Sự khác biệt giữa chính quy hóa L1 và L2 là gì?
Sự khác biệt trực quan chính giữa chính quy hóa L1 và L2 làchính quy hóa L1 cố gắng ước tính mức trung bình của dữ liệu trong khi chính quy hóa L2 cố gắng ước tính giá trị trung bình của dữ liệu để tránh trang bị quá mức. … Giá trị đó cũng sẽ là giá trị trung bình của phân phối dữ liệu về mặt toán học.
Chính quy hóa L1 và L2 trong học sâu là gì?
L2 chính quy còn được gọi là phân rã trọng lượng vì nó buộc các trọng lượng phân rã về phía không (nhưng không chính xác bằng không). Trong L1, chúng ta có: Trong điều này,chúng ta phạt giá trị tuyệt đối của các trọng số. Không giống như L2, trọng số có thể được giảm xuống 0 ở đây. Do đó, nó rất hữu ích khi chúng ta cố gắng nénmô hình của chúng tôi.
Việc chính quy hóa L1 và L2 hoạt động như thế nào?
Mô hình hồi quy sử dụng kỹ thuật chính quy L1 được gọi là Hồi quy Lasso và mô hình sử dụng L2 được gọi là Hồi quy Ridge. Sự khác biệt chính giữa hai điều này là thời hạn phạt. Hồi quy Ridge thêm "độ lớn bình phương" của hệ số làm thuật ngữ phạt vào hàm tổn thất.
