Phân tích và thiết kế thuật toán - Lecture 6, 7: The greedy algorithms

2/2/2017 1 Lecture 6,7 The Greedy algorithms Lecturer: Ha Dai Duong duonghd@mta.edu.vn Analysis and Design of Algorithms 2/2/2017 1 Nội dung 1. Lược đồ chung 2. Bài toán cái túi 3. Bài toán người du lịch 4. Đường đi ngắn nhất 5. Cây bao trùm nhỏ nhất 6. Bài toán tô màu 7. Bài toán các khoảng không giao nhau 2/2/2017 2 Nội dung 1. Lược đồ chung 2. Bài toán cái túi 3. Bài toán người du lịch 4. Đường đi ngắn nhất 5. Cây bao trùm nhỏ nhất 6. Bài toán tô màu 7. Bài toán các khoảng không giao nhau 2/2/2017 3 2/2/2017 2 Bài toán tối ưu • PP Tham lam thường dùng cho các bài toán tối ưu tổ hợp (tối ưu rời rạc) • Bài toán tối ưu tổ hợp có dạng chung min{f(x):xD} Trong đó D tập hữu hạn các điểm rời rạc nào đó thuộc không gian Rn 2/2/2017 4 Ví dụ  Máy ATM có 4 (m) loại tiền: 100.000, 50.000, 20.000, 10.000; một người muốn rút số tiền là n (n chia hết cho 10.000). Hãy tìm phương án trả tiền sao cho số tờ tiền phải trả là ít nhất.  Gọi x=(x1,x2,x3,x4) là một phương án trả tiền; x1, x2, x3, x4 là số tờ tiền phải trả tương ứng với các mệnh giá 100.000, 50.000, 20.000,10.000.  Theo bài ra ta cần giải: min(f=x1+x2+x3+x4) Với: điều kiện - 100.000x1+50.000x2+20.000x3+10.000x4 = n - xi>=0 (i=1..4) 2/2/2017 5 Giải quyết • Với bài toán tối ưu tổ hợp min{f(x):xD} • Để tìm phương án tối ưu của bài toán trên người ta có thể so sánh lần lượt giá trị của f tại tất cả các phương án thuộc D; cách này gọi là “duyệt vét cạn”. • Khi số phần tử của D lớn (dù là hữu hạn) thì việc duyệt vét cạn vẫn gặp nhiều khó khăn. 2/2/2017 6 2/2/2017 3 PP Tham lam • PP tham lam đưa ra quyết định dựa ngay vào thông tin đang có, và trong tương lai sẽ không xem xét lại tác động của các quyết định trong quá khứ. • Chính vì thế các thuật toán dạng này rất dễ đề xuất, và thông thường chúng không đòi hỏi nhiều thời gian tính. • Tuy nhiên, các thuật toán dạng này thường không cho kết quả tối ưu. 2/2/2017 7 Ý tưởng • Xuất phát từ lời giải rỗng, thuật toán xây dựng lời giải của bài toán theo từng bước, ở mỗi bước sẽ chọn một phần tử từ tập ứng cử viên và bổ sung vào lời giải hiện có. • Hàm Solution(S) nhận biết tính chấp nhận được của lời giải S. • Hàm Select(C) chọn từ tập C ứng cử viên có triển vọng nhất để bổ sung vào lời giải hiện có. • Hàm Feasible(S+x) kiểm tra tính chấp nhận được của lời giải bộ phận S+x. 2/2/2017 8 Lược đồ chung 2/2/2017 9 2/2/2017 4 Tính đúng đắn của kết quả • Để chỉ ra thuật toán không đúng đắn chỉ cần đưa ra một phản ví dụ (một bộ dữ liệu mà đối với nó thuật toán không cho lời giải đúng) • Chứng minh tính đúng đắn của thuật toán khó hơn nhiều 2/2/2017 10 Nội dung 1. Lược đồ chung 2. Bài toán cái túi 3. Bài toán người du lịch 4. Đường đi ngắn nhất 5. Cây bao trùm nhỏ nhất 6. Bài toán tô màu 7. Bài toán các khoảng không giao nhau 2/2/2017 11 Bài toán (Knapsack Problem) • Có n đồ vật, đồ vật i có trọng lượng wi và giá trị ci, i = 1, 2, ..., n. • Tìm cách chất các đồ vật này vào cái túi có trọng lượng là b sao cho tổng trọng lượng của các đồ vật được chất vào túi là không quá b, đồng thời tổng giá trị của chúng là lớn nhất. 2/2/2017 12 2/2/2017 5 Khái quát • Ký hiệu C = {1, 2, ..., n} tập chỉ số các đồ vật. • Bài toán đặt ra là Tìm I ⊂ C sao cho với 2/2/2017 13 V = Tham lam 1 (Greedy1) • Ý tưởng (tham lam): Đồ vật có giá trị lớn (nhất) còn lại được lấy trước (nếu có thể). • Chi tiết: – Sắp xếp các đồ vật theo thứ tự không tăng của giá trị. – Chọn đồ vật từ đầu đến cuối (từ có giá trị cao đến có giá trị thấp hơn) nếu dung lượng còn lại của túi đủ chứa nó. 2/2/2017 14 Ví dụ 1 • Số lượng đồ vật n = 3 • Trọng lượng và giá trị các đồ vật là: • Trọng lượng cái túi b = 19 2/2/2017 15 Greedy1 I={1} V = 20 Tối ưu I*={2,3} V* = 24 2/2/2017 6 Tham lam 2 (Greedy2) • Ý tưởng (tham lam): Đồ vật có trọng lượng nhỏ (nhất) còn lại được lấy trước (nếu có thể). • Chi tiết: – Sắp xếp các đồ vật theo thứ tự không giảm của trọng lượng. – Chọn đồ vật từ đầu đến cuối (từ có trọng lượng cao đến có trọng lượng thấp hơn) nếu dung lượng còn lại của túi đủ chứa nó. 2/2/2017 16 • Số lượng đồ vật n = 3 • Trọng lượng và giá trị các đồ vật là: • Trọng lượng cái túi b = 11 Ví dụ 2 2/2/2017 17 Greedy2 I={1,2} V = 26 Tối ưu I*={3} V* = 28 Tham lam 3 (Greedy3) • Ý tưởng (ít tham lam): Đồ vật có đơn giá lớn (nhất) còn lại được lấy trước (nếu có thể). • Chi tiết: – Sắp xếp các đồ vật theo thứ tự không tăng của giá trị một đơn vị trọng lượng (cI/wI), nghĩa là. – Chọn đồ vật từ đầu đến cuối ... 2/2/2017 18 2/2/2017 7 Ví dụ 3 • Trường hợp 1 (b=19) (V=24) • Trường hợp 2 (b=11) (V=28) 2/2/2017 19 Nội dung 1. Lược đồ chung 2. Bài toán cái túi 3. Bài toán người du lịch 4. Đường đi ngắn nhất 5. Cây bao trùm nhỏ nhất 6. Bài toán tô màu 7. Bài toán các khoảng không giao nhau 2/2/2017 20 Bài toán 2/2/2017 21 2/2/2017 8 • Ý tưởng (tham lam): Chọn thành phố gần nhất tình từ thành phố hiện thời. • Tổ chức dữ liệu: Đồ thị G = (V,E), V – tập đỉnh ( T), E – Tập các cạnh (C). Mô tả đồ thị dạng ma trận kề Ý tưởng 2/2/2017 22 Minh họa • TOUR: Danh sách cạnh của hành trình • COST: Chi phí theo hành trình TOUR • u: Đỉnh hiện tại • w: Kề với u có chi phí thấp nhất 2/2/2017 23 Xuất phát từ 1 Với bài toán Minh họa 2/2/2017 24 2 3 45 1 TOUR={} COST=0 2/2/2017 9 Minh họa 2/2/2017 25 2 3 45 1 TOUR={(1,2)} COST=1 Minh họa 2/2/2017 26 2 3 45 1 TOUR={(1,2), (2,5)} COST=1+3 Minh họa 2/2/2017 27 2 3 45 1 TOUR={(1,2), (2,5), (5,3)} COST=1+3+2 2/2/2017 10 Minh họa 2/2/2017 28 2 3 45 1 TOUR={(1,2), (2,5), (5,3), (3,4)} COST=1+3+2+1 Minh họa 2/2/2017 29 2 3 45 1 TOUR={(1,2), (2,5), (5,3), (3,4)} COST=1+3+2+1=7 Minh họa • Trở về đỉnh đầu 2/2/2017 30 2 3 45 1 TOUR={(1,2), (2,5), (5,3), (3,4), (4,1)} COST=1+3+2+1=7+7 2/2/2017 11 2/2/2017 31 2/2/2017 32 Độ phức tạp 2/2/2017 33 T(n) = O(n2) 2/2/2017 12 Nội dung 1. Lược đồ chung 2. Bài toán cái túi 3. Bài toán người du lịch 4. Đường đi ngắn nhất 5. Cây bao trùm nhỏ nhất 6. Bài toán tô màu 7. Bài toán các khoảng không giao nhau 2/2/2017 34 Bài toán • Đồ thị G=(V,E) – Đơn đồ thị liên thông (vô hướng hoặc có hướng) – Có trọng số. – V: Tập đỉnh – E: Tập cạnh • Tìm đường đi ngắn nhất từ s0V đến tất cả các đỉnh còn lại. 2/2/2017 35 Thuật toán Dijkstra • Ý tưởng (tham lam): Có đồ thị G=(V,E), s0. – L(v): độ dài đường đi ngắn nhất từ s0 đến đỉnh v (gọi là nhãn của v). – Gọi S là tập đỉnh đã xét. – Khởi tạo: S = {s0}, L(s0) =0, L(v)= vV\S – Tại mỗi bước lặp: • Cập nhập lại nhãn các đỉnh thuộc V\S (tập V trừ tập S) • Tìm đỉnh thuộc tập V\S có nhãn nhỏ nhất (tham lam) kề với S để đưa vào S. 2/2/2017 36 2/2/2017 13 Cập nhật nhãn L(v) • Khởi tạo: S = {s0}, L(s0) =0, L(v)= vV\S Với vV\S: Với sS: Trong đó m(s,v) là độ dài đường đi từ s với v • Vì chỉ có L(s*) với s* là đỉnh vừa duyệt xong ở bước trước là có thay đổi về giá trị nên việc tính lại L(v) chỉ có ý nghĩa với các đỉnh kề với s* Với vV\S kề với s*: 2/2/2017 37 L(v) = min(L(v),L(s)+m(s,v)) L(v) = min(L(v),L(s*)+m(s*,v)) Tìm đỉnh có nhãn nhỏ nhất s* • Đỉnh có nhãn nhỏ nhất s*: – Kề với 1 trong các đỉnh  S Và – L(s*) = min(L(v): vV\S) 2/2/2017 38 Minh họa 2/2/2017 39 s0=1 V={1,2,3,4,5,6} 2/2/2017 14 Khởi tạo 2/2/2017 40 s0=1 S={1} L(1)=0 L(2)= L(3)= L(4)= L(5)= L(6)= s*=1 V\S={2,3,4,5,6} 0      Cập nhật nhãn 2/2/2017 41 s0=1 S={1} L(1)=0 L(2)= L(3)= L(4)= L(5)= L(6)= s*=1 V\S={2,3,4,5,6} 0      L(v) = min(L(v),L(s*)+m(s*,v)) Cập nhật nhãn 2/2/2017 42 s0=1 S={1} L(1)=0 L(2)=20 L(3)= L(4)= L(5)= L(6)= s*=1 V\S={2,3,4,5,6} 0 20     L(v) = min(L(v),L(s*)+m(s*,v)) 2/2/2017 15 Cập nhật nhãn 2/2/2017 43 s0=1 S={1} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)= L(6)= s*=1 V\S={2,3,4,5,6} 0 20 15    L(v) = min(L(v),L(s*)+m(s*,v)) Cập nhật nhãn 2/2/2017 44 s0=1 S={1} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)=80 L(6)= s*=1 V\S={2,3,4,5,6} 0 20 15  80  L(v) = min(L(v),L(s*)+m(s*,v)) Đỉnh có nhãn nhỏ nhất s* 2/2/2017 45 s0=1 S={1} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)=80 L(6)= s*=1 V\S={2,3,4,5,6} 0 20 15  80  L(s*) = min(L(v): vV\S) 2/2/2017 16 Đỉnh có nhãn nhỏ nhất s* 2/2/2017 46 s0=1 S={1} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)=80 L(6)= s*=1 V\S={2,3,4,5,6} 0 20 15  80  L(s*) = min(L(v): vV\S) Tiếp 2/2/2017 47 s0=1 S={1,3} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)=80 L(6)= s*=3 V\S={2,4,5,6} 0 20 15  80  Cập nhật nhãn 2/2/2017 48 s0=1 S={1,3} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)=80 L(6)= s*=3 V\S={2,4,5,6} 0 20 15  80  L(v) = min(L(v),L(s*)+m(s*,v)) 2/2/2017 17 Cập nhật nhãn 2/2/2017 49 s0=1 S={1,3} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)=80 L(6)= s*=3 V\S={2,4,5,6} 0 19 15  80  L(v) = min(L(v),L(s*)+m(s*,v)) Cập nhật nhãn 2/2/2017 50 s0=1 S={1,3} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)=80 L(6)= s*=3 V\S={2,4,5,6} 0 19 15  80 25 L(v) = min(L(v),L(s*)+m(s*,v)) Tiếp tục 2/2/2017 51 s0=1 S={1,3} L(1)=0 L(2)=20 L(3)=15 L(4)= L(5)=80 L(6)= s*=3 V\S={2,4,5,6} 0 19 15  80 25 2/2/2017 18 Kết thúc 2/2/2017 52 s0=1 S={1,3,2,6,4,5} L(1)=0 L(2)=19 L(3)=15 L(4)=29 L(5)=29 L(6)=25 V\S={} 0 19 15 29 29 25 Kết quả 2/2/2017 53 Cài đặt • Biểu diễn G qua ma trận trọng số cạnh • Mảng L[i] nhãn đỉnh I • Mảng Daxet[i]: 0 i chưa xét, 1 i đã xét • Mảng Ddnn[i]: Giá trị của nó là đỉnh trước trong đường đi ngắn nhất đến i 2/2/2017 54 2/2/2017 19 Cài đặt 2/2/2017 55 2/2/2017 56 Cài đặt 2/2/2017 57 2/2/2017 20 Kết quả thuật toán • Thuật toán Dijkstra cho kết quả tối ưu • T(n) = O(n2) 2/2/2017 58 Bài tập 1. Thực hiện từng bước bài toán người du lịch theo giải thuật tham lam với các dữ liệu sau: Bắt đầu từ đỉnh 1, ma trân chi phí được mô tả như sau: 2/2/2017 59 Bài tập 2. Thực hiện từng bước thuật toán Dijstra bắt đầu từ đỉnh 2, 3, 4 trên đồ thị sau 2/2/2017 60 2/2/2017 21 Bài tập 3. Đề xuất giải thuật tham lam giải bài toán trả tiền máy ATM? 4. Cài đặt thuật toán người du lịch. Đánh giá độ phức tạp bằng thực nghiệm và so sánh với lý thuyết 5. Cài đặt thuật toán Dijkstra. Đánh giá độ phức tạp bằng thực nghiệm và so sánh với lý thuyết 2/2/2017 61