Tài liệu Chuẩn bị cho tương lai của trí tuệ nhân tạo

sách cho các tiểu bang để xem xét, với mục tiêu tạo ra một khuôn khổ quốc gia thống nhất cho việc thử nghiệm và hoạt động của các phương tiện tự động, đồng thời dành chỗ cho các tiểu bang thực hiện thử nghiệm; • Phân tích các công cụ pháp lý hiện hành mà NHTSA có thể sử dụng để hỗ trợ phát triển an toàn xe tự động, chẳng hạn như giải thích các quy định hiện hành cho phép sự linh hoạt phù hợp trong thiết kế, cung cấp những miễn trừ hạn chế cho phép thử nghiệm các thiết kế xe phi truyền thống, và đảm bảo rằng các phương tiện tự động không an toàn bị loại bỏ ra khỏi đường giao thông; và • Thảo luận các công cụ và các bộ máy quản lý mà cơ quan này có thể xem xét tìm kiếm trong tương lai để hỗ trợ cho việc triển khai an toàn và hiệu quả các công nghệ cứu sinh mới và đảm bảo rằng các công nghệ triển khai trên đường được an toàn. Bộ Giao thông dự định hướng dẫn và chính sách tiểu bang mẫu phải được cập nhật thường xuyên khi có dữ liệu mới và hoàn thành nghiên cứu. 21 5. NGHIÊN CỨU VÀ LỰC LƯỢNG LAO ĐỘNG Chính phủ cũng có vai trò quan trọng trong việc thúc đẩy lĩnh vực TTNT bằng cách đầu tư vào nghiên cứu và phát triển, đang phát triển lực lượng lao động có tay nghề cao và đa dạng, và quản lý các tác động kinh tế của các công nghệ này khi chúng phát triển. Kế hoạch chiến lược quốc gia nghiên cứu và phát triển trí tuệ nhân tạo riêng biệt đã được công bố. Ở đây thảo luận các vấn đề chính sách bổ sung liên quan đến nghiên cứu và phát triển lực lượng lao động. KẾ HOẠCH CHIẾN LƯỢC QUỐC GIA VỀ NGHIÊN CỨU VÀ PHÁT TRIỂN TRÍ TUỆ NHÂN TẠO Ngày 3 tháng 5 năm 2016, Chính phủ Mỹ tuyên bố thành lập một Tiểu ban về Máy học và trí tuệ nhân tạo thuộc NSTC, để giúp điều phối các hoạt động liên bang về TTNT. Tiểu ban này, vào ngày 15/6/2016, đã chỉ đạo Tiểu ban Nghiên cứu và Phát triển Mạng và Công nghệ thông tin (NITRD) để xây dựng Kế hoạch chiến lược quốc gia về nghiên cứu và phát triển trí tuệ nhân tạo. Sau đó Nhón chuyên trách về Trí tuệ nhân tạo thuộc NITRD đã được thành lập để xác định các ưu tiên chiến lược của Liên bang cho NC&PT TTNT, đặc biệt chú ý vào các lĩnh vực mà ngành công nghiệp không có khả năng giải quyết. Kế hoạch chiến lược quốc gia về NC&PT Trí tuệ nhân tạo này thiết lập một loạt các mục tiêu cho nghiên cứu TTNT do liên bang tài trợ, cả các nghiên cứu diễn ra trong chính phủ cũng như nghiên cứu được liên bang tài trợ diễn ra bên ngoài chính phủ, chẳng hạn như trong học viện. Mục tiêu cuối cùng của nghiên cứu này là để tạo ra tri thức và công nghệ mới về TTNT cung cấp hàng loạt lợi ích tích cực cho xã hội, đồng thời giảm thiểu các tác động tiêu cực. Để đạt được mục tiêu này, điều này Kế hoạch Chiến lược NC&PT TTNT xác định các ưu tiên sau đây cho nghiên cứu TTNT do liên bang tài trợ: Chiến lược 1: Đầu tư dài hạn cho nghiên cứu TTNT. Chiến lược 2: Phát triển các phương pháp hiệu quả cho hợp tác người-TTNT. Chiến lược 3: Hiểu rõ và giải quyết những tác động đạo đức, pháp luật và xã hội của TTNT. Chiến lược 4: Đảm bảo an toàn và an ninh của hệ thống TTNT. Chiến lược 5: Xây dựng các bộ dữ liệu công và môi trường chung cho đào tạo và thử nghiệm TTNT. Chiến lược 6: Đo lường và đánh giá công nghệ TTNT thông qua các tiêu chuẩn và định chuẩn. Chiến lược 7: Hiểu rõ hơn về các nhu cầu nguồn nhân lực NC&PT TTNT quốc gia. 22 5.1. Giám sát tiến bộ trong TTNT Với những tác động tiềm tàng của TTNT, xã hội sẽ được hưởng lợi từ những phương pháp chính xác và kịp thời để theo dõi và dự báo những phát triển của TTNT. Một số dự án đã cố gắng dự đoán những TTNT tương lai. Ủy ban về tương lai TTNT lâu dài năm 2009 và Hội nghị Tương lai của TTNT năm 2015 đã mời các chuyên gia TTNT để dự đoán tương lai trong lĩnh vực của họ. Ngoài ra, chương trình Một Trăm Năm nghiên cứu về trí tuệ nhân tạo của ĐH Stanford có kế hoạch tiến hành "một loạt các nghiên cứu định kỳ về cách TTNT sẽ ảnh hưởng đến tự động hóa, an ninh quốc gia, tâm lý, đạo đức, pháp luật, bảo mật, dân chủ, và các vấn đề khác." Nghiên cứu đầu tiên của loạt này đã được công bố trong tháng 9 năm 2016 Một dòng nghiên cứu hữu ích tiềm năng là khảo sát các phán đoán chuyên gia theo thời gian. Ví dụ như, một cuộc khảo sát của các nhà nghiên cứu TTNT thấy rằng 80 phần trăm số người được hỏi tin rằng cuối cùng sẽ đạt được TTNT phổ quát ở mức như người, và một nửa cho rằng ít nhất 50 phần trăm có khả năng đạt được vào năm 2040. Hầu hết người được hỏi cũng cho rằng TTNT phổ quát cuối cùng sẽ vượt qua con người về trí thông minh chung. Mặc dù những dự đoán cụ thể rất không chắc chắn, nhưng các cuộc điều tra phán đoán chuyên gia như vậy rất hữu ích, đặc biệt là khi chúng được lặp đi lặp lại thường xuyên, đủ để đo lường những thay đổi trong phán đoán theo thời gian. Một cách để luận ra những phán đoán thường xuyên là tiến hành các "vòng thi dự báo" như những thị trường dự đoán, trong đó những người tham gia được khuyến khích tài chính để đưa ra dự đoán chính xác. Một nghiên cứu khác đã phát hiện ra rằng những phát triển công nghệ thường có thể dự đoán chính xác bằng cách phân tích các xu hướng trong dữ liệu công bố khoa học và bằng sáng chế. Hiện nay, phần lớn các nghiên cứu cơ bản trong TTNT được tiến hành bởi các nhà khoa học và các phòng thí nghiệm thương mại thường xuyên công bố phát hiện của họ và xuất bản chúng trong các tài liệu nghiên cứu. Nếu sự cạnh tranh khiến các phòng thí nghiệm thương mại tăng cường tính bí mật, thì việc theo dõi tiến độ phát triển có thể trở nên khó khăn hơn, và sự quan tâm của công chúng quan tâm có thể tăng. Một dòng nghiên cứu đặc biệt có giá trị là xác định các mốc thời gian có thể đại diện hay báo trước những bước tiến lớn về các năng lực của TTNT. Khi được hỏi trong các hội thảo và hội nghị cộng đồng về chính phủ làm thế nào có thể nhận ra những dấu mốc tiến bộ quan trọng trong lĩnh vực này, đặc biệt là 23 những tiến bộ chỉ ra sự xuất hiện của TTNT phổ quát có thể đến gần, các nhà nghiên cứu có xu hướng đưa ra ba kiểu trả lời liên quan: 1. Thành công trong nhiệm vụ bao quát hơn, ít cấu trúc hơn: Theo quan điểm này, quá trình chuyển đổi từ TTNT Hẹp hiện nay đến TTNT phổ quát cuối cùng sẽ diễn ra bằng cách dần dần mở rộng khả năng của các hệ thống TTNT Hẹp sao cho một hệ thống đơn có thể bao trùm phạm vi rộng lớn hơn các nhiệm vụ ít cấu trúc hơn. Ví dụ một mốc quan trọng trong lĩnh vực này sẽ là một robot làm vệ sinh nhà cửa có khả năng như một người thực hiện đầy đủ các nhiệm vụ dọn dẹp nhà cửa thường xuyên. 2. Sự hợp nhất các "phong cách" khác nhau của các phương pháp TTNT: Theo quan điểm này, TTNT hiện dựa trên một tập hợp các phương pháp hoặc cách tiếp cận riêng biệt, mỗi phương pháp hữu ích cho các loại ứng dụng khác nhau. Con đường dẫn đến một TTNT phổ quát sẽ bao gồm sự thống nhất từng bước của các phương pháp này. Một dấu mốc của sự đột phá sẽ liên quan đến việc tìm ra một phương pháp duy nhất có khả năng giải quyết một miền lớn hơn các ứng dụng mà trước đây đòi hỏi nhiều phương pháp. 3. Giải quyết những thách thức kỹ thuật cụ thể, chẳng hạn như chuyển giao học tập: Theo quan điểm này, con đường dẫn đến TTNT phổ quát không nằm ở việc mở rộng dần các phạm vi, cũng như không phải trong sự thống nhất các phương pháp hiện có, mà ở sự tiến bộ trong giải quyết những thách thức lớn về kỹ thuật cụ thể, mở ra những cách thức mới tiến lên phía trước. Thách thức thường được trích dẫn nhiều nhất là chuyển giao học tập (transfer learning), trong đó có các mục tiêu tạo ra một thuật toán máy học có kết quả có thể được áp dụng rộng rãi (hoặc chuyển) vào một loạt các ứng dụng mới. Ví dụ, chuyển giao học tập có thể cho phép một mô hình được đào tạo để dịch Tiếng Anh sang Tiếng Tây Ban Nha, theo cách như vậy một mô hình kết quả có thể "chuyển giao" tri thức của mình cho các nhiệm vụ tương tự như dịch tiếng Trung sang tiếng Pháp, hoặc làm thơ bằng tiếng Nga, cho phép các nhiệm vụ mới được học nhiều hơn một cách nhanh chóng. 5.2. Hỗ trợ liên bang cho TTNT Trong năm 2015, đầu tư của Chính phủ Mỹ cho NC&PT công khai trong các công nghệ có liên quan đến TTNT là khoảng 1,1 tỷ USD, với ước tính sơ bộ cho thấy có thể tăng lên 1,2 tỷ USD năm 2016. Trong suốt các cuộc hội thảo và cuộc các cận cộng đồng về TTNT do OSTP tổ chức, các quan chức chính phủ đã nhận được lời kêu gọi chính phủ đầu tư nhiều hơn cho nghiên cứu và phát 24 triển TTNT, từ các nhà lãnh đạo kinh doanh, các nhà công nghệ, và các nhà kinh tế. Các nhà nghiên cứu hàng đầu về TTNT tỏ ra lạc quan về việc duy trì sự tiến bộ nhanh chóng gần đây trong TTNT và ứng dụng của nó vào phạm vi ứng dụng rộng lớn hơn bao giờ hết. Đồng thời họ nhấn mạnh rằng có rất nhiều vấn đề sâu chưa có câu trả lời, và không có con đường rõ ràng hướng tới TTNT phổ quát. Các nhà nghiên cứu báo cáo rằng sự nhiệt tình và đầu tư vào nghiên cứu TTNT đã thăng trầm trong nhiều thập kỷ qua - một giai đoạn thấp đã được biết đến là "mùa đông TTNT" - và họ nhấn mạnh tầm quan trọng của sự đầu tư chắc chắn dựa trên lịch sử của những tiến bộ lớn trong khoa học máy tính lớn cần 15 năm hoặc hơn để chuyển từ kết quả phôi thai trong phòng thí nghiệm thành công nghệ chín muồi trong công nghiệp. Một trường hợp có thể ủng hộ mạnh mẽ lợi ích của việc gia tăng tài trợ liên bang cho nghiên cứu trong TTNT. Phân tích của Hội đồng cố vấn kinh tế (CEA) chỉ ra rằng ngoài TTNT, xuyên suốt tất cả các lĩnh vực nghiên cứu, việc tăng gấp đôi hoặc gấp ba lần đầu tư nghiên cứu sẽ mang lại lợi ích cho quốc gia nhờ sự gia tăng trong tăng trưởng kinh tế. Mặc dù có thể không khả thi về tài chính để tăng kinh phí cho tất cả các nghiên cứu mức đó, nhưng một sự gia tăng có mục tiêu trong các khu vực có giá trị kinh tế và chiến lược cao có thể cung cấp nhiều lợi ích với tác động ngân sách nhỏ hơn nhiều so với mức tăng đồng loạt. TTNT được cho là một khu vực có tính đòn bẩy cao, và các cơ quan nghiên cứu báo cáo rằng cộng đồng nghiên cứu TTNT có thể hấp thụ hiệu quả một sự gia tăng đầu tư đáng kể, dẫn đến tiến bộ nhanh về TTNT và số lượng lớn cán bộ được đào tạo để thực hành TTNT. Trong một bài phát biểu tại một hội thảo TTNT ở thành phố New York trong tháng 7/2016, Chủ tịch CEA Jason Furman nói, "Chúng ta đã có đổi mới sáng tạo đáng kể về robot, TTNT và các khu vực khác trong thập kỷ qua. Nhưng chúng ta sẽ cần một tốc độ đổi mới nhanh hơn nhiều trong các lĩnh vực này để thực sự thúc đẩy gia tăng năng suất tiến lên phía trước," lưu ý rằng những lo lắng lớn nhất mà ông có về TTNT là "chúng ta không có đủ [TTNT]." Để chắc chắn, khu vực tư nhân sẽ là động lực chính của sự tiến bộ về TTNT. Nhưng như hiện tại, sự thiếu đầu tư vào nghiên cứu cơ bản - nghiên cứu với những tầm nhìn lâu dài được tiến hành với mục đích duy nhất là thúc đẩy hơn nữa các nần tảng kiến thức khoa học - một phần bởi công ty tư nhân khó có thể thu được lợi nhuận từ việc đầu tư vào nghiên cứu như vậy trong một khung 25 thời gian hợp lý. Nghiên cứu cơ bản mang tại lợi ích cho tất cả mọi người, nhưng chỉ có công ty làm nghiên cứu chi trả các chi phí. Kết quả là, các tài liệu cho thấy các mức chi NC&PT hiện tại chỉ bằng một nửa đến một phần tư mức đầu tư NC&PT sẽ tạo ra mức tăng trưởng kinh tế tối ưu. 5.3. Phát triển và đa dạng lực lượng lao động Sự tăng trưởng nhanh chóng của TTNT đã làm tăng đáng kể sự nhu cầu đối với những người có kỹ năng có liên quan để hỗ trợ và thúc đẩy sự phát triển của lĩnh vực này. Lực lượng lao động trong TTNT bao gồm các nhà nghiên cứu TTNT, những người thúc đẩy những tiến bộ cơ bản trong TTNT, số lượng lớn các chuyên gia, những người điều chỉnh các phương pháp TTNT cho các ứng dụng cụ thể, và một số lượng lớn hơn nhiều người sử dụng, những người vận hành những ứng dụng đó trong các thiết lập cụ thể. Đối với các nhà nghiên cứu, việc đào tạo TTNT vốn mang tính liên ngành, thường đòi hỏi một nền tảng vững vàng về khoa học máy tính, thống kê, logic toán học và lý thuyết thông tin. Đối với các chuyên gia, việc đào tạo thường đòi hỏi một nền tảng trong công nghệ phần mềm và trong các lĩnh vực ứng dụng. Đối với người dùng, sự hiểu biết các công nghệ TTNT là cần thiết để áp dụng các công nghệ TTNT một cách đáng tin cậy. Vai trò của chính phủ Sự thách thức về lực lượng lao động TTNT là một phần trong thách thức giáo dục khoa học, công nghệ, kỹ thuật và toán học (STEM) vẫn đang là một trọng tâm ưu tiên của NSTC, OSTP, và các cơ quan khác. Quỹ Khoa học quốc gia (NSF) và Bộ Giáo dục đang làm việc với khu vực tư nhân và các cơ quan chính phủ để nâng cao chất lượng, tính linh hoạt, và tác động của giáo dục, để giải quyết những mục tiêu như phát triển kinh tế bền vững, tăng sự bao quát và đa dạng, và các biện pháp cải thiện đo lường kết quả. Ủy ban Giáo dục Khoa học, Công nghệ và Toán học Giáo dục của NSTC (CoSTEM) tập hợp các cơ quan liên bang hỗ trợ các chương trình giáo dục STEM để điều phối các nỗ lực trên nhiều chủ đề, gồm cả giáo dục TTNT. Kiến thức và giáo dục TTNT đang ngày càng được nhấn mạnh trong các chương trình giáo dục STEM liên bang. Một số vai trò quan trọng đối với chính phủ liên bang trong việc phát triển lực lượng lao động TTNT, bao gồm hỗ trợ sinh viên sau đại học, tài trợ cho các nghiên cứu về thiết kế và tác động của chương trình giảng dạy TTNT, và công nhận các chương trình giáo dục TTNT. 26 Vai trò của trường phổ thông và đại học Việc tích hợp TTNT, khoa học dữ liệu, và các lĩnh vực liên quan trên toàn hệ thống giáo dục của quốc gia là cần thiết để phát triển một lực lượng lao động có thể giải quyết các ưu tiên quốc gia. Các cơ sở giáo dục đang xây dựng và phát triển các chương trình TTNT ở tất cả các cấp. Các trường đại học, cao đẳng và thậm chí cả các trường trung học đang mở rộng chương trình giảng dạy khoa học dữ liệu và TTNT, nhưng vẫn cần có thêm nhiều chương trình và giáo viên. Sau đây là một số vai trò quan trọng đối với các tổ chức học thuật: • Xây dựng và duy trì lực lượng các nhà nghiên cứu, bao gồm các nhà khoa học máy tính, thống kê, lập trình phần mềm và cơ sở dữ liệu, nhà quản lý, cán bộ thư viện, và nhân viên lưu trữ với chuyên ngành khoa học dữ liệu; • Đào tạo lực lượng chuyên gia, bằng cách nhấn mạnh các phương pháp TTNT trong các khóa học phát triển phần mềm, cung cấp các khóa học TTNT ứng dụng chứng minh các ứng dụng của TTNT đối với các lĩnh vực khác, và đưa những thách thức TTNT và khoa học dữ liệu được đặt ra bởi ngành công nghiệp, xã hội dân sự, và chính phủ vào các nghiên cứu trường hợp tích cực; • Đảm bảo rằng các lực lượng người sử dụng TTNT có hiểu biết cần thiết về các hệ thống TTNT để đáp ứng các nhu cầu của người sử dụng và các tổ chức trên toàn bộ ngành công nghiệp, chính phủ, và học viện; • Hỗ trợ đào tạo thông qua các trợ cấp ban đầu, tiền sinh hoạt phí cho phát triển chuyên môn, thực tập, học bổng, và chương trình trao đổi kinh nghiệm nghiên cứu mùa hè; và • Tuyển dụng và giữ chân các tài năng bằng chế độ lương bổng hấp dẫn đối với các nhà nghiên cứu chuyên môn cao. Các trường cao đẳng cộng đồng, trường đại học hai năm, và các chương trình chứng nhận đóng một vai trò quan trọng trong việc cung cấp cơ hội cho sinh viên và các chuyên gia để có được những kỹ năng cần thiết cho đầu tư khiêm tốn thời gian và tiền bạc của họ. Những cơ hội này có thể đặc biệt có liên quan đến những người lao động mở rộng các kỹ năng của họ, các cựu binh quay trở về lực lượng lao động, và người thất nghiệp tìm cách để nhập lại lực lượng lao động. 27 Một thế giới được TTNT hỗ trợ đòi hỏi một công dân thông thạo dữ liệu tức là có khả năng đọc, sử dụng, giải thích, và truyền đạt giao tiếp về dữ liệu, và tham gia vào các cuộc tranh luận chính sách về các vấn đề bị ảnh hưởng bởi TTNT. Giáo dục khoa học dữ liệu sớm ở tiểu học hay trung học có thể giúp cải thiện sự thông thạo dữ liệu toàn quốc, đồng thời cũng trang bị cho sinh viên các khái niệm khoa học dữ liệu tiên tiến hơn và chương trình sau trung học. Giáo dục TTNT cũng là một thành phần của Chương trình Khoa học máy tính cho Mọi người, một sáng kiến của Tổng thống giúp tất cả các học sinh Mỹ từ mẫu giáo đến trung học được học khoa học máy tính và được trang bị những kỹ năng tư duy tính toán cần cho những nhà sáng tạo, chứ không chỉ là người tiêu dùng, trong nền kinh tế kỹ thuật số, và là những công dân tích cực trong một thế giới dựa trên công nghệ. Nền kinh tế Mỹ đang nhanh chóng chuyển đổi, và cả các nhà giáo dục lẫn lãnh đạo doanh nghiệp đang ngày càng nhận ra rằng khoa học máy tính là một kỹ năng "cơ bản mới" cần thiết cho các cơ hội kinh tế và cơ động xã hội. Khoa học máy tính cho Mọi người xây dựng dựa trên những nỗ lực của các bậc cha mẹ, giáo viên, các nhà lãnh đạo trường học, và các nhà lãnh đạo khu vực tư nhân trên khắp đất nước và là một cách để đáp ứng thách thức chuẩn bị một lực lượng lao động trong tương lai cho các nhu cầu của một nền kinh tế dựa trên TTNT. 5.4. Thách thức đa dạng Tất cả các ngành đều đối mặt với thách thức làm thế nào để đa dạng hóa lực lượng lao động TTNT. Việc thiếu sự đa dạng giới tính và chủng tộc trong lực lượng lao động TTNT phản ánh sự thiếu đa dạng trong ngành công nghiệp công nghệ và lĩnh vực khoa học máy tính nói chung. Phát triển hết tiềm năng của người dân Mỹ, đặc biệt là trong các lĩnh vực STEM, trong kinh doanh, và trong công nghiệp công nghệ là một ưu tiên của Chính quyền này. Tầm quan trọng của các cá nhân bao gồm sự đa dạng về nền tảng, kinh nghiệm và bản sắc, đặc biệt là phụ nữ và các thành viên của các nhóm sắc dân tộc truyền thống ít hiện diện trong STEM, là một trong những thách thức quan trọng nhất và ưu tiên cao đối với khoa học máy tính và TTNT Chỉ 18 phần trăm sinh viên tốt nghiệp khoa học máy tính hiện nay là phụ nữ, giảm từ mức đỉnh của 37 phần trăm trong 1984. Mặc dù thiếu dữ liệu nhân khẩu học báo cáo về lực lượng lao động TTNT, nhưng còn có một số thống kê. Tại Hội nghị Hệ thống xử lý thông tin thần kinh (NIPS) năm 2015, một trong những hội nghị lớn nhất trong năm về nghiên cứu TTNT, chỉ 13,7 phần trăm những người tham gia hội nghị là phụ nữ. Sau khi nhìn thấy sự đại diện thấp 28 tương tự tại một hội nghị máy thông minh, lúc đó là người nữ diễn giả duy nhất từ ngành công nghiệp, giám đốc điều hành và đồng sáng lập Textio, một công ty khởi nghiệp áp dụng TTNT cho soạn email thông báo việc làm và tuyển dụng, quyết định điều tra thêm ngôn ngữ tuyển dụng trong ngành công nghiệp. Khi công ty phân tích 78.768 danh sách vị trí công việc kỹ thuật, họ phát hiện thấy thông tin việc làm cho các kỹ sư phần mềm trong lĩnh vực máy thông minh đã có một số thiên vị nam giới nhiều hơn gấp đôi bất kỳ lĩnh vực nào khác. Thách thức đa dạng không giới hạn trong giới tính. So với tỷ lệ dân cư của họ trong dân số Hoa Kỳ, người Mỹ gốc Phi, gốc Tây Ban Nha, và các thành viên của các nhóm thiểu số về chủng tộc và dân tộc khác có sự hiện diện vô cùng thấp trong lực lượng lao động STEM, khoa học máy tính, và trong lực lượng lao động công nghiệp công nghệ, kể cả trong các lĩnh vực TTNT. Nhiều ý kiến được chuyển tới OSTP thảo luận về thách thức đa dạng. Các bình luận tập trung vào tầm quan trọng của TTNT được tạo ra và sử dụng cho các nhóm dân cư đa dạng. Làm như vậy sẽ giúp tránh những hậu quả tiêu cực của phát triển TTNT tập trung trong phạm vi hẹp, bao gồm cả nguy cơ của những thành kiến trong phát triển các thuật toán, bằng cách tận dụng một phổ rộng hơn về kinh nghiệm, nền tảng, và quan điểm. Các chủ đề này cũng đã bao trùm rộng rãi trong các hội thảo công cộng. Một số nghiên cứu về tác động của sự thiếu đa dạng trong lực lượng lao động TTNT lên thiết kế công nghệ TTNT và tác động xã hội của TTNT. Sự phong phú của nghiên cứu đang tăng lên nhưng vẫn còn tụt hậu so với các tài liệu về nhu cầu phát triển lực lượng lao động TTNT rộng hơn. 6. TRÍ TUỆ NHÂN TẠO, TỰ ĐỘNG HÓA VÀ KINH TẾ Hiệu quả kinh tế trung tâm của TTNT trong ngắn hạn sẽ là tự động hóa các nhiệm vụ mà không thể được làm tự động trước đây. Có một số tiền lệ lịch sử cho các làn sóng tự động hóa mới mà từ đó chúng ta có thể học hỏi, và một số cách thức trong đó TTNT sẽ khác nhau. Chính phủ phải hiểu những tác động tiềm năng đó để có thể đua ra các chính sách và tổ chức sẽ hỗ trợ những lợi ích của TTNT, đồng thời giảm thấp các thiệt hại. Giống như những làn sóng đổi mới trong quá khứ, TTNT sẽ tạo ra cả những lợi ích và thiệt hại. Lợi ích chủ yếu của các làn sóng trước đây của tự động hóa là tăng năng suất; và làn sóng tự động hóa giờ đây cũng không khác. Ví dụ, một nghiên cứu về robot năm 2015 ở 17 quốc gia nhận thấy rằng chúng 29 bổ sung ước tính trung bình 0,4 điểm phần trăm vào tăng trưởng GDP hàng năm ở những nước đó từ năm 1993 đến năm 2007, chiếm hơn một phần mười tăng trưởng GDP tổng của các nước này trong thời gian đó. Tuy nhiên, một vấn đề quan trọng phát sinh từ những làn sóng tự động hóa trước đây là tác động tiềm năng trên một số loại công việc và ngành nhất định và các tác động đó dẫn đến sự bất bình đẳng về thu nhập. Do TTNT có khả năng loại bỏ hoặc làm giảm tiền lương của một số công việc, đặc biệt là các việc làm đòi hỏi kỹ năng thấp và trung bình, các chính sách can thiệp có thể sẽ là cần thiết để đảm bảo rằng các lợi ích kinh tế TTNT được chia sẻ rộng rãi và bất bình đẳng được giảm đi và không trở thành hậu quả tồi tệ. Các vấn đề chính sách kinh tế xuất hiện do tự động hóa dựa trên TTNT là quan trọng nhưng chúng được một nhóm công tác riêng tập trung giải quyết. Nhà Trắng sẽ tiến hành một nghiên cứu liên ngành bổ sung về các tác động kinh tế của tự động hóa nền kinh tế và phản ứng chính sách đế xuất. 7. CÔNG BẰNG, AN TOÀN, VÀ QUẢN TRỊ Khi các công nghệ TTNT được triển khai rộng rãi hơn, các chuyên gia kỹ thuật và nhà phân tích chính sách đã nêu lên những quan ngại về những hậu quả ngoài ý muốn. Việc sử dụng TTNT để đưa ra những quyết định liên quan về con người, thường thay thế các quyết định được thực hiện bởi con người và các tổ chức, dẫn đến những quan tâm về làm thế nào để đảm bảo công lý, công bằng và trách nhiệm giải trình - giống như những quan tâm được nêu lên trước đây về nội dung "dữ liệu lớn". Việc sử dụng TTNT để điều khiển thiết bị trong thế giới vật chất dẫn đến những lo ngại về an toàn, đặc biệt là khi các hệ thống này tiếp xúc với tất cả phức tạp của môi trường của con người. Ở mức độ kỹ thuật liên quan đến những thách thức về sự công bằng và an toàn. Trong cả hai trường hợp, các nhà thực hành cố gắng tránh bị kỳ thị cố ý hay thất bại, để tránh những hậu quả ngoài ý muốn, và để tạo ra các bằng chứng cần thiết để các bên liên quan tự tin biện minh rằng thất bại không mong đợi là khó xảy ra. 7.1. Luật pháp, Công bằng, và trách nhiệm Một chủ đề phổ biến trong các hội thảo Luật và Quản trị, TTNT cho Hàng hóa xã hội, và Tác động kinh tế và xã hội là sự cần thiết đảm bảo rằng TTNT thúc đẩy công lý và công bằng, và các quá trình dựa trên TTNT sẽ được các bên 30 liên quan chịu trách nhiệm. Vấn đề này đã được nhấn mạnh trước đó trong Báo cáo Dữ liệu lớn đầu tiên của Chính quyền xuất bản tháng 5/2014, và các báo cáo tiếp theo về Dữ liệu lớn, Các hệ thống thuật toán, Cơ hội, và các Quyền dân sự xuất bản tháng 5/2016. Trong hệ thống tư pháp hình sự, một số trong những mối quan tâm lớn nhất với Dữ liệu lớn là thiếu dữ liệu và thiếu dữ liệu có chất lượng. TTNT cần có các dữ liệu tốt. Nếu dữ liệu không đầy đủ hoặc sai lệch, TTNT có thể làm trầm trọng thêm các vấn đề sai lệch. Điều quan trọng là bất cứ ai sử dụng TTNT trong bối cảnh tư pháp hình sự phải nhận thức được những hạn chế của dữ liệu hiện tại. Các vấn đề tương tự có thể ảnh hưởng đến việc thuê tuyển lao động. Nếu một mô hình máy học được sử dụng để sàng lọc ứng viên xin việc, và nếu dữ liệu được sử dụng để đào tạo mô hình phản ánh các quyết định trong quá khứ có tính chất thiên vị, thì kết quả có thể để duy trì sự thiên vị quá khứ. Ví dụ, tìm kiếm những ứng viên giống như đã thuê trong quá khứ có thể thiên vị một hệ thống hướng vào thuê nhiều người giống như những người đã có trong nhóm, chứ không phải là xem xét các ứng cử viên tốt nhất với đầy đủ sự đa dạng của các ứng viên tiềm năng Để đối phó với những mối lo ngại này, một số diễn giả hội thảo trao đổi về sự minh bạch cao hơn khi các công cụ TTNT được sử dụng cho những mục đích công cộng. Một diễn giả đã so sánh vai trò của TTNT với vai trò của các cơ quan hành chính trong việc ra quyết định công. Thẩm quyền được giao cho một cơ quan do chuyên môn đặc thù của cơ quan đó, nhưng việc giao thẩm quyền bị hạn chế bởi sự bảo vệ quy trình, các biện pháp thúc đẩy tính minh bạch và giám sát, và giới hạn về phạm vi thẩm quyền được giao. Một số diễn giả kêu gọi phát triển một lý thuyết tương tự về làm thế nào duy trì trách nhiệm khi trao quyền quyết định cho máy. Những mối quan tâm minh bạch không chỉ tập trung vào các dữ liệu và các thuật toán được sử dụng, mà còn về khả năng có một số hình thức giải thích mọi quyết định dựa trên TTNT. Cũng tại các hội thảo, các chuyên gia TTNT cảnh báo rằng có những thách thức vốn có trong việc tìm hiểu, dự đoán, và giải thích hành vi của các hệ thống TTNT tiên tiến, do sự phức tạp của các hệ thống này và khối lượng lớn các dữ liệu mà chúng sử dụng. Khó khăn trong việc hiểu các kết quả máy học là những mâu thuẫn với quan niệm sai lầm phổ biến mà các thuật toán phức tạp luôn luôn làm những gì 31 các nhà thiết kế ra chúng lựa chọn để chúng làm, và do đó sự thiên vị sẽ chui vào một thuật toán khi và chỉ khi bản thân các nhà phát triển bị thiên vị có ý thức hoặc vô thức. Điều chắc chắn đúng là một nhà phát triển công nghệ muốn sản xuất một thuật toán thiên vị có thể làm được như vậy, và sự thiên vị vô thức có thể khiến cho những người sử dụng không đủ nỗ lực để ngăn chặn thiên vị. Tuy nhiên, trong thực tế, các nhà phát triển thiên vị với những ý định tốt nhất có thể vô tình tạo ra các hệ thống với các kết quả thành kiến, bởi vì ngay cả các nhà phát triển một hệ thống TTNT có thể không hiểu nó đủ rõ để ngăn chặn các kết quả không mong đợi. Moritz Hardt cho một ví dụ minh họa về thiên vị có thể vô tình xuất hiện như thế nào từ quá trình máy học. Ông mặc nhiên công nhận một mô hình máy học được đào tạo để phân biệt tên thật của một người dân với các tên giả. Mô hình này có thể xác định rằng một tên có nhiều khả năng là giả nếu phần tên riêng (firstname) của nó là độc đáo trong tập dữ liệu. Quy tắc này có thể tiên đoán toàn bộ dân số, bởi vì các tên giả nhiều khả năng được cách điệu và do đó độc đáo. Tuy nhiên, nếu có một nhóm dân tộc là một thiểu số dân cư nhỏ và có xu hướng sử dụng một bộ tên riêng khác với nhóm dân cư chiếm đa số, thì các tên khác biệt này nhiều khả năng là duy nhất trong mẫu, và do đó nhiều khả năng được xếp loại nhầm thành các tên giả. Tác động này phát sinh không phải vì bất kỳ sự đối xử đặc biệt nào với các tên của nhóm dân tộc thiểu số, và cũng không phải vì các dữ liệu đầu vào là không đại diện chung cho dân số, mà chỉ đơn giản vì nhóm dân tộc thiểu số đó quá ít. Andrew Moore, Trưởng khoa Khoa học máy tính tại Đại học Carnegie Mellon, cung cấp một quan điểm về thách thức của TTNT và những hậu quả không lường trước tại hội thảo về công nghệ, an toàn, và kiểm soát TTNT. Ông lập luận rằng ngày nay, vì sự mờ của các thuật toán TTNT, cách hiệu quả nhất để giảm thiểu nguy cơ kết quả ngoài ý muốn là thông qua mở rộng thử nghiệm - điều cơ bản để có một danh sách dài của các loại quả xấu có thể xảy ra, và để loại trừ những kết quả đó bằng cách tạo ra nhiều kiểm tra chuyên biệt để tìm kiếm chúng. Đào tạo đạo đức cho sinh viên và những người thực hành TTNT là một phần cần thiết của này giải pháp. Lý tưởng nhất, mỗi sinh viên học TTNT, khoa học máy tính, hay khoa học dữ liệu sẽ được tiếp xúc với chương trình giảng dạy và thảo luận về các vấn đề đạo đức liên quan và các chủ đề ninh. Tuy nhiên, chỉ đạo đức thôi là không đủ. Đạo đức có thể giúp những người sử dụng hiểu rõ trách nhiệm của mình đối với tất cả các bên liên quan, nhưng việc giáo dục đạo 32 đức cần phải được tăng cường với các tính năng kỹ thuật để đưa những ý định tốt vào thực tế bằng việc có những đề phòng kỹ thuật khi một hệ thống được chế tạo và thử nghiệm. Khi những người sử dụng cố gắng làm cho hệ thống TTNT công bằng và có trách nhiệm hơn, sẽ có cơ hội để làm cho công nghệ trợ giúp thực hiện trách nhiệm chứ không phải là một rào cản đối với nó. Nghiên cứu để cải thiện khả năng giải nghĩa của các kết quả máy học là một ví dụ. Với một mô hình có thể giải nghĩa giúp mọi người hiểu một quyết định cho phép họ chất vấn các giả định và quy trình đằng sau nó. Có một số phương pháp kỹ thuật để nâng cao trách nhiệm và sự mạnh mẽ của các quyết định thuật toán phức tạp. Một hệ thống có thể được thử nghiệm "trong tự nhiên" bằng cách đưa nó vào các tình huống và quan sát hành vi của nó. Một hệ thống có thể bị kiểm tra hộp đen, trong đó nó tiếp nhận các đầu vào tổng hợp và hành vi của nó được theo dõi, cho phép kiểm tra hành vi trong các tình huống mà có thể không xảy ra tự nhiên. Một số hoặc tất cả các chi tiết kỹ thuật của thiết kế hệ thống có thể được công bố, cho phép các nhà phân tích tái tạo nó và phân tích các khía cạnh hành vi bên trong của nó mà có thể khó mô tả chỉ bằng thử nghiệm. Trong một số trường hợp, có thể công bố thông tin giúp công chúng đánh giá rủi ro sai lệch của một hệ thống, trong khi giữ lại các thông tin khác về các hệ thống làm độc quyền hay tài sản riêng, 7.2. An toàn và kiểm soát Tại các hội thảo, các chuyên gia TTNT nói rằng một trong những yếu tố chính hạn chế việc triển khai TTNT trong thế giới thực là sự quan ngại về an toàn và kiểm soát. Nếu những người sử dụng không có được sự tự tin hợp lý rằng hệ thống an toàn và được kiểm soát, sao cho việc triển khai hệ thống không tạo ra một nguy cơ không thể chấp nhận về các hậu quả xấu nghiêm trọng, thì hệ thống không thể và không nên được triển khai. Một thách thức lớn về an toàn và kiểm soát là các hệ thống được chế tạo có thể an toàn chuyển từ "thế giới khép kín" trong các phòng thí nghiệm ra "thế giới mở" bên ngoài, nơi có thể xảy ra những điều không thể đoán trước. Trong thế giới mở, một hệ thống có khả năng gặp phải các đối tượng và tình huống không được dự tính khi nó được thiết kế và chế tạo. Thích ứng một cách êm thấm với những tình huống không lường trước là rất khó khăn nhưng cần thiết cho hoạt động an toàn. 33 Về chủ đề an toàn và khả năng dự báo trong TTNT, một số diễn giả trích dẫn một bài báo gần đây có tựa đề "Các vấn đề chắc chắn trong an toàn TTNT", và tác giả chính của bài báo đã phát biểu tại hội thảo về Công nghệ, An toàn, và Kiểm soát. Báo cáo sử dụng ví dụ một con robot tự trị dọn dẹp nhà cửa. Phần tổng quan của bài báo đưa ra một danh sách dài các loại vấn đề thực tế phát sinh trong việc chế tạo một robot như vậy hiệu quả và an toàn, được trích dẫn ở đây: Tránh tác dụng phụ tiêu cực: Làm thế nào chúng ta có thể đảm bảo rằng con robot làm vệ sinh của chúng ta sẽ không làm phiền môi trường theo những cách tiêu cực khi theo đuổi các mục đích của nó, ví dụ bằng cách gõ lên chiếc bình để robot có thể làm vệ sinh nhanh hơn? Chúng ta có thể làm điều này mà không cần chỉ định bằng tay tất cả mọi thứ robot không nên làm phiền? Tránh thưởng: Làm thế nào chúng ta có thể đảm bảo rằng các robot làm sạch không chơi chức năng thưởng được ban cho? Ví dụ, nếu chúng ta thưởng cho các robot đạt được một môi trường sạch không có vết bẩn, nó có thể vô hiệu hóa "con mắt" của mình sẽ không tìm thấy vết bẩn nào, hoặc phủ lên những chỗ bẩn bằng vật liệu mà nó không thể nhìn xuyên qua, hoặc chỉ đơn giản là trốn đi khi có người xung quanh để họ không thể nói cho nó về các loại bẩn mới. Khả năng mở rộng giám sát: Làm thế nào chúng ta có thể đảm bảo hiệu quả rằng các robot làm sạch tôn trọng các khía cạnh của các mục tiêu quá đắt tiền để được thường xuyên đánh giá trong đào tạo? Ví dụ, nó nên loại bỏ những thứ không thuộc về bất kỳ ai, nhưng đặt sang một bên những thứ có thể thuộc về một ai đó (nó cần xử lý giấy gói kẹo vứt lung tung khác với chiếc điện thoại di động vứt lung tung). Việc hỏi những người liên quan xem họ có bị mất thứ gì có thể dùng kiểm tra về điều này, nhưng việc kiểm tra này có thể phải tương đối không thường xuyên, có thể robot tìm thấy cách để làm điều đúng đắn mặc dù thông tin hạn chế? Thăm dò an toàn: Làm thế nào để chúng ta đảm bảo rằng robot dọn nhà không có những chuyển động thăm dò với những hậu quả rất xấu? Ví dụ, robot nên thử nghiệm với các chiến lược lau nhà, nhưng đưa một khăn lau ướt vào ổ điện là một ý tưởng tồi. Khả năng chuyển đổi mạnh mẽ: Làm thế nào để chúng ta đảm bảo rằng các robot làm vệ sinh nhận biết được, và khả năng thực hiện mạnh mẽ, khi ở trong một môi trường khác với môi trường đào tạo của nó? Ví dụ, những gi nó 34 được học để làm sạch sàn nhà của nhà máy có thể nguy hiểm đối với một văn phòng. Những ví dụ này minh họa cho việc "sự thông minh" của một hệ thống TTNT có thể chuyên sâu chứ không nông cạn: hệ thống này có thể có khả năng siêu phàm để phát hiện bụi bẩn và tối ưu hóa chiến lược lau chùi của nó, nhưng không biết tránh đưa khăn lau ướt lên một ổ cắm điện. Một cách để mô tả vấn đề phổ quát này là: làm thế nào chúng ta có thể cung cấp cho các máy thông minh sự nhận biết thông thường? Các nhà nghiên cứu cũng đang có sự tiến bộ chậm chạp về các loại vấn đề này. Kỹ thuật an toàn TTNT Một chủ đề phổ biến tại hội thảo Công nghệ, An toàn và Kiểm soát là nhu cầu kết nối các phương pháp TTNT trong thế giới mở với lĩnh vực kỹ thuật an toàn rộng lớn hơn. Kinh nghiệm trong việc chế tạo các loại hệ thống đặc biệt an toàn, chẳng hạn như máy bay, nhà máy điện, cầu và các loại xe, giúp ích rất nhiều cho những người sử dụng TTNT về xác minh và xác nhận, làm thế nào để xây dựng một trường hợp an toàn một công nghệ, làm thế nào để quản lý rủi ro, và làm thế nào trao đổi với các bên liên quan về rủi ro. Hiện nay, việc thực hành TTNT, đặc biệt là ở các lĩnh vực máy học có tốc độ phát triển nhanh, có thể cũng đòi hỏi sự khéo léo như khoa học. Một số khía cạnh thực hành không được sự hẫu thuẫn của lý thuyết đã phát triển dựa vào phán đoán trực giác và thử nghiệm của những nhà thực hành. Đây không phải là điều bất thường ở các lĩnh vực công nghệ mới nổi, nhưng nó làm hạn chế việc áp dụng công nghệ này trong thực tế. Một số bên liên quan đã đề xuất yêu cầu phải phát triển TTNT vào lĩnh vực kỹ thuật trưởng thành hơn. Khi các lĩnh vực kỹ thuật trưởng thành, chúng thường di chuyển từ giai đoạn "thủ công" ban đầu đặc trưng bởi sự sáng tạo dựa vào trực giác của những tài năng không chuyên và một tinh thần tự mày mò; đến giai đoạn thương mại thứ hai bao gồm những người thực hành có kỹ năng cao, cải tiến thực dụng, quy tắc ngón tay cái (kinh nghiệm) được chấp nhận rộng rãi, và tổ chức sản xuất để bán; đến giai đoạn trưởng thành tích hợp các phương pháp nghiêm ngặt hơn, các chuyên gia được đào tạo, lý thuyết được xây dựng hoàn chỉnh và sự chuyên môn hóa sản phẩm cao hơn. Hầu hết các lĩnh vực kỹ thuật, có lịch sử lâu hơn nhiều so với TTNT hiện đại, đã đạt đến giai đoạn trưởng thành. Nói chung, các lĩnh vực kỹ thuật trưởng thành có thành công lớn hơn trong việc tạo ra những hệ thống có thể dự đoán được, đáng tin cậy, mạnh mẽ, 35 an toàn và đảm bảo. Việc tiếp tục tạo ra tiến bộ đưa để TTNT trở thành một lĩnh vực kỹ thuật trưởng thành sẽ là một trong những điều khiện quan trọng để tạo ra các hệ thống an toàn, được kiểm soát và phức tạp hơn. 8. NHỮNG SỰ CÂN NHẮC VÀ AN NINH TOÀN CẦU Ngoài những thách thức lâu dài của TTNT và các vấn đề cụ thể liên quan đến sự công bằng và an toàn, TTNT còn đặt ra những vấn đề chính sách liên quan trong quan hệ quốc tế, an ninh mạng, và quốc phòng. 8.1. Hợp tác quốc tế TTNT đã là một chủ đề được quan tâm trong các cuộc thảo luận quốc tế gần đây khi các quốc gia, các tổ chức đa phương và các bên liên quan khác đã bắt đầu đánh giá những lợi ích và thách thức của TTNT. Đối thoại và hợp tác giữa các thực thể này có thể giúp thúc đẩy tiến bộ trong NC&PT TTNT và khai thác ứng dụng TTNT, đồng thời cũng giải quyết những thách thức liên quan. Đặc biệt, một số đột phá về TTNT là kết quả trực tiếp hoặc gián tiếp của hợp tác nghiên cứu liên quan đến con người, nguồn lực, và tổ chức ở nhiều quốc gia. Như với những chính sách kỹ thuật số khác, các nước sẽ cần phải cùng làm việc để xác định các cơ hội hợp tác và phát triển các khuôn khổ quốc tế sẽ giúp thúc đẩy NC&PT TTNT và giải quyết những thách thức. Hoa Kỳ, quốc gia đi đầu trong NC&PT TTNT, có thể tiếp tục đóng một vai trò then chốt trong việc phối hợp nghiên cứu toàn cầu thông qua đối thoại giữa các chính phủ với nhau và các đối tác. Sự tham gia quốc tế là cần thiết để khám phá đầy đủ các ứng dụng của TTNT trong việc chăm sóc sức khỏe, tự động hóa trong sản xuất và công nghệ thông tin và truyền thông. Các ứng dụng TTNT cũng có khả năng để giải quyết các vấn đề toàn cầu như phòng chống thiên tai và ứng phó với biến đổi khí hậu, buôn bán động vật hoang dã, khoảng cách số, việc làm, và thành phố thông minh. Bộ Ngoại giao dự báo những mối quan tâm riêng tư, an toàn của xe tự lái, và tác động của TTNT lên các xu hướng lao động về lâu dài khi xem xét các lĩnh vực chính sách liên quan đến TTNT trong bối cảnh quốc tế. Với sự hỗ trợ của những ưu tiên chính sách đối ngoại của Hoa Kỳ trong không gian này, bao gồm đảm bảo sự lãnh đạo quốc tế và khả năng cạnh tranh kinh tế của Hoa Kỳ, Chính phủ Hoa Kỳ đã tham gia vào NC&PT TTNT và các vấn đề chính sách trong các cuộc thảo luận song phương với các nước khác, bao gồm Nhật Bản, Hàn Quốc, Đức, Ba Lan, Vương quốc Anh và Italia, cũng như 36 tại các diễn đàn đa phương. vấn đề chính sách TTNT quốc tế và các tác động kinh tế của TTNT đã được nêu lên tại Liên Hiệp Quốc, G-7, Tổ chức Hợp tác và Phát triển Kinh tế (OECD), và Tổ chức Hợp tác kinh tế châu Á-Thái Bình Dương (APEC). Chính phủ Hoa Kỳ hy vọng TTNT sẽ là một chủ đề ngày càng được quan tâm hơn trong các cam kết quốc tế. Hoa Kỳ đã cam kết hợp tác với các công ty và các tổ chức tiêu chuẩn liên quan, để tạo điều kiện thuận lợi cho phát triển các tiêu chuẩn quốc tế theo: dựa vào ngành công nghiệp; tình nguyện; theo hướng đồng thuận; và dựa trên các nguyên tắc minh bạch, công khai, và nhu cầu thị trường. Cách tiếp cận của Hoa Kỳ được chính thức hóa trong luật (NTTAA, PL 104-113) và chính sách (OMB Thông tư A-119) và tái khẳng định trong Chiến lược tiêu chuẩn Hoa Kỳ. 8.2. Trí tuệ nhân tạo và an ninh mạng Trí tuệ nhân tạo Hẹp ngày nay có những ứng dụng quan trọng trong an ninh mạng, và dự kiến sẽ đóng vai trò ngày càng tăng cho cả các biên pháp phòng thủ (phản ứng) và các biện pháp tấn công (chủ động). Hiện nay, việc thiết kế và vận hành các hệ thống an toàn đòi hỏi một sự đầu tư lớn về thời gian và sự quan tâm của các chuyên gia. Tự động hoá công việc chuyên môn này, một phần hoặc hoàn toàn, có thể cho phép bảo mật mạnh mẽ trên một phạm vi rộng hơn nhiều của các hệ thống và các ứng dụng với chi phí thấp hơn đáng kể, và có thể làm tăng sự nhanh nhẹn của phòng vệ không gian mạng. Sử dụng TTNT có thể giúp duy trì phản ứng nhanh cần có để phát hiện và phản ứng với những tính huống đe dọa không gian mạng luôn phát triển. Có rất nhiều cơ hội cho TTNT và đặc biệt là các hệ thống máy học để giúp đối phó với sự phức tạp tuyệt đối của không gian mạng và hỗ trợ hiệu quả việc ra quyết định của con người để phản ứng với các cuộc tấn công mạng Các hệ thống TTNT trong tương lai có thể thực hiện các phân tích dự đoán để lường trước các cuộc tấn công mạng bằng cách tạo ra các mô hình đe dọa động từ các nguồn dữ liệu có sẵn rất lớn, luôn biến đổi và thường không đầy đủ. Những dữ liệu này bao gồm các cấu trúc liên kết và trạng thái của các nút mạng, liên kết, thiết bị, kiến trúc, giao thức, và các mạng lưới. TTNT có thể là phương pháp tiếp cận hiệu quả nhất để diễn giải các dữ liệu này, chủ động xác định các lỗ hổng an ninh, và hành động để ngăn chặn hoặc giảm thiểu các cuộc tấn công trong tương lai. Các kết quả cập nhật trong cuộc thi Thách thức lớn trong an ninh mạng (Cyber Grand Challenge-CGC) của DARPA chứng minh tiềm năng của phương 37 pháp này. CGC đã được thiết kế để thúc đẩy sự phát triển của các hệ thống tự chủ, tiên tiến có thể phát hiện, đánh giá, và các lỗ hổng phần mềm vá lỗi trước khi đối thủ có cơ hội khai thác chúng. Để tiếp sức cho nghiên cứu và cuộc thi song song tiếp theo, tất cả các mã các hệ thống tự động tạo ra trong Chung kết CGC đã công bố như là mã nguồn mở cho phép những người khác giải mã và tìm hiểu chúng. Các hệ thống TTNT cũng có nhu cầu an ninh mạng riêng của chúng. Các ứng dụng dựa trên TTNT cần thực hiện kiểm soát tốt an ninh mạng để đảm bảo tính toàn vẹn của dữ liệu và chức năng thực hiện, bảo vệ sự riêng tư và bảo mật, và duy trì tính sẵn sàng. Kế hoạch chiến lược NC&PT An ninh Mạng liên bang mới đây đã nêu bật nhu cầu "phát triển và bận hành các hệ thống an toàn bền vững." Những tiến bộ trong an ninh mạng sẽ rất quan trọng trong việc đưa ra các giải pháp TTNT an toàn và vững vàng chống lại các hoạt động độc hại trên mạng, đặc biệt là khi khối lượng và loại hình nhiệm vụ được tiến hành bởi chính phủ và các doanh nghiệp tư nhân sử dụng TTNT Hẹp tăng lên. Cuối cùng, TTNT có thể hỗ trợ việc lập kế hoạch, điều phối, tích hợp, đồng bộ hóa, và chỉ đạo các hoạt động vận hành và bảo vệ mạng và hệ thống của của chính phủ Mỹ một cách hiệu quả, cung cấp sự hỗ trợ giúp cho các hoạt động an toàn của các mạng lưới và các hệ thống của khu vực tư nhân, và cho phép hành động phù hợp với tất cả luật pháp, quy định và các điều ước có thể áp dụng. 8.3. Trí tuệ nhân tạo trong các hệ thống vũ khí Hoa Kỳ đã kết hợp tính tự chủ vào một số hệ thống vũ khí nhất định từ nhiều năm qua. Những cải tiến công nghệ này có thể cho phép sử dụng các hệ thống vũ khí có độ chính xác cao hơn và an toàn hơn, các hoạt động quân sự nhân đạo hơn. Vũ khí dẫn đường chính xác cho phép hoạt động được hoàn thành đòi hỏi ít vũ khí hơn và với thiệt hại tài sản ít hơn, và các loại xe điều khiển từ xa có thể giảm bớt rủi ro cho quân nhân do họ ở cách xa khu vực nguy hiểm. Tuy nhiên, việc đưa các hệ thống vũ khí ra ngoài sự kiểm soát trực tiếp của con người liên quan đến một số rủi ro và có thể nảy sinh các vấn đề pháp lý và đạo đức. Chìa khóa để kết hợp hơn nữa các hệ thống vũ khí tự động và bán tự động vào kế hoạch quốc phòng và cơ cấu lực lượng Hoa Kỳ là tiếp tục đảm bảo rằng tất cả các hệ thống vũ khí, bao gồm các hệ thống vũ khí tự động, đang được sử dụng một cách phù hợp với luật nhân đạo quốc tế. Ngoài ra, Chính phủ Hoa Kỳ cần tiếp tục thực hiện các bước thích hợp để kiểm soát sự phổ biến vũ 38 khí này, và làm việc với các đối tác và đồng minh để phát triển các tiêu chuẩn liên quan đến sự phát triển và sử dụng các hệ thống vũ khí như vậy. Cụ thể, trong vài năm qua, các vấn đề liên quan đến sự phát triển của cái gọi là "Hệ thống vũ khí sát thương tự động" (Lethal Weapon Autonomous Systems-LAWS) đã được nêu lên bởi các chuyên gia kỹ thuật, các nhà đạo đức, và những người khác trong cộng đồng quốc tế. Hoa Kỳ đã tích cực tham gia các cuộc thảo luận quốc tế đang diễn ra về LAWS trong bối cảnh Hiệp ước về Một số vũ khí thông thường (CCW), và dự kiến tiếp tục thúc đẩy thảo luận quốc tế về các hệ thống vũ khí tiềm năng trong tương lai. Các quốc gia trong CCW đang thảo luận về các vấn đề kỹ thuật, pháp luật, quân sự, đạo đức và các vấn đề khác liên quan đến các công nghệ mới nổi, mặc dù rõ ràng là chưa có được tiếng nói chung về LAWS. Một số nước đã gắn LAWS với máy bay điều khiển từ xa ("drone" quân sự), một điều mà Hoa Kỳ phản đối, bởi máy bay điều khiển từ xa, theo định nghĩa, được con người trức tiếp điều khiển cũng chỉ như là máy bay có người lái. Các ưu tiên của Hoa Kỳ được nhắc lại rằng tất cả các hệ thống vũ khí, tự động hay không, phải tuân thủ luật nhân đạo quốc tế, bao gồm các nguyên tắc đặc biệt và tương xứng. Vì lý do này, Hoa Kỳ đã liên tục ghi nhận tầm quan trọng của quá trình xem xét các loại vũ khí trong việc phát triển và triển khai các hệ thống vũ khí mới. Chính phủ Hoa Kỳ cũng đang tiến hành đánh giá toàn diện các tác động của sự tự chủ trong hệ thống phòng thủ. Tháng 11/2012, Bộ Quốc phòng Mỹ (DoD) đã ban hành Chỉ thị DoD 3000,09: "Sự tự chủ trong các Hệ thống vũ khí," trong đó vạch ra các yêu cầu cho sự phát triển và triển khai các hệ thống vũ khí tự động và bán tự động. Các hệ thống vũ khí có khả năng tự chủ lựa chọn và chốt các mục tiêu bằng vũ lực gây chết người cần có sự xem xét và phê chuẩn của quan chức cấp cao trong Bộ Quốc phòng trước khi những hệ thống vũ khí này được phát triển chính thức và lại một lần phê chuẩn nữa trước khi triển khai. Chỉ thị của Bộ Quốc phòng chỉ thị không cấm và cũng không khuyến khích sự phát triển này, nhưng đòi hỏi nó phải được tiến hành một cách cẩn thận và chỉ sau khi được xem xét và phê duyệt bởi các quan chức quốc phòng cấp cao. Trong những vấn đề khác, Chỉ thị của Bộ Quốc phòng yêu cầu các hệ thống vũ khí tự động và bán tự động phải được kiểm tra chặt chẽ và các nhân viên phải được đào tạo một cách phù hợp trong việc sử dụng để thúc đẩy các tiêu chuẩn quốc tế liên quan đến xung đột vũ trang. Trí tuệ nhân tạo có khả năng đem lại lợi ích đáng kể trong một loạt các hoạt động liên quan đến quốc phòng. Các hoạt động không gây sát thương như 39 hậu cần, bảo trì, điều hành căn cứ, chăm só y tế cho cựu chiến binh, hỗ trợ y tế ở chiến trường và sơ tán thương vong, quản lý nhân sự, định tuyếng, thông tin liên lạc, phòng thủ mạng, và phân tích thông tin tình báo có thể được hưởng lợi từ TTNT, làm cho lực lượng quân đội Mỹ an toàn hơn và hiệu quả hơn. TTNT cũng có thể đóng vai trò quan trọng trong các hệ thống mới để bảo vệ người và tài sản cố định giá trị và ngăn chặn các cuộc tấn công thông qua các phương tiện không gây thương vong. Cuối cùng, các ứng dụng có thể trở nên quan trọng nhất đối với Bộ Quốc phòng. Với các tiến bộ trong công nghệ quân sự và trí tuệ nhân tạo trên phạm vi rộng hơn, các nhà khoa học, các nhà chiến lược, và các chuyên gia quân sự đều đồng ý rằng tương lai của LAWS là khó dự đoán và tốc độ thay đổi diễn ra rất nhanh. Nhiều khả năng mới có thể sớm trở thành hiện thực, và có thể nhanh chóng được phát triển và vận hành. Chính quyền đang chủ động tham gia vào cuộc thảo luận liên ngành đang diễn ra để hướng tới một chính sách về vũ khí tự trị phù hợp với các giá trị chung của con người, lợi ích an ninh quốc gia, và các nghĩa vụ quốc tế và trong nước. KẾT LUẬN Trí tuệ nhân tạo có thể là động lực chính của tăng trưởng kinh tế và tiến bộ xã hội, nếu ngành công nghiệp, xã hội dân sự, chính phủ, và công chúng cùng nhau hỗ trợ sự phát triển của công nghệ, với sự quan tâm chu đáo đến tiềm năng của chúng và để quản lý các rủi ro của chúng. Chính phủ sẽ đóng một số vai trò như triệu tập các cuộc thảo luận về các vấn đề quan trọng và giúp đưa ra chương trình nghị sự cho tranh luận công cộng. Chính phủ cần theo dõi sự an toàn và tính công bằng của các ứng dụng khi chúng phát triển và thông qua các khung pháp lý để khuyến khích đổi mới cùng với bảo vệ công chúng. Chính phủ cần hỗ trợ nghiên cứu cơ bản và ứng dụng TTNT vào các hàng hóa công cộng, cũng như sự phát triển của một lực lượng lao động đa dạng có chuyên môn cao. Và bản thân chính phủ cần sử dụng TTNT để phục vụ công chúng nhanh hơn, hiệu quả hơn, và với chi phí thấp hơn. Nhiều lĩnh vực chính sách công, từ giáo dục và mạng lưới an toàn kinh tế, quốc phòng, bảo vệ môi trường, và tư pháp hình sự, sẽ thấy những cơ hội mới 40 và những thách thức mới do sự tiến bộ liên tục của TTNT. Chính phủ phải tiếp tục nâng cao năng lực của mình để hiểu và thích nghi với những thay đổi này. Do công nghệ TTNT liên tục phát triển, những người thực hành phải đảm bảo rằng các hệ thống dựa trên TTNT là có thể kiểm soát được; chúng là hệ thống mở, minh bạch và dễ hiểu; và rằng chúng có thể làm việc hiệu quả với mọi người; và rằng hoạt động của họ sẽ vẫn phù hợp với các giá trị và khát vọng của con người. Các nhà nghiên cứu và những người thực hành đã tăng cường sự chú ý của họ đến những thách thức này, và cần tiếp tục tập trung vào chúng. Phát triển và nghiên cứu máy móc thông minh có thể giúp chúng ta hiểu rõ hơn và đánh giá tốt hơn sự thông minh của con người. Được sử dụng một cách cẩn thận, TTNT có thể tăng cường trí thông minh của chúng ta, giúp chúng ta vạch ra một con đường tốt hơn và khôn ngoan hơn hướng về phía trước. Biên soạn: Trung tâm Phân tích thông tin TÀI LIỆU THAM KHẢO CHÍNH: "Preparing for the future of artificial intelligence". Office of Science and Technology Policy, 10/2016. “AAAI Presidential Panel on Long-Term AI Futures: 2008-2009 Study,” The Association for the Advancement of Artificial Intelligence, Artificial Intelligence:Opportunities and Risks. Policy paper by the Eective Altruism Foundation, 12/2015 “Big Data: Seizing Opportunities, Preserving Values,” Executive Office of the President, May 2014, “One Hundred Year Study on Artificial Intelligence (AI100),” Stanford University, accessed August 1, 2016, https://ai100.stanford.edu. “World Development Report 2016: Digital Dividends,” The World Bank Group, 2016, PUB-Replacement-PUBLIC.pdf. 41 Tổng luận 11-2016 CHUẨN BỊ CHO TƯƠNG LAI CỦA TRÍ TUỆ NHÂN TẠO