Làm thế nào chúng ta có thể thiết kế AI cho lợi ích lâu dài tốt nhất của nhân loại?
Trong trích đoạn độc quyền từ cuốn sách mới của cô, The The Nine Nine, trộm Amy Webb đã phác thảo sự cần thiết của sự lãnh đạo can đảm để ngăn chặn các công nghệ mới nổi như AI ra khỏi tầm tay và gây hại cho xã hội.
Làm thế nào chúng ta có thể thiết kế AI cho lợi ích lâu dài tốt nhất của nhân loại?
[Ảnh: Matthias Cooper ; Sáng tạo người dùng Flickr103 ]
BỞI AMY WEBBĐỌC LÂU
Vint Cerf, người đồng thiết kế các giao thức và kiến trúc ban đầu cho internet hiện đại của chúng ta, sử dụng một câu chuyện ngụ ngôn để giải thích tại sao sự lãnh đạo can đảm lại cực kỳ quan trọng trong bối cảnh các công nghệ mới nổi như trí tuệ nhân tạo.
Hãy tưởng tượng rằng bạn đang sống trong một cộng đồng nhỏ bé dưới chân một thung lũng được bao quanh bởi những ngọn núi. Trên đỉnh một ngọn núi xa là một tảng đá khổng lồ. Nó đã ở đó trong một thời gian dài và chưa bao giờ di chuyển, theo như cộng đồng của bạn quan tâm, nó chỉ hòa quyện vào phần còn lại của cảnh quan. Rồi một ngày nọ, bạn nhận thấy rằng tảng đá khổng lồ trông không ổn định, đó là vị trí để lăn xuống núi, tăng tốc và sức mạnh khi nó di chuyển, và nó sẽ phá hủy cộng đồng của bạn và mọi người trong đó. Trong thực tế, bạn nhận ra rằng có lẽ bạn đã bị mù với chuyển động của nó trong suốt cuộc đời của bạn. Viên đá khổng lồ đó luôn luôn chuyển động, từng chút một, nhưng bạn chưa bao giờ mở mắt trước những thay đổi nhỏ nhặt, tinh tế xảy ra hàng ngày: một sự thay đổi nhỏ trong bóng tối mà nó tạo ra, khoảng cách trực quan giữa nó và ngọn núi tiếp theo, âm thanh gần như không thể nhận ra được mà nó tạo ra khi mặt đất giòn tan bên dưới nó. Bạn nhận ra rằng chỉ cần một người, bạn không thể tự mình chạy lên núi và ngăn chặn tảng đá khổng lồ. Bạn quá nhỏ và tảng đá quá lớn.
Nhưng sau đó, bạn nhận ra rằng nếu bạn có thể tìm thấy một viên sỏi và đặt nó vào đúng vị trí, nó sẽ làm chậm đà của tảng đá và chuyển hướng nó chỉ một chút. Chỉ cần một viên sỏi sẽ không ngăn được tảng đá phá hủy ngôi làng, vì vậy bạn yêu cầu toàn bộ cộng đồng của bạn tham gia cùng bạn. Sỏi trong tay, mỗi người lên núi và chuẩn bị cho tảng đá cuội có sự hợp tác, giao tiếp và kế hoạch đối phó với tảng đá khi nó đi xuống. Mọi người và những viên đá cuội của họ không phải là một tảng đá lớn hơn, tạo nên sự khác biệt.
Công nghệ an toàn, có lợi không phải là kết quả của hy vọng và sự kiện. Nó là sản phẩm của sự lãnh đạo dũng cảm và sự hợp tác tận tâm, liên tục. Nhưng hiện tại, cộng đồng AI có tính cạnh tranh và thường hoạt động với mục đích chéo.
Tương lai của AI - và bằng cách mở rộng, tương lai của loài người - đã được kiểm soát bởi chỉ chín người khổng lồ công nghệ lớn, những người đang phát triển các khuôn khổ, chipset và mạng, tài trợ cho phần lớn nghiên cứu, kiếm được phần lớn bằng sáng chế và quá trình khai thác dữ liệu của chúng tôi theo những cách không minh bạch hoặc có thể quan sát được đối với chúng tôi. Sáu người đang ở Mỹ và tôi gọi họ là G-MAFIA: Google, Microsoft, Amazon, Facebook, IBM và Apple. Ba là ở Trung Quốc, và họ là BAT: Baidu, Alibaba và Tencent.
Big Nine đang chịu áp lực rất lớn - từ Phố Wall ở Hoa Kỳ và Bắc Kinh ở Trung Quốc - để thực hiện những kỳ vọng thiển cận, thậm chí với chi phí lớn cho tương lai của chúng tôi. Chúng ta phải trao quyền và thúc đẩy Big Nine thay đổi quỹ đạo của trí tuệ nhân tạo, bởi vì không có sự hỗ trợ từ chúng ta, họ không thể và sẽ không tự mình làm điều đó.
Những gì tiếp theo là một loạt các viên sỏi có thể đưa nhân loại vào một con đường tốt hơn cho tương lai.
Lãnh đạo của Big Nine đều hứa rằng họ đang phát triển và thúc đẩy AI vì lợi ích của nhân loại. Tôi tin rằng đó là ý định của họ, nhưng thực hiện lời hứa đó là vô cùng khó khăn. Để bắt đầu, chúng ta nên xác định thế nào là tốt? Từ đó có nghĩa là gì? Điều này trở lại những vấn đề trong bộ lạc của AI. Tất cả chúng ta không thể đồng ý trở thành những người làm việc tốt vì điều đó là quá mơ hồ để hướng dẫn các bộ lạc của AI.
Ví dụ, các bộ lạc của AI, được truyền cảm hứng bởi nhà triết học đạo đức phương Tây Immanuel Kant, học cách lập trình trước một hệ thống quyền và nghĩa vụ vào các hệ thống AI nhất định. Giết một con người là xấu; giữ một con người là tốt Sự cứng nhắc trong tuyên bố đó hoạt động nếu AI ở trong xe hơi và lựa chọn duy nhất của nó là đâm vào cây và làm người lái xe bị thương hoặc đâm vào đám đông người và giết chết tất cả. Các diễn giải cứng nhắc không giải quyết được các tình huống thực tế phức tạp hơn trong đó các lựa chọn sẽ đa dạng hơn: đâm vào cây và giết chết người lái xe; đâm vào đám đông và giết chết tám người; đâm vào vỉa hè và chỉ giết chết một cậu bé ba tuổi. Làm thế nào chúng ta có thể định nghĩa đâu là phiên bản tốt nhất của dòng Good Good trong các ví dụ này?
Một lần nữa, các khung có thể hữu ích cho Big Nine. Họ không đòi hỏi phải thành thạo các nhà triết học. Họ chỉ đòi hỏi một cách tiếp cận chậm hơn, có lương tâm hơn. Big Nine nên thực hiện các bước cụ thể về cách nguồn, đào tạo và sử dụng dữ liệu của chúng tôi, cách họ thuê nhân viên và cách truyền đạt hành vi đạo đức trong nơi làm việc.
Ở mỗi bước của quy trình, Big Nine nên phân tích hành động của mình và xác định xem liệu chúng có gây hại cho tương lai hay không và sau đó họ có thể xác minh rằng lựa chọn của họ là chính xác. Điều này bắt đầu với các tiêu chuẩn rõ ràng về sự thiên vị và minh bạch.
Ngay bây giờ, không có đường cơ sở hay bộ tiêu chuẩn nào để đánh giá thiên vị, và không có mục tiêu nào để vượt qua sự thiên vị hiện đang tồn tại trong suốt AI. Không có cơ chế để ưu tiên an toàn hơn tốc độ và đưa ra kinh nghiệm của riêng tôi ở Trung Quốc và số thảm họa an toàn tuyệt đối ở đó, tôi vô cùng lo lắng. Cầu và các tòa nhà thường xuyên bị sập, đường và vỉa hè bị khóa, và đã có quá nhiều trường hợp ô nhiễm thực phẩm được liệt kê ở đây. (Đó không phải là cường điệu. Đã có hơn 500.000 vụ bê bối về sức khỏe thực phẩm liên quan đến mọi thứ từ sữa bột và gạo chỉ trong vài năm qua.
Một trong những nguyên nhân chính cho những vấn đề này? Nơi làm việc của Trung Quốc khuyến khích cắt góc. Thật tuyệt vời khi tưởng tượng các hệ thống AI tiên tiến được xây dựng bởi các đội cắt góc. Không có các tiêu chuẩn an toàn toàn cầu có thể thi hành, BAT không có sự bảo vệ nào từ các chỉ thị của Bắc Kinh, tuy nhiên có thể bị cận thị, trong khi G-MAFIA phải trả lời cho các nhu cầu thị trường không được khuyến khích. Không có tiêu chuẩn cho sự minh bạch. Tại Hoa Kỳ, G-MAFIA, cùng với Liên minh Tự do Dân sự Hoa Kỳ, Quỹ New America và Trung tâm Berkman Klein tại Harvard là một phần của Quan hệ đối tác về AI, nhằm thúc đẩy tính minh bạch trong nghiên cứu AI. Quan hệ đối tác đã công bố một loạt các khuyến nghị tuyệt vời để giúp hướng dẫn nghiên cứu AI theo hướng tích cực, nhưng những nguyên lý đó không thể được thi hành theo bất kỳ cách nào và chúng không được quan sát trong tất cả các đơn vị kinh doanh của G-MAFIA. Họ cũng không được quan sát trong BAT.
Big Nine đang sử dụng xác chết (bộ dữ liệu đào tạo) bị sai lệch. Đây là kiến thức công cộng. Thách thức là việc cải thiện dữ liệu và mô hình học tập là một trách nhiệm tài chính lớn. Ví dụ: một kho dữ liệu có vấn đề nghiêm trọng là ImageNet, mà tôi đã tham khảo nhiều lần trong cuốn sách này. ImageNet chứa 14 triệu hình ảnh được dán nhãn và khoảng một nửa dữ liệu được dán nhãn đó chỉ đến từ Hoa Kỳ.
Ở Mỹ, hình ảnh cô dâu truyền thống của người Bỉ là một phụ nữ mặc váy trắng và khăn che mặt, mặc dù trong thực tế, hình ảnh đó không thể hiện gần như đại diện cho hầu hết mọi người trong ngày cưới của họ. Có những người phụ nữ kết hôn trong bộ quần áo, phụ nữ kết hôn trên bãi biển mặc váy mùa hè sặc sỡ và phụ nữ kết hôn mặc kimono và sari. Trong thực tế, váy cưới của riêng tôi là một màu be nhạt. Nhưng ImageNet không nhận ra cô dâu trong bất cứ điều gì ngoài một chiếc váy trắng và mạng che mặt.
Chúng tôi cũng biết rằng các bộ dữ liệu y tế có vấn đề. Các hệ thống được đào tạo để nhận biết ung thư chủ yếu là ăn ảnh và quét da sáng. Và trong tương lai, nó có thể dẫn đến sự chẩn đoán sai của những người có làn da đen và nâu. Nếu Big Nine biết có vấn đề trong tập đoàn và không làm gì với nó, thì họ đang dẫn AI đi sai đường.
Một cách phía trước là tự bật AI và đánh giá tất cả dữ liệu đào tạo hiện đang sử dụng. Điều này đã được thực hiện rất nhiều lần rồi, mặc dù không nhằm mục đích làm sạch dữ liệu đào tạo. Là một dự án phụ, Phòng thí nghiệm nghiên cứu Ấn Độ của IBM đã phân tích các mục được lọt vào danh sách cho Giải thưởng Man Booker cho văn học từ năm 1969 đến 2017. Nó tiết lộ về tính phổ biến của xu hướng giới tính và khuôn mẫu trong các cuốn sách về các tính năng khác nhau như nghề nghiệp, giới thiệu và hành động liên quan đến các nhân vật trong cuốn sách. Các nhân vật nam có nhiều khả năng có các công việc cấp cao hơn với tư cách là giám đốc, giáo sư và bác sĩ, trong khi các nhân vật nữ có nhiều khả năng được mô tả là giáo viên Hồi giáo hay điếm.
Nếu có thể sử dụng xử lý ngôn ngữ tự nhiên, thuật toán đồ thị và các kỹ thuật học máy cơ bản khác để loại bỏ những thành kiến trong giải thưởng văn học, thì chúng cũng có thể được sử dụng để tìm ra sự thiên vị trong các tập dữ liệu đào tạo phổ biến. Một khi vấn đề được phát hiện, chúng nên được công bố và sau đó sửa chữa. Điều này sẽ phục vụ một mục đích kép. Dữ liệu đào tạo có thể bị entropy, có thể gây nguy hiểm cho toàn bộ hệ thống. Với sự chú ý thường xuyên, dữ liệu đào tạo có thể được giữ sức khỏe.
Một giải pháp sẽ dành cho Big Nine, hoặc G-MAFIA, ít nhất là để chia sẻ chi phí tạo ra các bộ huấn luyện mới. Đây là một câu hỏi lớn vì việc tạo ra doanh nghiệp mới cần nhiều thời gian, tiền bạc và vốn nhân lực. Cho đến khi chúng tôi kiểm toán thành công các hệ thống AI của chúng tôi và các vấn đề còn tồn tại và các vấn đề còn tồn tại trong đó, Big Nine nên nhấn mạnh vào các chú thích của con người để dán nhãn nội dung và làm cho toàn bộ quá trình được minh bạch. Sau đó, trước khi các tập đoàn được sử dụng, dữ liệu cần được xác minh. Đó sẽ là một quá trình gian khổ và tẻ nhạt nhưng một quá trình sẽ phục vụ cho lợi ích tốt nhất của toàn bộ lĩnh vực.
Vâng, Big Nine cần dữ liệu của chúng tôi. Tuy nhiên, họ nên kiếm được nhiều tiền hơn là giả định niềm tin của chúng tôi. Thay vì thay đổi các điều khoản của thỏa thuận dịch vụ bằng cách sử dụng ngôn ngữ phức tạp, khó hiểu hoặc mời chúng tôi chơi trò chơi, họ nên giải thích và tiết lộ những gì họ đang làm. Khi Big Nine tự nghiên cứu, hoặc tự mình hoặc hợp tác với các trường đại học và những người khác trong hệ sinh thái AI, họ nên cam kết tiết lộ dữ liệu và giải thích đầy đủ động cơ và kết quả mong đợi của họ. Nếu họ đã làm, chúng tôi có thể sẵn sàng tham gia và hỗ trợ những nỗ lực của họ. Tôi sẽ là người đầu tiên trong dòng.
Có thể hiểu, công bố dữ liệu là một câu hỏi khó hơn ở Trung Quốc, nhưng đó là vì lợi ích tốt nhất của công dân. BAT không nên đồng ý xây dựng các sản phẩm cho mục đích kiểm soát và giới hạn các quyền tự do của công dân Trung Quốc và của các đối tác. Giám đốc điều hành BAT phải thể hiện sự lãnh đạo dũng cảm. Họ phải sẵn sàng và có thể không đồng ý với Bắc Kinh: từ chối các yêu cầu giám sát, bảo vệ dữ liệu của công dân Trung Quốc và đảm bảo rằng ít nhất trong lĩnh vực kỹ thuật số, mọi người đều được đối xử công bằng và bình đẳng.
Big Nine nên theo đuổi một chương trình nghiên cứu tỉnh táo. Mục tiêu rất đơn giản và dễ hiểu: xây dựng công nghệ tiến bộ nhân loại mà không khiến chúng ta gặp rủi ro. Một cách khả thi để đạt được điều này là thông qua một thứ gọi là tiến bộ công nghệ khác biệt, mà thường được tranh luận giữa các bộ lạc của AI. Nó sẽ ưu tiên tiến độ giảm rủi ro AI hơn tiến độ tăng rủi ro. Đó là một ý tưởng tốt nhưng khó thực hiện. Ví dụ, các mạng đối nghịch chung, được đề cập trong các tình huống, có thể rất rủi ro nếu bị tin tặc khai thác và sử dụng. Nhưng chúng cũng là một con đường dẫn đến những thành tựu lớn trong nghiên cứu. Thay vì cho rằng sẽ không có ai tái sử dụng AI cho ác nhân hoặc giả định rằng chúng ta có thể giải quyết vấn đề một cách đơn giản khi chúng phát sinh. . Do đó, bất kỳ khoản đầu tư tài chính nào được Big Nine chấp nhận hoặc thực hiện nên bao gồm tài trợ cho việc sử dụng có lợi và lập bản đồ rủi ro. Ví dụ: nếu Google theo đuổi nghiên cứu mạng đối thủ rộng rãi, thì Google nên dành một lượng thời gian hợp lý, nguồn nhân viên và tiền để điều tra, lập bản đồ và kiểm tra các hậu quả tiêu cực.
Một yêu cầu như thế này cũng sẽ phục vụ để hạn chế những kỳ vọng về lợi nhuận nhanh. Cố tình làm chậm chu kỳ phát triển của AI không phải là một khuyến nghị phổ biến, nhưng nó là một vấn đề sống còn. Sẽ an toàn hơn cho chúng tôi khi nghĩ qua và lên kế hoạch cho rủi ro trước hơn là phản ứng đơn giản sau khi có sự cố xảy ra.
Tại Hoa Kỳ, G-MAFIA có thể cam kết tính toán lại các quy trình tuyển dụng của chính mình, hiện tại ưu tiên các kỹ năng của một người thuê tiềm năng và liệu họ có thích vào văn hóa công ty hay không. Điều mà quá trình này vô tình bỏ qua là sự hiểu biết cá nhân về đạo đức. Hilary Mason, một nhà khoa học dữ liệu rất được kính trọng và là người sáng lập Fast Forward Labs, đã giải thích một quy trình đơn giản để sàng lọc đạo đức trong các cuộc phỏng vấn. Cô đề nghị hỏi những câu hỏi nhọn và chăm chú lắng nghe câu trả lời của thí sinh. Những câu hỏi như: Bạn đang làm việc trên một mô hình để người tiêu dùng tiếp cận với dịch vụ tài chính. Chủng tộc là một tính năng quan trọng trong mô hình của bạn, nhưng bạn không thể sử dụng chủng tộc. Bạn làm nghề gì?" và Bạn được yêu cầu sử dụng dữ liệu lưu lượng truy cập mạng để cung cấp các khoản vay cho các doanh nghiệp nhỏ. Nó chỉ ra rằng dữ liệu có sẵn không nghiêm ngặt thông báo rủi ro tín dụng.
Tùy thuộc vào câu trả lời, ứng viên nên được tuyển dụng, được thuê một cách có điều kiện và được yêu cầu hoàn thành đào tạo thiên vị vô thức trước khi họ bắt đầu làm việc, hoặc không đủ điều kiện. Big Nine có thể xây dựng một nền văn hóa hỗ trợ đạo đức trong AI bằng cách thuê các học giả, các nhà đạo đức được đào tạo và các nhà phân tích rủi ro. Lý tưởng nhất là những thuê này sẽ được nhúng trong toàn bộ tổ chức: trên các nhóm sản phẩm, phần cứng và sản phẩm tiêu dùng; về đội ngũ bán hàng và dịch vụ; chương trình kỹ thuật đồng lãnh đạo; xây dựng mạng lưới và chuỗi cung ứng; trong các nhóm thiết kế và chiến lược; về nhân sự và pháp lý; và trên các đội tiếp thị và truyền thông.
Big Nine nên xây dựng một quy trình để đánh giá ý nghĩa đạo đức của nghiên cứu, quy trình làm việc, dự án, quan hệ đối tác và sản phẩm, và quy trình đó nên được kết hợp với hầu hết các chức năng công việc trong các công ty. Như một cử chỉ tin cậy, Big Nine nên xuất bản quy trình đó để tất cả chúng ta có thể hiểu rõ hơn về cách các quyết định được đưa ra liên quan đến dữ liệu của chúng tôi. Dù là hợp tác hay cá nhân, Big Nine nên phát triển một bộ quy tắc ứng xử dành riêng cho các nhân viên AI của mình. Nó sẽ phản ánh các quyền cơ bản của con người và nó cũng phản ánh các giá trị văn hóa và doanh nghiệp độc đáo của công ty. Và nếu bất cứ ai vi phạm mã đó, một kênh thổi còi rõ ràng và bảo vệ nên được mở cho các nhân viên.
Trên thực tế, tất cả các biện pháp này sẽ tác động tạm thời và tiêu cực đến doanh thu ngắn hạn cho Big Nine. Các nhà đầu tư cần cho phép họ một số phòng thở.
AI là một không gian rộng lớn, và chúng ta chỉ mới bắt đầu lên núi. Đã đến lúc nắm lấy viên sỏi của chúng tôi và bắt đầu đi đúng hướng.
Làm thế nào chúng ta có thể thiết kế AI cho lợi ích lâu dài tốt nhất của nhân loại?
[Ảnh: Matthias Cooper ; Sáng tạo người dùng Flickr103 ]
BỞI AMY WEBBĐỌC LÂU
Vint Cerf, người đồng thiết kế các giao thức và kiến trúc ban đầu cho internet hiện đại của chúng ta, sử dụng một câu chuyện ngụ ngôn để giải thích tại sao sự lãnh đạo can đảm lại cực kỳ quan trọng trong bối cảnh các công nghệ mới nổi như trí tuệ nhân tạo.
Hãy tưởng tượng rằng bạn đang sống trong một cộng đồng nhỏ bé dưới chân một thung lũng được bao quanh bởi những ngọn núi. Trên đỉnh một ngọn núi xa là một tảng đá khổng lồ. Nó đã ở đó trong một thời gian dài và chưa bao giờ di chuyển, theo như cộng đồng của bạn quan tâm, nó chỉ hòa quyện vào phần còn lại của cảnh quan. Rồi một ngày nọ, bạn nhận thấy rằng tảng đá khổng lồ trông không ổn định, đó là vị trí để lăn xuống núi, tăng tốc và sức mạnh khi nó di chuyển, và nó sẽ phá hủy cộng đồng của bạn và mọi người trong đó. Trong thực tế, bạn nhận ra rằng có lẽ bạn đã bị mù với chuyển động của nó trong suốt cuộc đời của bạn. Viên đá khổng lồ đó luôn luôn chuyển động, từng chút một, nhưng bạn chưa bao giờ mở mắt trước những thay đổi nhỏ nhặt, tinh tế xảy ra hàng ngày: một sự thay đổi nhỏ trong bóng tối mà nó tạo ra, khoảng cách trực quan giữa nó và ngọn núi tiếp theo, âm thanh gần như không thể nhận ra được mà nó tạo ra khi mặt đất giòn tan bên dưới nó. Bạn nhận ra rằng chỉ cần một người, bạn không thể tự mình chạy lên núi và ngăn chặn tảng đá khổng lồ. Bạn quá nhỏ và tảng đá quá lớn.
Nhưng sau đó, bạn nhận ra rằng nếu bạn có thể tìm thấy một viên sỏi và đặt nó vào đúng vị trí, nó sẽ làm chậm đà của tảng đá và chuyển hướng nó chỉ một chút. Chỉ cần một viên sỏi sẽ không ngăn được tảng đá phá hủy ngôi làng, vì vậy bạn yêu cầu toàn bộ cộng đồng của bạn tham gia cùng bạn. Sỏi trong tay, mỗi người lên núi và chuẩn bị cho tảng đá cuội có sự hợp tác, giao tiếp và kế hoạch đối phó với tảng đá khi nó đi xuống. Mọi người và những viên đá cuội của họ không phải là một tảng đá lớn hơn, tạo nên sự khác biệt.
Công nghệ an toàn, có lợi không phải là kết quả của hy vọng và sự kiện. Nó là sản phẩm của sự lãnh đạo dũng cảm và sự hợp tác tận tâm, liên tục. Nhưng hiện tại, cộng đồng AI có tính cạnh tranh và thường hoạt động với mục đích chéo.
Tương lai của AI - và bằng cách mở rộng, tương lai của loài người - đã được kiểm soát bởi chỉ chín người khổng lồ công nghệ lớn, những người đang phát triển các khuôn khổ, chipset và mạng, tài trợ cho phần lớn nghiên cứu, kiếm được phần lớn bằng sáng chế và quá trình khai thác dữ liệu của chúng tôi theo những cách không minh bạch hoặc có thể quan sát được đối với chúng tôi. Sáu người đang ở Mỹ và tôi gọi họ là G-MAFIA: Google, Microsoft, Amazon, Facebook, IBM và Apple. Ba là ở Trung Quốc, và họ là BAT: Baidu, Alibaba và Tencent.
Big Nine đang chịu áp lực rất lớn - từ Phố Wall ở Hoa Kỳ và Bắc Kinh ở Trung Quốc - để thực hiện những kỳ vọng thiển cận, thậm chí với chi phí lớn cho tương lai của chúng tôi. Chúng ta phải trao quyền và thúc đẩy Big Nine thay đổi quỹ đạo của trí tuệ nhân tạo, bởi vì không có sự hỗ trợ từ chúng ta, họ không thể và sẽ không tự mình làm điều đó.
Những gì tiếp theo là một loạt các viên sỏi có thể đưa nhân loại vào một con đường tốt hơn cho tương lai.
Lãnh đạo của Big Nine đều hứa rằng họ đang phát triển và thúc đẩy AI vì lợi ích của nhân loại. Tôi tin rằng đó là ý định của họ, nhưng thực hiện lời hứa đó là vô cùng khó khăn. Để bắt đầu, chúng ta nên xác định thế nào là tốt? Từ đó có nghĩa là gì? Điều này trở lại những vấn đề trong bộ lạc của AI. Tất cả chúng ta không thể đồng ý trở thành những người làm việc tốt vì điều đó là quá mơ hồ để hướng dẫn các bộ lạc của AI.
Ví dụ, các bộ lạc của AI, được truyền cảm hứng bởi nhà triết học đạo đức phương Tây Immanuel Kant, học cách lập trình trước một hệ thống quyền và nghĩa vụ vào các hệ thống AI nhất định. Giết một con người là xấu; giữ một con người là tốt Sự cứng nhắc trong tuyên bố đó hoạt động nếu AI ở trong xe hơi và lựa chọn duy nhất của nó là đâm vào cây và làm người lái xe bị thương hoặc đâm vào đám đông người và giết chết tất cả. Các diễn giải cứng nhắc không giải quyết được các tình huống thực tế phức tạp hơn trong đó các lựa chọn sẽ đa dạng hơn: đâm vào cây và giết chết người lái xe; đâm vào đám đông và giết chết tám người; đâm vào vỉa hè và chỉ giết chết một cậu bé ba tuổi. Làm thế nào chúng ta có thể định nghĩa đâu là phiên bản tốt nhất của dòng Good Good trong các ví dụ này?
Một lần nữa, các khung có thể hữu ích cho Big Nine. Họ không đòi hỏi phải thành thạo các nhà triết học. Họ chỉ đòi hỏi một cách tiếp cận chậm hơn, có lương tâm hơn. Big Nine nên thực hiện các bước cụ thể về cách nguồn, đào tạo và sử dụng dữ liệu của chúng tôi, cách họ thuê nhân viên và cách truyền đạt hành vi đạo đức trong nơi làm việc.
Ở mỗi bước của quy trình, Big Nine nên phân tích hành động của mình và xác định xem liệu chúng có gây hại cho tương lai hay không và sau đó họ có thể xác minh rằng lựa chọn của họ là chính xác. Điều này bắt đầu với các tiêu chuẩn rõ ràng về sự thiên vị và minh bạch.
Ngay bây giờ, không có đường cơ sở hay bộ tiêu chuẩn nào để đánh giá thiên vị, và không có mục tiêu nào để vượt qua sự thiên vị hiện đang tồn tại trong suốt AI. Không có cơ chế để ưu tiên an toàn hơn tốc độ và đưa ra kinh nghiệm của riêng tôi ở Trung Quốc và số thảm họa an toàn tuyệt đối ở đó, tôi vô cùng lo lắng. Cầu và các tòa nhà thường xuyên bị sập, đường và vỉa hè bị khóa, và đã có quá nhiều trường hợp ô nhiễm thực phẩm được liệt kê ở đây. (Đó không phải là cường điệu. Đã có hơn 500.000 vụ bê bối về sức khỏe thực phẩm liên quan đến mọi thứ từ sữa bột và gạo chỉ trong vài năm qua.
Một trong những nguyên nhân chính cho những vấn đề này? Nơi làm việc của Trung Quốc khuyến khích cắt góc. Thật tuyệt vời khi tưởng tượng các hệ thống AI tiên tiến được xây dựng bởi các đội cắt góc. Không có các tiêu chuẩn an toàn toàn cầu có thể thi hành, BAT không có sự bảo vệ nào từ các chỉ thị của Bắc Kinh, tuy nhiên có thể bị cận thị, trong khi G-MAFIA phải trả lời cho các nhu cầu thị trường không được khuyến khích. Không có tiêu chuẩn cho sự minh bạch. Tại Hoa Kỳ, G-MAFIA, cùng với Liên minh Tự do Dân sự Hoa Kỳ, Quỹ New America và Trung tâm Berkman Klein tại Harvard là một phần của Quan hệ đối tác về AI, nhằm thúc đẩy tính minh bạch trong nghiên cứu AI. Quan hệ đối tác đã công bố một loạt các khuyến nghị tuyệt vời để giúp hướng dẫn nghiên cứu AI theo hướng tích cực, nhưng những nguyên lý đó không thể được thi hành theo bất kỳ cách nào và chúng không được quan sát trong tất cả các đơn vị kinh doanh của G-MAFIA. Họ cũng không được quan sát trong BAT.
Big Nine đang sử dụng xác chết (bộ dữ liệu đào tạo) bị sai lệch. Đây là kiến thức công cộng. Thách thức là việc cải thiện dữ liệu và mô hình học tập là một trách nhiệm tài chính lớn. Ví dụ: một kho dữ liệu có vấn đề nghiêm trọng là ImageNet, mà tôi đã tham khảo nhiều lần trong cuốn sách này. ImageNet chứa 14 triệu hình ảnh được dán nhãn và khoảng một nửa dữ liệu được dán nhãn đó chỉ đến từ Hoa Kỳ.
Ở Mỹ, hình ảnh cô dâu truyền thống của người Bỉ là một phụ nữ mặc váy trắng và khăn che mặt, mặc dù trong thực tế, hình ảnh đó không thể hiện gần như đại diện cho hầu hết mọi người trong ngày cưới của họ. Có những người phụ nữ kết hôn trong bộ quần áo, phụ nữ kết hôn trên bãi biển mặc váy mùa hè sặc sỡ và phụ nữ kết hôn mặc kimono và sari. Trong thực tế, váy cưới của riêng tôi là một màu be nhạt. Nhưng ImageNet không nhận ra cô dâu trong bất cứ điều gì ngoài một chiếc váy trắng và mạng che mặt.
Chúng tôi cũng biết rằng các bộ dữ liệu y tế có vấn đề. Các hệ thống được đào tạo để nhận biết ung thư chủ yếu là ăn ảnh và quét da sáng. Và trong tương lai, nó có thể dẫn đến sự chẩn đoán sai của những người có làn da đen và nâu. Nếu Big Nine biết có vấn đề trong tập đoàn và không làm gì với nó, thì họ đang dẫn AI đi sai đường.
Một cách phía trước là tự bật AI và đánh giá tất cả dữ liệu đào tạo hiện đang sử dụng. Điều này đã được thực hiện rất nhiều lần rồi, mặc dù không nhằm mục đích làm sạch dữ liệu đào tạo. Là một dự án phụ, Phòng thí nghiệm nghiên cứu Ấn Độ của IBM đã phân tích các mục được lọt vào danh sách cho Giải thưởng Man Booker cho văn học từ năm 1969 đến 2017. Nó tiết lộ về tính phổ biến của xu hướng giới tính và khuôn mẫu trong các cuốn sách về các tính năng khác nhau như nghề nghiệp, giới thiệu và hành động liên quan đến các nhân vật trong cuốn sách. Các nhân vật nam có nhiều khả năng có các công việc cấp cao hơn với tư cách là giám đốc, giáo sư và bác sĩ, trong khi các nhân vật nữ có nhiều khả năng được mô tả là giáo viên Hồi giáo hay điếm.
Nếu có thể sử dụng xử lý ngôn ngữ tự nhiên, thuật toán đồ thị và các kỹ thuật học máy cơ bản khác để loại bỏ những thành kiến trong giải thưởng văn học, thì chúng cũng có thể được sử dụng để tìm ra sự thiên vị trong các tập dữ liệu đào tạo phổ biến. Một khi vấn đề được phát hiện, chúng nên được công bố và sau đó sửa chữa. Điều này sẽ phục vụ một mục đích kép. Dữ liệu đào tạo có thể bị entropy, có thể gây nguy hiểm cho toàn bộ hệ thống. Với sự chú ý thường xuyên, dữ liệu đào tạo có thể được giữ sức khỏe.
Một giải pháp sẽ dành cho Big Nine, hoặc G-MAFIA, ít nhất là để chia sẻ chi phí tạo ra các bộ huấn luyện mới. Đây là một câu hỏi lớn vì việc tạo ra doanh nghiệp mới cần nhiều thời gian, tiền bạc và vốn nhân lực. Cho đến khi chúng tôi kiểm toán thành công các hệ thống AI của chúng tôi và các vấn đề còn tồn tại và các vấn đề còn tồn tại trong đó, Big Nine nên nhấn mạnh vào các chú thích của con người để dán nhãn nội dung và làm cho toàn bộ quá trình được minh bạch. Sau đó, trước khi các tập đoàn được sử dụng, dữ liệu cần được xác minh. Đó sẽ là một quá trình gian khổ và tẻ nhạt nhưng một quá trình sẽ phục vụ cho lợi ích tốt nhất của toàn bộ lĩnh vực.
Vâng, Big Nine cần dữ liệu của chúng tôi. Tuy nhiên, họ nên kiếm được nhiều tiền hơn là giả định niềm tin của chúng tôi. Thay vì thay đổi các điều khoản của thỏa thuận dịch vụ bằng cách sử dụng ngôn ngữ phức tạp, khó hiểu hoặc mời chúng tôi chơi trò chơi, họ nên giải thích và tiết lộ những gì họ đang làm. Khi Big Nine tự nghiên cứu, hoặc tự mình hoặc hợp tác với các trường đại học và những người khác trong hệ sinh thái AI, họ nên cam kết tiết lộ dữ liệu và giải thích đầy đủ động cơ và kết quả mong đợi của họ. Nếu họ đã làm, chúng tôi có thể sẵn sàng tham gia và hỗ trợ những nỗ lực của họ. Tôi sẽ là người đầu tiên trong dòng.
Có thể hiểu, công bố dữ liệu là một câu hỏi khó hơn ở Trung Quốc, nhưng đó là vì lợi ích tốt nhất của công dân. BAT không nên đồng ý xây dựng các sản phẩm cho mục đích kiểm soát và giới hạn các quyền tự do của công dân Trung Quốc và của các đối tác. Giám đốc điều hành BAT phải thể hiện sự lãnh đạo dũng cảm. Họ phải sẵn sàng và có thể không đồng ý với Bắc Kinh: từ chối các yêu cầu giám sát, bảo vệ dữ liệu của công dân Trung Quốc và đảm bảo rằng ít nhất trong lĩnh vực kỹ thuật số, mọi người đều được đối xử công bằng và bình đẳng.
Big Nine nên theo đuổi một chương trình nghiên cứu tỉnh táo. Mục tiêu rất đơn giản và dễ hiểu: xây dựng công nghệ tiến bộ nhân loại mà không khiến chúng ta gặp rủi ro. Một cách khả thi để đạt được điều này là thông qua một thứ gọi là tiến bộ công nghệ khác biệt, mà thường được tranh luận giữa các bộ lạc của AI. Nó sẽ ưu tiên tiến độ giảm rủi ro AI hơn tiến độ tăng rủi ro. Đó là một ý tưởng tốt nhưng khó thực hiện. Ví dụ, các mạng đối nghịch chung, được đề cập trong các tình huống, có thể rất rủi ro nếu bị tin tặc khai thác và sử dụng. Nhưng chúng cũng là một con đường dẫn đến những thành tựu lớn trong nghiên cứu. Thay vì cho rằng sẽ không có ai tái sử dụng AI cho ác nhân hoặc giả định rằng chúng ta có thể giải quyết vấn đề một cách đơn giản khi chúng phát sinh. . Do đó, bất kỳ khoản đầu tư tài chính nào được Big Nine chấp nhận hoặc thực hiện nên bao gồm tài trợ cho việc sử dụng có lợi và lập bản đồ rủi ro. Ví dụ: nếu Google theo đuổi nghiên cứu mạng đối thủ rộng rãi, thì Google nên dành một lượng thời gian hợp lý, nguồn nhân viên và tiền để điều tra, lập bản đồ và kiểm tra các hậu quả tiêu cực.
Một yêu cầu như thế này cũng sẽ phục vụ để hạn chế những kỳ vọng về lợi nhuận nhanh. Cố tình làm chậm chu kỳ phát triển của AI không phải là một khuyến nghị phổ biến, nhưng nó là một vấn đề sống còn. Sẽ an toàn hơn cho chúng tôi khi nghĩ qua và lên kế hoạch cho rủi ro trước hơn là phản ứng đơn giản sau khi có sự cố xảy ra.
Tại Hoa Kỳ, G-MAFIA có thể cam kết tính toán lại các quy trình tuyển dụng của chính mình, hiện tại ưu tiên các kỹ năng của một người thuê tiềm năng và liệu họ có thích vào văn hóa công ty hay không. Điều mà quá trình này vô tình bỏ qua là sự hiểu biết cá nhân về đạo đức. Hilary Mason, một nhà khoa học dữ liệu rất được kính trọng và là người sáng lập Fast Forward Labs, đã giải thích một quy trình đơn giản để sàng lọc đạo đức trong các cuộc phỏng vấn. Cô đề nghị hỏi những câu hỏi nhọn và chăm chú lắng nghe câu trả lời của thí sinh. Những câu hỏi như: Bạn đang làm việc trên một mô hình để người tiêu dùng tiếp cận với dịch vụ tài chính. Chủng tộc là một tính năng quan trọng trong mô hình của bạn, nhưng bạn không thể sử dụng chủng tộc. Bạn làm nghề gì?" và Bạn được yêu cầu sử dụng dữ liệu lưu lượng truy cập mạng để cung cấp các khoản vay cho các doanh nghiệp nhỏ. Nó chỉ ra rằng dữ liệu có sẵn không nghiêm ngặt thông báo rủi ro tín dụng.
Tùy thuộc vào câu trả lời, ứng viên nên được tuyển dụng, được thuê một cách có điều kiện và được yêu cầu hoàn thành đào tạo thiên vị vô thức trước khi họ bắt đầu làm việc, hoặc không đủ điều kiện. Big Nine có thể xây dựng một nền văn hóa hỗ trợ đạo đức trong AI bằng cách thuê các học giả, các nhà đạo đức được đào tạo và các nhà phân tích rủi ro. Lý tưởng nhất là những thuê này sẽ được nhúng trong toàn bộ tổ chức: trên các nhóm sản phẩm, phần cứng và sản phẩm tiêu dùng; về đội ngũ bán hàng và dịch vụ; chương trình kỹ thuật đồng lãnh đạo; xây dựng mạng lưới và chuỗi cung ứng; trong các nhóm thiết kế và chiến lược; về nhân sự và pháp lý; và trên các đội tiếp thị và truyền thông.
Big Nine nên xây dựng một quy trình để đánh giá ý nghĩa đạo đức của nghiên cứu, quy trình làm việc, dự án, quan hệ đối tác và sản phẩm, và quy trình đó nên được kết hợp với hầu hết các chức năng công việc trong các công ty. Như một cử chỉ tin cậy, Big Nine nên xuất bản quy trình đó để tất cả chúng ta có thể hiểu rõ hơn về cách các quyết định được đưa ra liên quan đến dữ liệu của chúng tôi. Dù là hợp tác hay cá nhân, Big Nine nên phát triển một bộ quy tắc ứng xử dành riêng cho các nhân viên AI của mình. Nó sẽ phản ánh các quyền cơ bản của con người và nó cũng phản ánh các giá trị văn hóa và doanh nghiệp độc đáo của công ty. Và nếu bất cứ ai vi phạm mã đó, một kênh thổi còi rõ ràng và bảo vệ nên được mở cho các nhân viên.
Trên thực tế, tất cả các biện pháp này sẽ tác động tạm thời và tiêu cực đến doanh thu ngắn hạn cho Big Nine. Các nhà đầu tư cần cho phép họ một số phòng thở.
AI là một không gian rộng lớn, và chúng ta chỉ mới bắt đầu lên núi. Đã đến lúc nắm lấy viên sỏi của chúng tôi và bắt đầu đi đúng hướng.
Nhận xét
Đăng nhận xét