PHẢI CÓ KHẢ NĂNG KIỂM SOÁT

Tôi từng có ý định viết một cuốn sách với bức tranh tươi sáng hơn về tương lai của công nghệ và tương lai nói chung. Mặc dù thế giới ngày nay khôn ngoan và thận trọng hơn về "công nghệ", vẫn còn rất nhiều điều để lạc quan. Nhưng trong suốt đại dịch COVID-19, tôi đã có thời gian để dừng lại và suy ngẫm. Tôi cho phép mình kết nối lại với một sự thật mà tôi đã, nếu không nói là phủ nhận, thì cũng đã đánh giá thấp quá lâu. Sự thay đổi theo cấp số nhân đang đến. Điều đó là không thể tránh khỏi. Sự thật đó cần phải được giải quyết.

Nếu bạn chấp nhận ngay cả một phần nhỏ trong lập luận trung tâm của cuốn sách này, câu hỏi thực sự là nên làm gì về điều đó. Khi chúng ta đã thừa nhận thực tế này, điều gì sẽ thực sự tạo ra sự khác biệt? Đối mặt với một tình huống khó xử như tôi đã phác thảo trong ba phần đầu của cuốn sách này, việc kiềm chế, ngay cả trong lý thuyết, sẽ trông như thế nào?

Trong những năm gần đây, tôi đã có vô số cuộc trò chuyện về câu hỏi này. Tôi đã thảo luận với các nhà nghiên cứu AI hàng đầu, với các CEO, với những người bạn cũ, với các nhà hoạch định chính sách ở Washington, Bắc Kinh và Brussels, với các nhà khoa học và luật sư, với học sinh trung học, và với những người ngẫu nhiên sẵn sàng lắng nghe tôi ở quán rượu. Mọi người ngay lập tức tìm kiếm những câu trả lời dễ dàng, và gần như không có ngoại lệ, mọi người đều có cùng một phương pháp: quy định.

Ở đây dường như là câu trả lời, lối thoát khỏi tình thế tiến thoái lưỡng nan, chìa khóa để kiềm chế, người cứu rỗi của quốc gia và của nền văn minh như chúng ta biết. Quy định khéo léo, cân bằng nhu cầu tiến bộ bên cạnh các ràng buộc an toàn hợp lý, ở cấp quốc gia và siêu quốc gia, bao trùm mọi thứ từ các gã khổng lồ công nghệ và quân đội đến các nhóm nghiên cứu nhỏ của các trường đại học và các công ty khởi nghiệp, được gắn kết trong một khuôn khổ toàn diện, có thể thi hành. Chúng ta đã làm điều đó trước đây, lập luận cho rằng; hãy nhìn vào ô tô, máy bay và thuốc men. Phải chăng đây là cách chúng ta quản lý và kiềm chế làn sóng sắp tới?

Nếu chỉ đơn giản như vậy. Nói “Quy định!” trước sự thay đổi công nghệ tuyệt vời là phần dễ dàng. Đó cũng là câu trả lời cổ điển tránh né sự bi quan. Đó là một cách đơn giản để gạt bỏ vấn đề. Trên giấy tờ, quy định trông hấp dẫn, thậm chí hiển nhiên và đơn giản; việc đề xuất nó khiến mọi người có vẻ thông minh, quan tâm và thậm chí nhẹ nhõm. Ngụ ý không nói ra là nó có thể giải quyết được, nhưng đó là vấn đề của người khác. Tuy nhiên, nếu nhìn sâu hơn, những vết nứt trở nên rõ ràng.

Trong phần 4, chúng ta sẽ khám phá nhiều cách mà xã hội có thể bắt đầu đối mặt với tình thế tiến thoái lưỡng nan, để thoát khỏi sự bi quan và thực sự giải quyết vấn đề kiềm chế, để tìm kiếm câu trả lời trong một thế giới mà việc giải quyết nó phải là khả thi. Tuy nhiên, trước khi làm điều đó, điều quan trọng là phải thừa nhận một sự thật trung tâm: chỉ có quy định thôi là không đủ. Tổ chức một cuộc họp bàn tại Nhà Trắng và phát biểu chân thành là dễ dàng; ban hành luật hiệu quả là một vấn đề khác. Như chúng ta đã thấy, các chính phủ đang đối mặt với nhiều cuộc khủng hoảng độc lập với làn sóng sắp tới—sự suy giảm niềm tin, bất bình đẳng sâu sắc, chính trị phân cực, chỉ để kể tên một vài vấn đề. Họ đang bị quá tải, lực lượng lao động của họ thiếu kỹ năng và không chuẩn bị cho những loại thách thức phức tạp và nhanh chóng mà phía trước.

Trong khi những người nghiệp dư trong gara có được quyền truy cập vào các công cụ mạnh mẽ hơn và các công ty công nghệ chi hàng tỷ đô la cho nghiên cứu và phát triển, hầu hết các chính trị gia bị mắc kẹt trong một chu kỳ tin tức hai mươi bốn giờ với những câu nói ngắn và cơ hội chụp ảnh. Khi một chính phủ đã suy giảm đến mức chỉ đơn giản là lảo đảo từ khủng hoảng này sang khủng hoảng khác, nó có rất ít không gian để giải quyết những lực lượng địa chất đòi hỏi chuyên môn sâu và phán đoán cẩn thận trong những khoảng thời gian không chắc chắn. Thật dễ dàng để phớt lờ những vấn đề này để ủng hộ những vấn đề dễ giải quyết hơn có khả năng giành được phiếu bầu trong cuộc bầu cử tiếp theo.

Ngay cả các nhà công nghệ và nhà nghiên cứu trong các lĩnh vực như AI cũng gặp khó khăn với tốc độ thay đổi. Vậy thì, các nhà quản lý có cơ hội nào, khi có ít nguồn lực hơn? Họ làm thế nào để tính toán cho một thời đại siêu tiến hóa, cho tốc độ và sự khó lường của làn sóng sắp tới?

Công nghệ phát triển từng tuần. Việc soạn thảo và thông qua luật pháp mất nhiều năm. Hãy xem sự xuất hiện của một sản phẩm mới trên thị trường như chuông cửa Ring. Ring đã gắn một camera ở cửa trước của bạn và kết nối nó với điện thoại của bạn. Sản phẩm này đã được chấp nhận rất nhanh chóng và hiện nay đã trở nên phổ biến đến mức nó đã thay đổi cơ bản bản chất của những gì cần được quản lý; đột nhiên, con phố ngoại ô trung bình của bạn đã chuyển từ không gian tương đối riêng tư sang bị giám sát và ghi lại. Khi cuộc trò chuyện về quy định bắt kịp, Ring đã tạo ra một mạng lưới camera rộng lớn, thu thập dữ liệu và hình ảnh từ cửa trước của mọi người trên khắp thế giới. Hai mươi năm kể từ khi mạng xã hội ra đời, không có cách tiếp cận nhất quán nào đối với sự xuất hiện của một nền tảng mới mạnh mẽ (và bên cạnh đó, liệu quyền riêng tư, sự phân cực, độc quyền, sở hữu nước ngoài hay sức khỏe tâm thần có phải là vấn đề cốt lõi - hay tất cả những điều trên?). Làn sóng sắp tới sẽ làm trầm trọng thêm động lực này.

Các cuộc thảo luận về công nghệ lan tỏa trên mạng xã hội, blog và bản tin, tạp chí học thuật, vô số hội nghị, hội thảo và các buổi workshop, các chủ đề của chúng ngày càng xa rời và bị lạc trong tiếng ồn. Mọi người đều có quan điểm, nhưng chúng không tạo thành một chương trình nhất quán. Nói về đạo đức của các hệ thống học máy là một thế giới khác so với, chẳng hạn, an toàn kỹ thuật của sinh học tổng hợp. Những cuộc thảo luận này diễn ra trong các silo cô lập, vang vọng. Chúng hiếm khi bùng nổ ra ngoài.

Tuy nhiên, tôi tin rằng chúng là những khía cạnh của cùng một hiện tượng; tất cả đều nhằm giải quyết các khía cạnh khác nhau của cùng một làn sóng. Chỉ nói chuyện riêng lẻ về thiên lệch thuật toán, rủi ro sinh học, chiến tranh drone, tác động kinh tế của robot hoặc các vấn đề riêng tư của điện toán lượng tử là không đủ. Điều này hoàn toàn làm giảm tầm quan trọng của sự liên quan giữa nguyên nhân và hậu quả. Chúng ta cần một cách tiếp cận thống nhất những cuộc trò chuyện khác nhau này, bao quát tất cả các khía cạnh khác nhau của rủi ro, một khái niệm đa mục đích cho cuộc cách mạng đa mục đích này.

Giá của những hiểu biết rải rác là thất bại, và chúng ta biết điều đó trông như thế nào. Hiện tại, những hiểu biết rải rác là tất cả những gì chúng ta có: hàng trăm chương trình khác nhau ở những phần xa xôi của công nghệ, đang cố gắng thực hiện những nỗ lực tốt đẹp nhưng không có kế hoạch hay định hướng tổng thể. Ở cấp độ cao nhất, chúng ta cần một mục tiêu rõ ràng và đơn giản, một mệnh lệnh tích hợp tất cả các nỗ lực khác nhau xung quanh công nghệ thành một gói hợp nhất. Không chỉ điều chỉnh cái này hay cái kia, không chỉ trong công ty này hay nhóm nghiên cứu kia hay thậm chí là quốc gia nào, mà ở khắp mọi nơi, trên tất cả các mặt trận, khu vực rủi ro và địa lý cùng một lúc. Dù phải đối mặt với một AGI mới nổi hay một dạng sống lạ nhưng hữu ích, mục tiêu phải được thống nhất: kiềm chế.

Vấn đề trung tâm của nhân loại trong thế kỷ hai mươi mốt là làm thế nào chúng ta có thể nuôi dưỡng đủ quyền lực chính trị hợp pháp và trí tuệ, sự thành thạo kỹ thuật đầy đủ, và các chuẩn mực vững chắc để kiềm chế công nghệ nhằm đảm bảo rằng chúng tiếp tục mang lại nhiều lợi ích hơn là tác hại. Nói cách khác, làm thế nào chúng ta có thể kiềm chế những điều dường như không thể kiềm chế.

Từ lịch sử của Homo technologicus đến thực tế của một kỷ nguyên khi công nghệ thấm nhuần mọi khía cạnh của cuộc sống, những rào cản đang chống lại chúng ta trong việc biến điều này thành hiện thực. Nhưng, điều đó không có nghĩa là chúng ta không nên cố gắng.

Hầu hết các tổ chức, không chỉ chính phủ, đều không phù hợp với những thách thức phức tạp đang đến. Như chúng ta đã thấy, ngay cả những quốc gia giàu có cũng có thể gặp khó khăn trước một cuộc khủng hoảng đang diễn ra. Vào năm 2020, Chỉ số An ninh Y tế Toàn cầu xếp hạng Hoa Kỳ đứng đầu thế giới và Vương quốc Anh không xa phía sau về khả năng chuẩn bị cho đại dịch. Tuy nhiên, một danh sách các quyết định thảm họa đã dẫn đến tỷ lệ tử vong và chi phí tài chính tồi tệ hơn nhiều so với các quốc gia đồng cấp như Canada và Đức. Mặc dù có vẻ như có chuyên môn xuất sắc, chiều sâu thể chế, kế hoạch và nguồn lực, ngay cả những người chuẩn bị tốt nhất trên giấy tờ cũng đã bị bất ngờ.

Các chính phủ, trên bề mặt, nên được chuẩn bị tốt hơn để quản lý các rủi ro và công nghệ mới hơn bao giờ hết. Ngân sách quốc gia cho những vấn đề như vậy thường ở mức kỷ lục. Thực tế là, những mối đe dọa mới chỉ đơn giản là rất khó để bất kỳ chính phủ nào điều hướng. Đó không phải là một thiếu sót của ý tưởng chính phủ; đó là một đánh giá về quy mô của thách thức trước mắt chúng ta. Khi họ phải đối mặt với một cái gì đó như ACI có thể vượt qua phiên bản của tôi về Bài kiểm tra Turing hiện đại, phản ứng của ngay cả những bộ máy quan liêu suy nghĩ sâu sắc và có tầm nhìn xa cũng sẽ giống như phản ứng với COVID. Các chính phủ chiến đấu với cuộc chiến cuối cùng, đại dịch cuối cùng, điều chỉnh làn sóng cuối cùng. Các nhà quản lý điều chỉnh cho những điều mà họ có thể dự đoán.

Điều này, trong khi đó, là một thời đại của những bất ngờ.

QUY ĐỊNH LÀ CHƯA ĐỦ

Mặc dù có nhiều thách thức, nỗ lực để điều chỉnh các công nghệ tiên tiến là cần thiết và đang gia tăng. Luật pháp tham vọng nhất có lẽ là Đạo luật AI của EU, được đề xuất lần đầu vào năm 2021. Tính đến thời điểm viết bài này vào năm 2023, đạo luật đang trải qua quá trình dài để trở thành luật châu Âu. Nếu được thông qua, nghiên cứu và triển khai AI sẽ được phân loại theo thang đo dựa trên rủi ro. Các công nghệ có "rủi ro không thể chấp nhận" gây ra thiệt hại trực tiếp sẽ bị cấm. Khi AI ảnh hưởng đến các quyền con người cơ bản hoặc các hệ thống quan trọng như cơ sở hạ tầng cơ bản, giao thông công cộng, y tế hoặc phúc lợi, nó sẽ được phân loại là "rủi ro cao", phải chịu sự giám sát và trách nhiệm lớn hơn. AI có rủi ro cao phải "minh bạch, an toàn, chịu sự kiểm soát của con người và được tài liệu hóa đúng cách."

Tuy nhiên, hành động này, mặc dù là một trong những nỗ lực quy định tiên tiến, tham vọng và tầm nhìn xa nhất thế giới cho đến nay, cũng cho thấy những vấn đề vốn có của quy định. Nó đã bị chỉ trích từ mọi phía, vì đi quá xa và không đi đủ xa. Một số người cho rằng nó quá tập trung vào những rủi ro mới nổi, hướng tới tương lai, cố gắng quy định một cái gì đó thậm chí còn chưa tồn tại; những người khác thì cho rằng nó không đủ tầm nhìn xa. Một số người tin rằng nó đã để các công ty công nghệ lớn thoát khỏi trách nhiệm, rằng họ đã đóng vai trò quan trọng trong việc soạn thảo và làm giảm nhẹ các điều khoản của nó. Những người khác nghĩ rằng nó vượt quá giới hạn và sẽ làm giảm bớt nghiên cứu và đổi mới ở EU, gây tổn hại đến việc làm và doanh thu thuế.

Hầu hết các quy định đều phải cân bằng giữa các lợi ích đối kháng. Nhưng trong ít lĩnh vực nào ngoài công nghệ tiên tiến, nó phải đối mặt với điều gì đó được phân tán rộng rãi, quan trọng đối với nền kinh tế, và lại phát triển nhanh chóng như vậy. Tất cả những tiếng ồn và sự nhầm lẫn cho thấy rõ ràng rằng bất kỳ hình thức quy định nào cũng đều khó khăn và phức tạp, đặc biệt là trong bối cảnh thay đổi gia tăng, và do đó, nó gần như chắc chắn sẽ để lại những khoảng trống, không đạt được hiệu quả trong việc kiểm soát.

Việc điều chỉnh không chỉ các công nghệ tổng quát đa năng mà còn cả công nghệ tiến hóa siêu tốc là một thách thức vô cùng lớn. Hãy xem cách mà giao thông vận tải cơ giới được điều chỉnh. Không có một cơ quan quản lý duy nhất, hay thậm chí chỉ một vài luật. Thay vào đó, chúng ta có các quy định về giao thông, đường xá, đỗ xe, dây an toàn, khí thải, đào tạo lái xe, và nhiều thứ khác. Điều này không chỉ đến từ các cơ quan lập pháp quốc gia mà còn từ chính quyền địa phương, các cơ quan cao tốc, các bộ giao thông vận tải ban hành hướng dẫn, các cơ quan cấp phép, và các văn phòng tiêu chuẩn môi trường. Nó không chỉ phụ thuộc vào các nhà lập pháp mà còn vào lực lượng cảnh sát, nhân viên giám sát giao thông, các công ty ô tô, thợ sửa xe, các nhà quy hoạch đô thị, và các công ty bảo hiểm.

Các quy định phức tạp được tinh chỉnh qua nhiều thập kỷ đã làm cho đường xá và phương tiện giao thông an toàn và có trật tự hơn theo từng bước, cho phép sự phát triển và lan rộng của chúng. Tuy nhiên, vẫn có 1,35 triệu người chết mỗi năm do tai nạn giao thông. Quy định có thể giảm thiểu các tác động tiêu cực, nhưng không thể xóa bỏ những kết quả xấu như tai nạn, ô nhiễm hoặc sự phát triển không kiểm soát. Chúng ta đã quyết định rằng đây là một chi phí chấp nhận được của con người, xét đến những lợi ích. Cái "chúng ta" đó là rất quan trọng. Quy định không chỉ dựa vào việc thông qua một luật mới. Nó cũng liên quan đến các chuẩn mực, cấu trúc sở hữu, các quy tắc tuân thủ và trung thực không được viết ra, quy trình trọng tài, thực thi hợp đồng, và các cơ chế giám sát. Tất cả những điều này cần được tích hợp và công chúng cần phải đồng thuận.

Điều này cần thời gian - thời gian mà chúng ta không có. Với làn sóng sắp tới, chúng ta không có nửa thế kỷ để nhiều cơ quan tìm ra cách giải quyết, để các giá trị đúng đắn và các thực tiễn tốt nhất xuất hiện. Quy định tiên tiến cần phải chính xác, và nhanh chóng. Cũng không rõ tất cả những điều này sẽ được quản lý như thế nào trên một phổ rộng các công nghệ chưa từng có. Khi bạn quy định về sinh học tổng hợp, bạn đang quy định thực phẩm, thuốc, công cụ công nghiệp, nghiên cứu học thuật, hay tất cả chúng cùng một lúc? Các cơ quan nào chịu trách nhiệm về điều gì? Tất cả những điều này kết hợp với nhau như thế nào? Ai là những tác nhân chịu trách nhiệm cho các phần nào của chuỗi cung ứng? Những cạm bẫy của ngay cả một tai nạn nghiêm trọng là cực kỳ lớn, và ngay cả việc quyết định cơ quan nào sẽ chịu trách nhiệm cũng là một mảnh đất đầy cạm bẫy.

—

Trên bối cảnh tranh luận lập pháp, các quốc gia cũng đang mắc kẹt trong một mâu thuẫn. Một mặt, họ đang trong cuộc cạnh tranh chiến lược để tăng tốc phát triển các công nghệ như AI và sinh học tổng hợp. Mỗi quốc gia đều muốn đứng ở, và được nhìn nhận ở, ranh giới công nghệ. Đó là một thước đo của niềm tự hào quốc gia, an ninh quốc gia, và là một yêu cầu tồn tại. Mặt khác, họ lại khao khát điều chỉnh và quản lý những công nghệ này - để kiềm chế chúng, không kém phần vì sợ rằng chúng sẽ đe dọa nhà nước quốc gia như là chỗ ngồi quyền lực tối thượng. Điều đáng sợ là điều này giả định một kịch bản tốt nhất về các quốc gia (dân chủ tự do) mạnh mẽ, có năng lực hợp lý, và gắn kết, có khả năng làm việc một cách đồng bộ như các đơn vị nội bộ và phối hợp tốt ở cấp quốc tế.

Để việc kiểm soát có thể thực hiện được, các quy tắc cần hoạt động hiệu quả ở những nơi đa dạng như Hà Lan và Nicaragua, New Zealand và Nigeria. Nơi ai đó chậm lại, người khác sẽ tiến lên. Mỗi quốc gia đã mang đến những phong tục pháp lý và văn hóa riêng biệt trong sự phát triển của công nghệ. EU hạn chế nghiêm ngặt các sinh vật biến đổi gen trong nguồn cung thực phẩm. Tuy nhiên, ở Hoa Kỳ, các sinh vật biến đổi gen là một phần thường xuyên của ngành nông nghiệp. Trung Quốc, bề ngoài, là một nhà lãnh đạo về quy định theo một cách nào đó. Chính phủ đã ban hành nhiều sắc lệnh về đạo đức AI, tìm cách áp đặt các hạn chế rộng rãi. Họ đã chủ động cấm nhiều loại tiền điện tử và các sáng kiến DeFi, và giới hạn thời gian trẻ em dưới mười tám tuổi có thể dành cho trò chơi và ứng dụng xã hội là chín mươi phút mỗi ngày trong tuần, ba giờ vào cuối tuần. Dự thảo quy định về các thuật toán gợi ý và LLMs ở Trung Quốc vượt xa bất cứ điều gì chúng ta đã thấy ở phương Tây.

Trung Quốc đang phanh gấp ở một số lĩnh vực trong khi cũng - như chúng ta đã thấy - tiến lên ở những lĩnh vực khác. Quy định của nó được kết hợp với việc triển khai công nghệ chưa từng có như một công cụ của quyền lực chính phủ độc tài. Nói chuyện với các chuyên gia quốc phòng và chính sách phương Tây, họ khẳng định rằng mặc dù Trung Quốc nói rất hay về đạo đức và giới hạn của AI, nhưng khi nói đến an ninh quốc gia, không có rào cản có ý nghĩa nào. Thực tế, chính sách AI của Trung Quốc có hai hướng: một con đường dân sự được quy định và một con đường quân sự - công nghiệp tự do.

Trừ khi quy định có thể giải quyết bản chất sâu xa của các động lực được nêu trong phần 2, nó sẽ không đủ để kiềm chế công nghệ. Nó không ngăn chặn những kẻ xấu có động cơ hoặc tai nạn. Nó không đi vào bản chất của một hệ thống nghiên cứu mở và khó đoán. Nó không cung cấp các lựa chọn thay thế khi có những phần thưởng tài chính khổng lồ đang chờ đợi. Và trên hết, nó không giảm thiểu sự cần thiết chiến lược. Nó không mô tả cách các quốc gia có thể phối hợp về một hiện tượng xuyên quốc gia hấp dẫn, khó định nghĩa, xây dựng một khối liên minh tinh tế, đặc biệt trong bối cảnh mà các hiệp ước quốc tế thường xuyên thất bại. Có một khoảng cách không thể vượt qua giữa mong muốn kiềm chế làn sóng sắp tới và mong muốn định hình và sở hữu nó, giữa nhu cầu bảo vệ chống lại công nghệ và nhu cầu bảo vệ chống lại người khác. Lợi thế và kiểm soát chỉ ra những hướng đối lập.

Thực tế là việc kiềm chế không phải là điều mà một chính phủ, hoặc thậm chí một nhóm chính phủ, có thể làm một mình. Nó đòi hỏi sự đổi mới và dũng cảm trong việc hợp tác giữa khu vực công và khu vực tư, cùng với một bộ động lực hoàn toàn mới cho tất cả các bên. Các quy định như Đạo luật AI của EU ít nhất cũng gợi ý về một thế giới mà việc kiềm chế được đặt lên bản đồ, nơi các chính phủ hàng đầu coi trọng những rủi ro của sự phổ biến, thể hiện những mức độ cam kết và sẵn sàng hy sinh nghiêm túc mới.

Quy định không đủ, nhưng ít nhất đó là một khởi đầu. Những bước đi táo bạo. Một sự hiểu biết thực sự về những rủi ro liên quan đến làn sóng sắp tới. Trong một thế giới mà việc kiềm chế dường như là không thể, tất cả những điều này hướng tới một tương lai mà có thể thực hiện được.

KIỂM SOÁT ĐƯỢC XEM XÉT LẠI: MỘT THỎA THUẬN LỚN MỚI

Có bất kỳ thực thể nào có quyền ngăn chặn sự phát triển hàng loạt trong khi nắm bắt sức mạnh và lợi ích to lớn phát sinh từ làn sóng sắp tới không? Để ngăn chặn những kẻ xấu tiếp cận công nghệ, hoặc định hình sự lan tỏa của những ý tưởng mới nổi xung quanh nó? Khi tính tự chủ gia tăng, có ai hoặc điều gì thực sự hy vọng có thể kiểm soát có ý nghĩa ở cấp vĩ mô không? Kiểm soát có nghĩa là trả lời có cho những câu hỏi như thế này. Về lý thuyết, công nghệ được kiểm soát giúp chúng ta thoát khỏi tình huống khó xử. Nó có nghĩa là vừa khai thác vừa kiểm soát làn sóng, một công cụ thiết yếu để xây dựng các xã hội bền vững và phát triển, đồng thời kiểm soát nó theo những cách tránh được thảm họa nghiêm trọng, nhưng không xâm phạm đến mức mời gọi sự tàn bạo. Nó có nghĩa là viết nên một loại thỏa thuận lớn mới.

Trước đó trong cuốn sách, tôi đã mô tả việc kiềm chế như một nền tảng để kiểm soát và quản lý công nghệ, bao gồm các khía cạnh kỹ thuật, văn hóa và quy định. Căn bản, tôi tin rằng điều này có nghĩa là có quyền lực để giảm thiểu đáng kể hoặc hoàn toàn ngăn chặn những tác động tiêu cực của công nghệ, từ quy mô địa phương và nhỏ cho đến quy mô toàn cầu và tồn tại. Bao gồm việc thực thi nghiêm ngặt chống lại việc lạm dụng các công nghệ lan rộng, nó cũng định hướng sự phát triển, hướng đi và quản lý các công nghệ mới nổi. Công nghệ được kiềm chế là công nghệ mà các chế độ thất bại của nó được biết đến, được quản lý và giảm thiểu, một tình huống mà các phương tiện để hình thành và quản lý công nghệ gia tăng song song với khả năng của nó.

Thật hấp dẫn khi nghĩ về việc kiểm soát theo một nghĩa rõ ràng, theo nghĩa đen, như một loại hộp ma thuật trong đó một công nghệ nhất định có thể được niêm phong. Ở giới hạn ngoài cùng - trong trường hợp phần mềm độc hại hoặc mầm bệnh nổi loạn - những bước đi quyết liệt như vậy có thể là cần thiết. Tuy nhiên, nhìn chung, hãy coi việc kiểm soát như một bộ rào chắn, một cách để giữ cho nhân loại ở vị trí điều khiển khi một công nghệ có nguy cơ gây ra nhiều thiệt hại hơn lợi ích. Hãy hình dung những rào chắn đó hoạt động ở các cấp độ khác nhau và với các phương thức thực hiện khác nhau. Trong chương tiếp theo, chúng ta sẽ xem xét chúng có thể trông như thế nào ở cấp độ chi tiết hơn, từ nghiên cứu căn chỉnh AI đến thiết kế phòng thí nghiệm, từ các hiệp ước quốc tế đến các giao thức thực hành tốt nhất. Hiện tại, điểm mấu chốt là những rào chắn đó cần đủ mạnh để, về lý thuyết, chúng có thể ngăn chặn một thảm họa không thể kiểm soát.

Việc kiềm chế sẽ cần phải phản ứng với bản chất của một công nghệ, và định hướng nó theo những hướng dễ kiểm soát hơn. Hãy nhớ bốn đặc điểm của làn sóng sắp tới: bất đối xứng, siêu tiến hóa, đa dụng và tự chủ. Mỗi đặc điểm phải được xem xét qua lăng kính của khả năng kiềm chế. Trước khi phác thảo một chiến lược, đáng để đặt ra những câu hỏi sau đây để gợi ý những con đường hứa hẹn:

Công nghệ có phải là đa dụng và chung chung hay cụ thể? Vũ khí hạt nhân là một công nghệ rất cụ thể với một mục đích, trong khi máy tính vốn dĩ là đa dụng. Càng nhiều trường hợp sử dụng tiềm năng, càng khó để kiểm soát. Thay vì các hệ thống chung, những hệ thống có phạm vi hẹp hơn và cụ thể theo lĩnh vực nên được khuyến khích.

Công nghệ có đang chuyển từ nguyên tử sang bit không? Công nghệ càng phi vật chất hóa, nó càng chịu ảnh hưởng của các hiệu ứng siêu tiến hóa khó kiểm soát. Các lĩnh vực như thiết kế vật liệu hoặc phát triển thuốc sẽ nhanh chóng tăng tốc, khiến tốc độ tiến bộ trở nên khó theo dõi hơn.

Giá cả và độ phức tạp có đang giảm xuống không, và nếu có thì nhanh như thế nào? Giá của máy bay chiến đấu không giảm theo cách mà giá của transistor hoặc phần cứng tiêu dùng đã giảm. Một mối đe dọa xuất phát từ tính toán cơ bản có tính chất rộng hơn so với máy bay chiến đấu, mặc dù tiềm năng phá hủy của chúng là rõ ràng.

Có những lựa chọn khả thi nào sẵn sàng để triển khai? CFC có thể bị cấm một phần vì có những lựa chọn thay thế rẻ hơn và an toàn hơn cho việc làm lạnh. Những lựa chọn thay thế nào có sẵn? Càng có nhiều lựa chọn an toàn, việc loại bỏ việc sử dụng càng dễ dàng hơn.

Công nghệ có cho phép tác động không đối xứng không? Hãy nghĩ đến một đàn drone chống lại quân đội truyền thống hoặc một máy tính nhỏ hoặc virus sinh học làm hỏng các hệ thống xã hội quan trọng. Rủi ro của một số công nghệ trong việc gây bất ngờ và khai thác các điểm yếu là lớn hơn.

Nó có đặc điểm tự trị không? Có khả năng tự học, hoặc hoạt động mà không cần giám sát không? Hãy nghĩ đến gene drives, virus, phần mềm độc hại, và tất nhiên là robot. Càng nhiều công nghệ theo thiết kế yêu cầu can thiệp của con người, thì càng ít khả năng mất kiểm soát.

Nó có mang lại lợi thế chiến lược địa chính trị lớn không? Vũ khí hóa học, chẳng hạn, có những lợi thế hạn chế và nhiều bất lợi, trong khi việc dẫn đầu trong AI hoặc sinh học có những lợi ích to lớn, cả về kinh tế lẫn quân sự. Do đó, việc nói không trở nên khó khăn hơn.

Nó ủng hộ tấn công hay phòng thủ? Trong Thế chiến II, sự phát triển của các tên lửa như V-2 đã hỗ trợ các hoạt động tấn công. Nhưng một công nghệ như radar đã củng cố phòng thủ. Định hướng phát triển theo phòng thủ hơn là tấn công có xu hướng hướng tới việc kiềm chế.

Có những hạn chế về tài nguyên hoặc kỹ thuật trong việc phát minh, phát triển và triển khai của nó không? Chip silicon yêu cầu các vật liệu, máy móc và kiến thức chuyên biệt và tập trung cao. Tài năng có sẵn cho một công ty khởi nghiệp sinh học tổng hợp, về mặt toàn cầu, vẫn còn khá nhỏ. Cả hai đều giúp kiểm soát trong ngắn hạn.

Nơi mà ma sát bổ sung giữ mọi thứ trong thế giới hữu hình của các nguyên tử, chẳng hạn, hoặc làm cho mọi thứ trở nên đắt đỏ, hoặc nếu các lựa chọn an toàn hơn dễ dàng có sẵn, có nhiều khả năng hơn để kiểm soát vì dễ dàng hơn để làm chậm công nghệ, hạn chế quyền truy cập, hoặc loại bỏ chúng hoàn toàn. Các công nghệ cụ thể dễ dàng hơn để quản lý hơn là các công nghệ đa dụng, nhưng việc quản lý các công nghệ đa dụng lại quan trọng hơn. Tương tự, càng có nhiều tiềm năng cho các hành động tấn công hoặc tự chủ, yêu cầu về kiểm soát càng lớn. Nếu bạn có thể giữ giá cả và sự dễ dàng tiếp cận ngoài tầm với của nhiều người, sự phổ biến trở nên khó khăn hơn. Hãy đặt những câu hỏi như vậy, và một tầm nhìn toàn diện về kiểm soát bắt đầu xuất hiện.

TRƯỚC KHI LŨ LỤT

Tôi đã làm việc về vấn đề này trong suốt mười lăm năm qua. Trong khoảng thời gian đó, tôi đã cảm nhận được sức mạnh tuyệt đối của những gì được mô tả trong cuốn sách này, của những động lực đó, và của nhu cầu cấp bách về câu trả lời ngay cả khi các đường nét của tình huống trở nên rõ ràng hơn bao giờ hết. Và ngay cả tôi cũng đã bị sốc trước những gì công nghệ đã làm được trong vài năm ngắn ngủi. Tôi đã vật lộn với những ý tưởng này, theo dõi khi tốc độ phát triển ngày càng tăng lên.

Thực tế là, chúng ta thường không kiểm soát hoặc kiềm chế công nghệ trong quá khứ. Và nếu chúng ta muốn làm như vậy bây giờ, sẽ cần một cái gì đó hoàn toàn mới, một chương trình toàn diện về an toàn, đạo đức, quy định và kiểm soát mà thậm chí còn không có tên và dường như không thể thực hiện ngay từ đầu.

Nỗi dilemma này nên là một lời kêu gọi hành động cấp bách. Nhưng qua nhiều năm, rõ ràng là hầu hết mọi người thấy điều này quá khó để tiếp nhận. Tôi hoàn toàn hiểu điều đó. Nó gần như không có thật khi lần đầu gặp gỡ. Trong tất cả những cuộc thảo luận về AI và quy định, tôi đã bị ấn tượng bởi việc truyền đạt chính xác lý do tại sao những rủi ro trong cuốn sách này cần được coi trọng, tại sao chúng không chỉ là những rủi ro phụ gần như không liên quan hoặc thuộc về lĩnh vực khoa học viễn tưởng, lại khó khăn hơn so với nhiều thách thức hiện có hoặc sắp xảy ra.

Một thách thức trong việc bắt đầu cuộc trò chuyện này là công nghệ, trong trí tưởng tượng phổ biến, đã trở thành liên kết với một dải hẹp các ứng dụng thường không cần thiết. “Công nghệ” giờ đây chủ yếu có nghĩa là các nền tảng mạng xã hội và các thiết bị đeo để đo bước đi và nhịp tim của chúng ta. Thật dễ để quên rằng công nghệ bao gồm các hệ thống tưới tiêu thiết yếu cho việc nuôi sống hành tinh và các máy hỗ trợ sự sống cho trẻ sơ sinh. Công nghệ không chỉ là một cách để lưu trữ những bức ảnh tự sướng của bạn; nó đại diện cho quyền truy cập vào nền văn hóa và trí tuệ tích lũy của thế giới. Công nghệ không phải là một ngách; nó là một siêu đối tượng chi phối sự tồn tại của con người.

Một so sánh hữu ích ở đây là biến đổi khí hậu. Nó cũng liên quan đến những rủi ro thường mơ hồ, không chắc chắn, xa vời về mặt thời gian, xảy ra ở nơi khác, thiếu sự nổi bật, adrenaline và tính cấp bách của một cuộc phục kích trên thảo nguyên - loại rủi ro mà chúng ta đã được chuẩn bị tốt để phản ứng. Về mặt tâm lý, không có điều gì trong số này cảm thấy hiện hữu. Não bộ tiền sử của chúng ta thường không có khả năng đối phó với những mối đe dọa mơ hồ như thế này.

Tuy nhiên, trong khoảng một thập kỷ qua, thách thức của biến đổi khí hậu đã trở nên rõ ràng hơn. Mặc dù thế giới vẫn thải ra ngày càng nhiều CO2, các nhà khoa học ở khắp nơi có thể đo lường nồng độ CO2 tính bằng phần triệu (ppm) trong khí quyển. Gần đây nhất vào những năm 1970, nồng độ carbon toàn cầu trong khí quyển khoảng ở mức thấp 300 ppm. Năm 2022, con số này đã đạt 420 ppm. Dù ở Bắc Kinh, Berlin hay Burundi, dù là một tập đoàn dầu mỏ lớn hay một trang trại gia đình, mọi người đều có thể thấy, một cách khách quan, điều gì đang xảy ra với khí hậu. Dữ liệu mang lại sự rõ ràng.

Sự tránh né chủ nghĩa bi quan trở nên khó khăn hơn rất nhiều khi các tác động được định lượng một cách rõ ràng như vậy. Giống như biến đổi khí hậu, rủi ro công nghệ chỉ có thể được giải quyết ở quy mô toàn cầu, nhưng không có sự rõ ràng tương đương. Không có chỉ số rủi ro tiện lợi, không có đơn vị mối đe dọa khách quan nào được chia sẻ trong các thủ đô quốc gia, phòng họp và tâm lý công chúng, không có phần triệu để đo lường những gì công nghệ có thể làm hoặc vị trí của nó. Không có tiêu chuẩn nào được đồng thuận hoặc rõ ràng mà chúng ta có thể kiểm tra hàng năm. Không có sự đồng thuận giữa các nhà khoa học và công nghệ ở tuyến đầu. Không có phong trào phổ biến nào đứng sau việc ngăn chặn nó, không có hình ảnh đồ họa của những tảng băng tan chảy và gấu Bắc Cực bị mắc kẹt hoặc các ngôi làng bị ngập lụt để nâng cao nhận thức. Nghiên cứu mờ nhạt được công bố trên arXiv, trong các blog Substack cult, hoặc trong các tài liệu trắng khô khan của các tổ chức tư vấn hầu như không đủ sức thuyết phục ở đây.

Làm thế nào chúng ta tìm được điểm chung giữa những chương trình nghị sự cạnh tranh? Trung Quốc và Hoa Kỳ không chia sẻ một tầm nhìn về việc hạn chế phát triển AI; Meta sẽ không chia sẻ quan điểm rằng mạng xã hội là một phần của vấn đề; các nhà nghiên cứu AI và vi rút tin rằng công việc của họ là một phần quan trọng không phải trong việc gây ra thảm họa mà là trong việc hiểu và ngăn chặn nó. “Công nghệ” không phải, trên bề mặt, là một vấn đề theo cùng một nghĩa như một hành tinh đang nóng lên.

Và thế nhưng có thể là như vậy.

Bước đầu tiên là nhận thức. Chúng ta cần bình tĩnh thừa nhận rằng làn sóng đang đến và tình thế tiến thoái lưỡng nan là, nếu không có một sự thay đổi đột ngột trong hướng đi, là không thể tránh khỏi. Hoặc chúng ta có thể vật lộn với một loạt các kết quả tốt và xấu do sự cởi mở liên tục và cuộc đua không suy nghĩ của chúng ta gây ra, hoặc chúng ta có thể đối mặt với những rủi ro dystopian và độc tài phát sinh từ những nỗ lực của chúng ta nhằm hạn chế sự phát triển của các công nghệ mạnh mẽ, những rủi ro hơn nữa vốn có trong việc sở hữu tập trung những công nghệ đó.

Chọn chất độc của bạn. Cuối cùng, sự cân bằng này phải được thiết lập trong sự tham vấn với tất cả mọi người. Càng nhiều người biết đến, càng tốt. Nếu cuốn sách này gây ra những chỉ trích, tranh luận, đề xuất và phản đề xuất, càng nhiều càng tốt.

Sẽ không có một giải pháp kỳ diệu nào từ một nhóm người thông minh trong một căn phòng nào đó. Ngược lại. Các nhà lãnh đạo hiện tại quá đầu tư vào sự sợ hãi về bi quan đến nỗi họ sợ phải trung thực về những nguy hiểm mà chúng ta phải đối mặt. Họ vui vẻ đưa ra ý kiến và tranh luận trong riêng tư, ít hơn khi ra ngoài và nói về nó. Họ đã quen với một thế giới của sự kiểm soát và trật tự: sự kiểm soát của một CEO đối với một công ty, của một ngân hàng trung ương đối với lãi suất, của một quan chức đối với việc mua sắm quân sự, hoặc của một nhà quy hoạch đô thị đối với những ổ gà cần sửa. Các công cụ kiểm soát của họ không hoàn hảo, chắc chắn, nhưng chúng đã được biết đến, thử nghiệm và kiểm chứng và chúng thường hoạt động. Không phải như vậy ở đây.

Đây là một khoảnh khắc độc đáo. Cơn sóng sắp tới thực sự đang đến, nhưng nó vẫn chưa ập đến chúng ta. Trong khi những động lực không thể ngăn cản đã được khóa lại, hình thức cuối cùng của cơn sóng, những đường nét chính xác của tình thế tiến thoái lưỡng nan, vẫn chưa được quyết định. Đừng lãng phí hàng thập kỷ để chờ đợi tìm ra điều đó. Hãy bắt đầu quản lý nó ngay hôm nay.

Trong chương tiếp theo, tôi phác thảo mười lĩnh vực cần tập trung. Đây không phải là một bản đồ hoàn chỉnh, không phải là một bộ câu trả lời cuối cùng, mà là nền tảng cần thiết. Ý định của tôi là gieo hạt ý tưởng với hy vọng thực hiện những bước đầu tiên quan trọng hướng tới việc kiềm chế. Điều thống nhất những ý tưởng này là chúng đều liên quan đến những lợi ích biên, sự tích lũy chậm rãi và liên tục của những nỗ lực nhỏ để tạo ra xác suất cao hơn cho những kết quả tốt. Chúng liên quan đến việc tạo ra một bối cảnh khác cho cách công nghệ được xây dựng và triển khai: tìm kiếm cách để mua thời gian, làm chậm lại, tạo không gian cho nhiều công việc hơn về các câu trả lời, thu hút sự chú ý, xây dựng liên minh, thúc đẩy công việc kỹ thuật.

Việc kiềm chế làn sóng sắp tới, tôi tin rằng, là không thể trong thế giới hiện tại của chúng ta. Tuy nhiên, những bước đi này có thể thay đổi các điều kiện cơ bản. Đẩy tình trạng hiện tại tiến lên một chút để việc kiềm chế có cơ hội. Chúng ta nên làm tất cả điều này với nhận thức rằng nó có thể thất bại nhưng đó là cơ hội tốt nhất của chúng ta để xây dựng một thế giới nơi việc kiềm chế - và sự phát triển của con người - là có thể.

Không có bất kỳ đảm bảo nào ở đây, không có thỏ nào được kéo ra từ mũ. Bất kỳ ai hy vọng vào một giải pháp nhanh chóng, một câu trả lời thông minh, sẽ cảm thấy thất vọng. Khi tiếp cận tình huống khó khăn, chúng ta vẫn ở trong vị trí quá đỗi con người như mọi khi: cống hiến mọi thứ và hy vọng mọi thứ sẽ ổn thỏa. Đây là cách tôi nghĩ rằng nó có thể—chỉ có thể—hợp lại với nhau.