CÁC TĂNG CƯỜNG SỰ MẪN CẢM

Vào sáng ngày 12 tháng 5 năm 2017, Dịch vụ Y tế Quốc gia Anh (NHS) đã ngừng hoạt động. Hàng ngàn cơ sở trên toàn quốc đột ngột thấy hệ thống CNTT của họ bị đóng băng. Tại các bệnh viện, nhân viên bị khóa khỏi các thiết bị y tế quan trọng như máy quét MRI và không thể truy cập hồ sơ bệnh nhân. Hàng ngàn thủ tục đã được lên lịch, từ các cuộc hẹn ung thư đến các ca phẫu thuật tự chọn, đã phải bị hủy bỏ. Các đội ngũ chăm sóc hoảng loạn đã quay trở lại các biện pháp tạm thời thủ công, sử dụng ghi chú giấy và điện thoại cá nhân. Bệnh viện Hoàng gia London đã đóng cửa phòng cấp cứu, với bệnh nhân nằm trên cáng bên ngoài các phòng phẫu thuật.

NHS đã bị tấn công bởi một cuộc tấn công ransomware. Nó được gọi là WannaCry, và quy mô của nó rất lớn. Ransomware hoạt động bằng cách xâm phạm một hệ thống để mã hóa và do đó khóa quyền truy cập vào các tệp và khả năng quan trọng. Các tin tặc mạng thường yêu cầu một khoản tiền chuộc để đổi lấy việc giải phóng một hệ thống bị giam giữ.

NHS không phải là mục tiêu duy nhất của WannaCry. Lợi dụng một lỗ hổng trong các hệ thống Microsoft cũ, các hacker đã tìm ra cách làm ngưng trệ một phần lớn thế giới kỹ thuật số, bao gồm các tổ chức như Deutsche Bahn, Telefónica, FedEx, Hitachi, thậm chí là Bộ Công an Trung Quốc. WannaCry đã lừa một số người dùng mở một email, từ đó phát tán một "sâu" tự sao chép và di chuyển để lây nhiễm cho một phần tư triệu máy tính trên 150 quốc gia chỉ trong một ngày. Trong vài giờ sau cuộc tấn công, phần lớn thế giới kỹ thuật số đã chao đảo, bị giữ làm con tin bởi một kẻ tấn công xa lạ, vô hình. Thiệt hại sau đó lên tới 8 tỷ USD, nhưng những hệ lụy còn nghiêm trọng hơn. Cuộc tấn công WannaCry đã phơi bày mức độ dễ bị tổn thương của các tổ chức mà chúng ta thường coi là hiển nhiên trước các cuộc tấn công mạng tinh vi.

Cuối cùng, NHS - và cả thế giới - đã gặp may. Một hacker người Anh hai mươi hai tuổi tên là Marcus Hutchins đã tình cờ phát hiện ra một công tắc ngắt. Khi xem qua mã độc, anh thấy một tên miền trông lạ. Đoán rằng đây có thể là một phần của cấu trúc chỉ huy và kiểm soát của sâu máy tính, và thấy tên miền chưa được đăng ký, Hutchins đã mua nó với giá chỉ 10,69 đô la, cho phép anh kiểm soát virus trong khi Microsoft phát hành các bản cập nhật để khắc phục lỗ hổng.

Có lẽ điều đặc biệt nhất về WannaCry là nguồn gốc của nó. WannaCry được xây dựng bằng công nghệ do Cơ quan An ninh Quốc gia Hoa Kỳ (NSA) tạo ra. Một đơn vị tinh nhuệ của NSA có tên là Văn phòng Các hoạt động truy cập tùy chỉnh đã phát triển một lỗ hổng tấn công mạng gọi là EternalBlue. Theo lời của một nhân viên NSA, đây là “những chìa khóa của vương quốc,” công cụ được thiết kế để “xói mòn an ninh của nhiều mạng lưới chính phủ và doanh nghiệp lớn cả ở trong nước và nước ngoài.”

Công nghệ hùng mạnh này, được phát triển bởi một trong những tổ chức có công nghệ tinh vi nhất trên hành tinh, đã bị một nhóm hacker lấy được như thế nào? Như Microsoft đã chỉ ra vào thời điểm đó, “Một kịch bản tương đương với vũ khí thông thường sẽ là quân đội Mỹ bị đánh cắp một số tên lửa Tomahawk của mình.” Khác với tên lửa Tomahawk, vũ khí kỹ thuật số của NSA có thể lén lút được chuyển vào một ổ USB. Nhóm hacker đã đánh cắp công nghệ này, được biết đến với tên gọi Shadow Brokers, đã rao bán EternalBlue. Từ đó, nó nhanh chóng rơi vào tay các hacker Bắc Triều Tiên, có lẽ là đơn vị mạng do nhà nước tài trợ, Bureau 121. Họ sau đó đã phát động nó ra thế giới.

Mặc dù đã có các bản vá nhanh chóng, nhưng hậu quả từ vụ rò rỉ EternalBlue vẫn chưa kết thúc. Vào tháng 6 năm 2017, một phiên bản mới của vũ khí này xuất hiện, lần này được thiết kế đặc biệt để nhắm vào cơ sở hạ tầng quốc gia của Ukraine trong một cuộc tấn công nhanh chóng được quy cho tình báo quân sự Nga. Cuộc tấn công mạng NotPetya gần như đã khiến đất nước quỵ ngã. Các hệ thống giám sát bức xạ tại Chernobyl mất điện. Các máy ATM ngừng phát tiền. Điện thoại di động im lặng. Mười phần trăm máy tính của đất nước bị nhiễm virus, và cơ sở hạ tầng cơ bản từ lưới điện đến Ngân hàng Tiết kiệm Nhà nước Ukraine đã sụp đổ. Các tập đoàn đa quốc gia lớn như gã khổng lồ vận tải Maersk đã bị immobilized, thiệt hại phụ.

Đây là một câu chuyện ngụ ngôn về công nghệ trong thế kỷ hai mươi mốt. Phần mềm được tạo ra bởi các dịch vụ an ninh của quốc gia công nghệ tiên tiến nhất thế giới bị rò rỉ hoặc bị đánh cắp. Từ đó, nó tìm đường vào tay những kẻ khủng bố kỹ thuật số làm việc cho một trong những quốc gia thất bại nhất thế giới và các cường quốc hạt nhân thất thường. Sau đó, nó được vũ khí hóa, được sử dụng chống lại cấu trúc cốt lõi của nhà nước hiện đại: dịch vụ y tế, cơ sở hạ tầng giao thông và năng lượng, các doanh nghiệp thiết yếu trong lĩnh vực truyền thông và logistics toàn cầu. Nói cách khác, nhờ vào một sự thất bại cơ bản trong việc kiểm soát, một siêu cường toàn cầu đã trở thành nạn nhân của chính công nghệ mạnh mẽ và được cho là an toàn của mình.

Đây là sự bất đối xứng không bị kiềm chế đang hoạt động.

—

May mắn thay, các cuộc tấn công ransomware được mô tả ở trên dựa vào các vũ khí mạng thông thường. May mắn thay, vì chúng không dựa vào các đặc điểm của làn sóng sắp tới. Sức mạnh và tiềm năng của chúng bị giới hạn. Nhà nước đã bị trầy xước và bầm tím, nhưng không bị suy yếu về mặt cơ bản. Tuy nhiên, đó chỉ là vấn đề thời gian, không phải là vấn đề có hay không, cuộc tấn công tiếp theo sẽ xảy ra, và lần tới chúng ta có thể không may mắn như vậy.

Thật hấp dẫn khi lập luận rằng các cuộc tấn công mạng ít hiệu quả hơn nhiều so với những gì chúng ta có thể tưởng tượng, xét về tốc độ mà các hệ thống quan trọng phục hồi sau các cuộc tấn công như WannaCry. Với làn sóng sắp tới, giả định đó là một sai lầm nghiêm trọng. Những cuộc tấn công như vậy cho thấy có những kẻ sẽ sử dụng công nghệ tiên tiến để làm suy yếu và vô hiệu hóa các chức năng chính của nhà nước. Chúng cho thấy rằng các tổ chức cốt lõi của cuộc sống hiện đại là dễ bị tổn thương. Một cá nhân đơn lẻ và một công ty tư nhân (Microsoft) đã khắc phục điểm yếu hệ thống. Cuộc tấn công này không tôn trọng biên giới quốc gia. Vai trò của chính phủ trong việc xử lý khủng hoảng là hạn chế.

Bây giờ hãy tưởng tượng nếu, thay vì vô tình để lộ một lỗ hổng, những kẻ tấn công đứng sau WannaCry đã thiết kế chương trình để học hỏi một cách có hệ thống về những điểm yếu của chính nó và liên tục vá chúng. Hãy tưởng tượng nếu, khi nó tấn công, chương trình phát triển để khai thác thêm những điểm yếu khác. Hãy tưởng tượng rằng nó sau đó bắt đầu di chuyển qua từng bệnh viện, từng văn phòng, từng ngôi nhà, liên tục biến đổi, học hỏi. Nó có thể tấn công các hệ thống hỗ trợ sự sống, cơ sở hạ tầng quân sự, tín hiệu giao thông, lưới điện, cơ sở dữ liệu tài chính. Khi nó lan rộng, hãy tưởng tượng chương trình học cách phát hiện và ngăn chặn các nỗ lực tiếp theo để tắt nó. Một vũ khí như vậy đang ở chân trời nếu không nói là đã được phát triển.

WannaCry và NotPetya bị hạn chế so với các loại tác nhân học tập đa năng ngày càng tăng, sẽ tạo thành thế hệ tiếp theo của vũ khí mạng, đe dọa mang đến tình trạng khẩn cấp quốc gia 2.0. Các cuộc tấn công mạng ngày nay không phải là mối đe dọa thực sự; chúng là chim hoàng yến trong mỏ than của một kỷ nguyên mới về sự dễ bị tổn thương và bất ổn, làm suy giảm vai trò của quốc gia như là trọng tài duy nhất về an ninh.

Dưới đây là một ứng dụng cụ thể, ngắn hạn của công nghệ thế hệ tiếp theo đang làm rạn nứt cấu trúc của nhà nước. Trong chương này, chúng ta sẽ xem xét cách mà điều này và các yếu tố căng thẳng khác làm suy yếu chính bản thân công trình chịu trách nhiệm quản lý công nghệ. Những bộ khuếch đại sự mong manh này, cú sốc hệ thống, khẩn cấp 2.0, sẽ làm trầm trọng thêm những thách thức hiện có, làm rung chuyển nền tảng của nhà nước, làm đảo lộn sự cân bằng xã hội vốn đã mong manh của chúng ta. Đây, một phần, là câu chuyện về ai có thể làm gì, một câu chuyện về quyền lực và nơi nó nằm.

GIÁ ĐIỆN GIẢM MẠNH

Quyền lực là “khả năng hoặc năng lực để làm điều gì đó hoặc hành động theo một cách cụ thể;…để chỉ đạo hoặc ảnh hưởng đến hành vi của người khác hoặc diễn biến của các sự kiện.” Nó là năng lượng cơ học hoặc điện mà hỗ trợ nền văn minh. Là nền tảng và nguyên tắc trung tâm của nhà nước. Quyền lực dưới một hình thức nào đó định hình mọi thứ. Và nó, cũng sắp được biến đổi.

Công nghệ cuối cùng là chính trị vì công nghệ là một hình thức quyền lực. Và có lẽ đặc điểm nổi bật duy nhất của làn sóng sắp tới là nó sẽ dân chủ hóa quyền truy cập vào quyền lực. Như chúng ta đã thấy ở phần 2, nó sẽ cho phép mọi người làm những điều trong thế giới thực. Tôi nghĩ về nó như thế này: cũng giống như chi phí xử lý và phát sóng thông tin giảm mạnh trong kỷ nguyên internet tiêu dùng, chi phí thực sự làm điều gì đó, hành động, thể hiện quyền lực, sẽ giảm mạnh với làn sóng tiếp theo. Biết là tuyệt vời, nhưng làm thì có tác động nhiều hơn.

Thay vì chỉ tiêu thụ nội dung, bất kỳ ai cũng có thể sản xuất nội dung video, hình ảnh và văn bản chất lượng chuyên gia. AI không chỉ giúp bạn tìm thông tin cho bài phát biểu của người đại diện; nó cũng sẽ viết bài phát biểu đó. Và tất cả đều ở quy mô chưa từng thấy trước đây. Robot sẽ không chỉ sản xuất ô tô và tổ chức các kho hàng; chúng sẽ có sẵn cho mọi người đam mê trong gara với một chút thời gian và trí tưởng tượng. Làn sóng trước đây đã cho phép chúng ta sắp xếp, hoặc đọc, DNA. Làn sóng sắp tới sẽ làm cho việc tổng hợp DNA trở nên phổ biến.

Ở đâu có quyền lực ngày nay, nó sẽ được khuếch đại. Bất kỳ ai có mục tiêu - tức là mọi người - sẽ nhận được sự hỗ trợ lớn trong việc hiện thực hóa chúng. Cải cách chiến lược kinh doanh, tổ chức các sự kiện xã hội cho cộng đồng địa phương, hoặc chiếm lĩnh lãnh thổ của kẻ thù đều trở nên dễ dàng hơn. Xây dựng một hãng hàng không hoặc cho một đội bay nằm đất đều khả thi hơn. Dù là thương mại, tôn giáo, văn hóa hay quân sự, dân chủ hay độc tài, mọi động lực có thể nghĩ đến đều có thể được tăng cường đáng kể khi có quyền lực rẻ hơn trong tầm tay.

Hôm nay, bất kể bạn giàu có đến đâu, bạn đơn giản không thể mua một chiếc smartphone mạnh mẽ hơn những gì có sẵn cho hàng tỷ người. Thành tựu phi thường này của nền văn minh thường bị bỏ qua quá nhiều. Trong thập kỷ tới, quyền truy cập vào ACI sẽ theo xu hướng tương tự. Hàng tỷ người đó sẽ sớm có quyền truy cập rộng rãi như nhau đến những luật sư, bác sĩ, chiến lược gia, nhà thiết kế, huấn luyện viên, trợ lý điều hành, nhà đàm phán tốt nhất, và nhiều hơn nữa. Mọi người sẽ có một đội ngũ đẳng cấp thế giới bên cạnh và ủng hộ họ.

Điều này sẽ là chất xúc tác lớn nhất và nhanh nhất cho sự giàu có và thịnh vượng trong lịch sử nhân loại. Nó cũng sẽ là một trong những điều hỗn loạn nhất. Nếu mọi người đều có quyền truy cập vào nhiều khả năng hơn, điều đó rõ ràng cũng bao gồm những người muốn gây hại. Với công nghệ phát triển nhanh hơn các biện pháp phòng thủ, những kẻ xấu, từ các băng nhóm ma túy Mexico đến các hacker Bắc Triều Tiên, được tiếp thêm sức mạnh. Việc dân chủ hóa quyền truy cập tất yếu có nghĩa là dân chủ hóa rủi ro.

Chúng ta sắp vượt qua một ngưỡng quan trọng trong lịch sử loài người. Đây là điều mà các quốc gia sẽ phải đối mặt trong thập kỷ tới. Trong chương này, chúng ta sẽ xem xét một số ví dụ chính về sự gia tăng tính dễ bị tổn thương xuất phát từ làn sóng sắp tới. Trước tiên, hãy xem xét kỹ lưỡng rủi ro ngắn hạn này: cách mà những kẻ xấu sẽ có khả năng phát động các hoạt động tấn công mới. Những cuộc tấn công như vậy có thể gây chết người, dễ tiếp cận rộng rãi, và là cơ hội cho ai đó tấn công quy mô lớn mà không bị trừng phạt.

CÁC ROBOT VỚI SÚNG: SỰ ƯU TIÊN CỦA TẤN CÔNG

Vào tháng 11 năm 2020, Mohsen Fakhrizadeh là nhà khoa học trưởng và nhân tố then chốt trong nỗ lực lâu dài của Iran nhằm đạt được vũ khí hạt nhân. Yêu nước, tận tâm, có kinh nghiệm cao, ông là mục tiêu hàng đầu cho các đối thủ của Iran. Nhận thức được những rủi ro, ông đã giữ kín nơi ở và di chuyển của mình với sự giúp đỡ từ các dịch vụ an ninh của Iran.

Lái xe trong một đoàn xe được bảo vệ nghiêm ngặt trên một con đường đầy bụi đến nhà riêng của mình gần Biển Caspi, đoàn xe của Fakhrizadeh đột ngột dừng lại. Xe của nhà khoa học bị trúng một loạt đạn. Bị thương, Fakhrizadeh loạng choạng ra khỏi xe, chỉ để bị giết bởi một loạt đạn súng máy thứ hai bắn xuyên qua người. Các vệ sĩ của ông, thành viên của Vệ binh Cách mạng Iran, hoảng hốt tìm cách hiểu chuyện gì đang xảy ra. Kẻ bắn súng ở đâu? Vài giây sau, có một vụ nổ, và một chiếc xe tải gần đó bùng cháy.

Chiếc xe tải, tuy nhiên, trống rỗng ngoại trừ một khẩu súng. Không có sát thủ nào trên mặt đất vào ngày hôm đó. Theo lời của một cuộc điều tra của New York Times, đây là “bài kiểm tra ra mắt của một tay bắn tỉa công nghệ cao, được trang bị máy tính với trí tuệ nhân tạo và nhiều camera, hoạt động qua vệ tinh và có khả năng bắn 600 viên mỗi phút.” Được gắn trên một chiếc xe bán tải đậu ở vị trí chiến lược nhưng trông vô hại, đây là một loại vũ khí robot được lắp ráp bởi các đặc vụ Israel. Một người đã ủy quyền cho cuộc tấn công, nhưng chính trí tuệ nhân tạo đã tự động điều chỉnh ngắm bắn của khẩu súng. Chỉ có mười lăm viên đạn được bắn ra và một trong những người nổi tiếng và được bảo vệ tốt nhất ở Iran đã bị giết trong chưa đầy một phút. Vụ nổ chỉ là một nỗ lực thất bại để che giấu bằng chứng.

Cuộc ám sát Fakhrizadeh là dấu hiệu cho những gì sắp xảy ra. Những robot vũ trang tinh vi hơn sẽ càng giảm bớt rào cản đối với bạo lực. Video về thế hệ robot mới nhất, với những cái tên như Atlas và BigDog, rất dễ tìm trên internet. Ở đây, bạn sẽ thấy những hình người có hình dáng kỳ lạ và những robot nhỏ giống chó chạy nhảy qua các bài kiểm tra chướng ngại vật. Chúng trông có vẻ mất thăng bằng nhưng không bao giờ ngã. Chúng di chuyển qua những cảnh quan phức tạp với một chuyển động kỳ lạ, khung hình nặng nề của chúng không bao giờ bị đổ. Chúng thực hiện các động tác lộn ngược, nhảy, xoay và những trò ảo thuật. Đẩy chúng ngã, và chúng bình tĩnh, không thể ngăn cản đứng dậy. Và chúng sẵn sàng làm lại điều đó một lần nữa và một lần nữa. Thật đáng sợ.

Bây giờ hãy tưởng tượng những con robot được trang bị nhận diện khuôn mặt, giải mã DNA và vũ khí tự động. Những con robot trong tương lai có thể không có hình dạng của những chú chó chạy nhảy. Được thu nhỏ hơn nữa, chúng sẽ có kích thước như một con chim hoặc một con ong, được trang bị một khẩu súng nhỏ hoặc một ống chứa vi khuẩn than. Chúng có thể sớm trở nên dễ tiếp cận với bất kỳ ai muốn có chúng. Đây là hình ảnh của việc trao quyền cho những kẻ xấu.

—

Chi phí của máy bay không người lái quân sự đã giảm ba bậc độ trong suốt thập kỷ qua. Đến năm 2028, sẽ có 26 tỷ USD mỗi năm được chi cho máy bay không người lái quân sự, và vào thời điểm đó, nhiều khả năng chúng sẽ hoàn toàn tự động.

Các triển khai trực tiếp của máy bay không người lái tự động đang trở nên khả thi hơn từng ngày. Vào tháng 5 năm 2021, chẳng hạn, một đàn máy bay không người lái AI ở Gaza đã được sử dụng để tìm kiếm, xác định và tấn công các chiến binh Hamas. Các công ty khởi nghiệp như Anduril, Shield AI và Rebellion Defense đã huy động hàng trăm triệu đô la để xây dựng các mạng lưới máy bay không người lái tự động và các ứng dụng quân sự khác của AI. Các công nghệ bổ sung như in 3-D và truyền thông di động tiên tiến sẽ giảm chi phí của máy bay không người lái chiến thuật xuống còn vài nghìn đô la, đưa chúng vào tầm với của mọi người từ những người đam mê nghiệp dư đến các lực lượng bán quân sự và những kẻ tâm thần đơn độc.

Ngoài việc dễ dàng tiếp cận hơn, vũ khí được tăng cường bằng AI sẽ tự cải thiện theo thời gian thực. Tác động của WannaCry cuối cùng đã bị hạn chế nhiều hơn so với những gì nó có thể gây ra. Khi bản vá phần mềm được áp dụng, vấn đề ngay lập tức đã được giải quyết. AI biến đổi loại tấn công này. Vũ khí mạng AI sẽ liên tục thăm dò các mạng, tự thích nghi để tìm và khai thác những điểm yếu. Các sâu máy tính hiện có tự sao chép bản thân bằng cách sử dụng một tập hợp các quy tắc heuristics được lập trình sẵn.

Nhưng nếu bạn có một con sâu cải thiện bản thân bằng cách sử dụng học tăng cường, cập nhật mã của nó một cách thực nghiệm với mỗi tương tác mạng, mỗi lần tìm ra những cách ngày càng hiệu quả hơn để tận dụng các lỗ hổng mạng? Cũng giống như các hệ thống như AlphaGo học các chiến lược bất ngờ từ hàng triệu trò chơi tự chơi, các cuộc tấn công mạng được hỗ trợ bởi AI cũng sẽ như vậy. Dù bạn có chuẩn bị cho mọi khả năng đến đâu, sẽ luôn có một lỗ hổng nhỏ có thể bị phát hiện bởi một AI kiên trì.

Mọi thứ từ ô tô và máy bay đến tủ lạnh và trung tâm dữ liệu đều phụ thuộc vào các cơ sở mã khổng lồ. Các AI sắp tới sẽ làm cho việc xác định và khai thác điểm yếu trở nên dễ dàng hơn bao giờ hết. Chúng thậm chí có thể tìm ra các phương tiện hợp pháp hoặc tài chính để gây thiệt hại cho các tập đoàn hoặc tổ chức khác, những điểm ẩn chứa rủi ro trong quy định ngân hàng hoặc các giao thức an toàn kỹ thuật. Như chuyên gia an ninh mạng Bruce Schneier đã chỉ ra, các AI có thể tiêu hóa các luật lệ và quy định của thế giới để tìm ra các lỗ hổng, khai thác các tính hợp pháp. Hãy tưởng tượng một kho tài liệu khổng lồ từ một công ty bị rò rỉ. Một AI pháp lý có thể phân tích điều này với nhiều hệ thống pháp lý khác nhau, xác định mọi vi phạm có thể xảy ra, và sau đó kiện công ty đó với nhiều vụ kiện tàn phá trên toàn thế giới cùng một lúc. Các AI có thể phát triển các chiến lược giao dịch tự động được thiết kế để tiêu diệt vị thế của đối thủ hoặc tạo ra các chiến dịch thông tin sai lệch (thêm về điều này trong phần tiếp theo) để kích thích một cuộc rút tiền tại ngân hàng hoặc một cuộc tẩy chay sản phẩm, cho phép một đối thủ lao vào và mua công ty—hoặc đơn giản là chứng kiến nó sụp đổ.

AI thành thạo trong việc khai thác không chỉ các hệ thống tài chính, pháp lý hoặc truyền thông mà còn cả tâm lý con người, những điểm yếu và thiên kiến của chúng ta, đang trên đường phát triển. Các nhà nghiên cứu tại Meta đã tạo ra một chương trình có tên là CICERO. Nó đã trở thành một chuyên gia trong việc chơi trò chơi cờ phức tạp Diplomacy, một trò chơi mà việc lập kế hoạch cho các chiến lược dài và phức tạp xoay quanh sự lừa dối và phản bội là điều thiết yếu. Nó cho thấy cách mà AI có thể giúp chúng ta lập kế hoạch và hợp tác, nhưng cũng gợi ý về cách mà chúng có thể phát triển các mẹo tâm lý để giành được lòng tin và ảnh hưởng, đọc và thao túng cảm xúc và hành vi của chúng ta với một mức độ sâu sắc đáng sợ, một kỹ năng hữu ích trong việc, chẳng hạn, chiến thắng trong Diplomacy hoặc vận động bầu cử và xây dựng một phong trào chính trị.

Không gian cho các cuộc tấn công có thể xảy ra chống lại các chức năng nhà nước quan trọng ngày càng gia tăng ngay cả khi cùng một giả thuyết khiến AI trở nên mạnh mẽ và thú vị—khả năng học hỏi và thích nghi của nó—cũng trao quyền cho các tác nhân xấu.

—

Trong nhiều thế kỷ, các khả năng tấn công tiên tiến, như pháo binh tập trung, hải pháo, xe tăng, tàu sân bay, hoặc ICBM, ban đầu đã quá tốn kém đến mức chúng chỉ thuộc về các quốc gia. Giờ đây, chúng đang phát triển nhanh chóng đến mức nhanh chóng lan rộng vào tay các phòng thí nghiệm nghiên cứu, các công ty khởi nghiệp và những người đam mê trong gara. Cũng giống như hiệu ứng phát sóng một-nhiều của mạng xã hội có nghĩa là một cá nhân có thể đột ngột phát sóng toàn cầu, khả năng thực hiện hành động có ảnh hưởng sâu rộng đang trở nên có sẵn cho mọi người.

Sự thay đổi động lực mới này—nơi mà những kẻ xấu được khuyến khích tấn công—mở ra những phương thức tấn công mới nhờ vào tính liên kết và dễ bị tổn thương của các hệ thống hiện đại: không chỉ một bệnh viện mà cả một hệ thống y tế có thể bị tấn công; không chỉ một kho hàng mà cả một chuỗi cung ứng. Với vũ khí tự động sát thương, chi phí, cả về vật chất và đặc biệt là con người, để tham gia chiến tranh, để tấn công, thấp hơn bao giờ hết. Đồng thời, tất cả điều này tạo ra mức độ phủ nhận và mơ hồ cao hơn, làm suy yếu logic của sự răn đe. Nếu không ai có thể chắc chắn ai đã khởi xướng một cuộc tấn công, hoặc điều gì chính xác đã xảy ra, tại sao không tiến hành?

Khi các tác nhân phi nhà nước và xấu được trao quyền theo cách này, một trong những đề xuất cốt lõi của nhà nước bị suy yếu: vẻ ngoài của một chiếc ô an ninh cho công dân bị tổn hại sâu sắc. Các quy định về an toàn và an ninh là những nền tảng cơ bản của hệ thống quốc gia, không phải là những bổ sung không cần thiết. Các quốc gia nói chung biết cách phản ứng với các câu hỏi về luật pháp và trật tự, hoặc các cuộc tấn công trực tiếp từ các quốc gia thù địch. Nhưng điều này thì mờ mịt hơn, không rõ ràng và không đối xứng, làm mờ ranh giới của lãnh thổ và việc quy trách nhiệm dễ dàng.

Làm thế nào một nhà nước duy trì được niềm tin của công dân, giữ vững thỏa thuận lớn đó, nếu nó không thể cung cấp lời hứa cơ bản về an ninh? Làm thế nào nó có thể đảm bảo rằng các bệnh viện sẽ tiếp tục hoạt động, các trường học vẫn mở cửa, ánh sáng vẫn - theo nghĩa đen - được bật trong thế giới này? Nếu nhà nước không thể bảo vệ bạn và gia đình bạn, thì việc tuân thủ và thuộc về có ý nghĩa gì? Nếu chúng ta cảm thấy rằng những điều cơ bản - điện năng cung cấp cho ngôi nhà của chúng ta, hệ thống giao thông đưa chúng ta đi lại, mạng lưới năng lượng giữ cho chúng ta ấm áp, an ninh cá nhân hàng ngày của chúng ta - đang sụp đổ và không có gì mà chúng ta hoặc chính phủ có thể làm, một nền tảng của hệ thống bị xói mòn. Nếu nhà nước bắt đầu bằng những hình thức chiến tranh mới, có lẽ nó sẽ kết thúc theo cách tương tự.

Trong suốt lịch sử, công nghệ đã tạo ra một điệu nhảy tinh tế giữa lợi thế tấn công và phòng thủ, con lắc dao động giữa hai bên nhưng vẫn giữ được một sự cân bằng nhất định: cho mỗi loại đạn mới hoặc vũ khí mạng, một biện pháp đối phó mạnh mẽ đã nhanh chóng xuất hiện. Đại bác có thể làm mòn tường thành của một lâu đài, nhưng chúng cũng có thể xé toạc một đội quân xâm lược. Giờ đây, các công nghệ mạnh mẽ, bất đối xứng và đa dụng chắc chắn sẽ đến tay những người muốn gây hại cho nhà nước. Trong khi các hoạt động phòng thủ sẽ được củng cố theo thời gian, bản chất của bốn đặc điểm này thiên về tấn công: sự phát triển của sức mạnh này quá rộng, nhanh và mở. Một thuật toán có ý nghĩa thay đổi thế giới có thể được lưu trữ trên một chiếc laptop; sớm thôi, nó thậm chí sẽ không cần đến loại cơ sở hạ tầng rộng lớn, có thể điều chỉnh của làn sóng trước và internet. Khác với một mũi tên hay thậm chí một tên lửa siêu thanh, AI và các tác nhân sinh học sẽ phát triển rẻ hơn, nhanh hơn và tự chủ hơn bất kỳ công nghệ nào mà chúng ta từng thấy. Do đó, nếu không có một loạt can thiệp mạnh mẽ để thay đổi hướng đi hiện tại, hàng triệu người sẽ có quyền truy cập vào những khả năng này chỉ trong vài năm tới.

Việc duy trì một lợi thế chiến lược quyết định, không xác định trên một phổ rộng lớn của các công nghệ sử dụng chung là hoàn toàn không khả thi. Cuối cùng, sự cân bằng có thể được khôi phục, nhưng không trước khi một làn sóng lực lượng gây mất ổn định cực kỳ lớn được giải phóng. Và như chúng ta đã thấy, bản chất của mối đe dọa rộng rãi hơn nhiều so với các hình thức tấn công vật lý thô bạo. Thông tin và truyền thông cùng nhau tạo thành một vectơ rủi ro gia tăng riêng, một bộ khuếch đại sự mong manh mới nổi cần được chú ý.

Chào mừng bạn đến với kỷ nguyên deepfake.

MÁY MÓC THÔNG TIN SAI LỆCH

Trong cuộc bầu cử địa phương năm 2020 ở Ấn Độ, chủ tịch Đảng Bharatiya Janata Delhi, Manoj Tiwari, đã được ghi hình khi phát biểu vận động - bằng cả tiếng Anh và một phương ngữ Hindi địa phương. Cả hai đều trông và nghe có vẻ rất thật. Trong video, ông tấn công, cáo buộc người đứng đầu một đảng đối thủ đã “lừa dối chúng tôi.” Nhưng phiên bản bằng phương ngữ địa phương là một deepfake, một loại phương tiện tổng hợp mới được hỗ trợ bởi AI. Được sản xuất bởi một công ty truyền thông chính trị, nó đã đưa ứng cử viên tiếp cận với những cử tri mới, khó tiếp cận. Thiếu nhận thức về cuộc thảo luận xung quanh phương tiện giả mạo, nhiều người đã cho rằng nó là thật. Công ty đứng sau deepfake lập luận rằng đây là một cách sử dụng công nghệ “tích cực”, nhưng đối với bất kỳ người quan sát tỉnh táo nào, sự cố này báo hiệu một kỷ nguyên mới nguy hiểm trong giao tiếp chính trị. Trong một sự cố khác được công bố rộng rãi, một đoạn clip của Nancy Pelosi đã được chỉnh sửa lại để làm cho bà trông ốm yếu và suy giảm, sau đó đã lan truyền rộng rãi trên mạng xã hội.

Hãy tự hỏi, điều gì sẽ xảy ra khi bất kỳ ai có khả năng tạo ra và phát sóng nội dung với mức độ thực tế đáng kinh ngạc? Những ví dụ này đã xảy ra trước khi các phương tiện để tạo ra deepfake gần như hoàn hảo—dù là văn bản, hình ảnh, video hay âm thanh—trở nên dễ dàng như việc gõ một truy vấn vào Google. Như chúng ta đã thấy trong chương 4, các mô hình ngôn ngữ lớn hiện nay cho thấy kết quả đáng kinh ngạc trong việc tạo ra phương tiện tổng hợp. Một thế giới của deepfake không thể phân biệt với phương tiện truyền thống đã xuất hiện. Những deepfake này sẽ tốt đến mức mà lý trí của chúng ta sẽ khó chấp nhận rằng chúng không phải là thật.

Deepfake đang lan rộng nhanh chóng. Nếu bạn muốn xem một video giả mạo thuyết phục của Tom Cruise chuẩn bị đấu vật với một con cá sấu, thì bạn có thể. Ngày càng nhiều người bình thường sẽ bị bắt chước khi dữ liệu đào tạo cần thiết chỉ còn lại một vài ví dụ. Điều này đã xảy ra. Một ngân hàng ở Hồng Kông đã chuyển hàng triệu đô la cho những kẻ lừa đảo vào năm 2021, sau khi một trong những khách hàng của họ bị giả mạo bởi một deepfake. Giọng nói giống hệt như khách hàng thật, những kẻ lừa đảo đã gọi điện cho giám đốc ngân hàng và giải thích rằng công ty cần chuyển tiền cho một thương vụ mua lại. Tất cả các tài liệu dường như đều hợp lệ, giọng nói và tính cách đều quen thuộc một cách hoàn hảo, vì vậy giám đốc đã thực hiện chuyển khoản.

Bất kỳ ai có động cơ gieo rắc bất ổn bây giờ đều dễ dàng hơn. Giả sử ba ngày trước cuộc bầu cử, tổng thống bị bắt gặp trên camera sử dụng một từ ngữ phân biệt chủng tộc. Văn phòng báo chí của chiến dịch kịch liệt phủ nhận điều đó, nhưng mọi người đều biết những gì họ đã thấy. Sự phẫn nộ dâng trào khắp cả nước. Các cuộc thăm dò lao dốc. Các bang dao động đột ngột chuyển sang phía đối thủ, người mà, trái với mọi kỳ vọng, đã chiến thắng. Một chính quyền mới lên nắm quyền. Nhưng video đó là một deepfake, một cái tinh vi đến mức nó lừa được cả những mạng nơ-ron phát hiện giả mạo tốt nhất.

Mối đe dọa ở đây không nằm ở những trường hợp cực đoan mà ở những kịch bản tinh tế, phức tạp và có khả năng xảy ra cao bị phóng đại và bóp méo. Đó không phải là tổng thống xông vào một trường học la hét những điều vô nghĩa trong khi ném lựu đạn; mà là tổng thống một cách chán nản nói rằng ông không còn lựa chọn nào khác ngoài việc ban hành một bộ luật khẩn cấp hoặc tái giới thiệu nghĩa vụ quân sự. Đó không phải là pháo hoa Hollywood; mà là đoạn video giám sát được cho là ghi lại cảnh một nhóm cảnh sát da trắng đánh đập một người đàn ông da đen đến chết.

Các bài giảng từ nhà truyền giáo cực đoan Anwar al-Awlaki đã truyền cảm hứng cho những kẻ đánh bom Maratona Boston, những kẻ tấn công Charlie Hebdo ở Paris, và kẻ xả súng đã giết chết bốn mươi chín người tại một câu lạc bộ đêm ở Orlando. Tuy nhiên, al-Awlaki đã chết vào năm 2011, là công dân Mỹ đầu tiên bị giết bởi một cuộc không kích của máy bay không người lái Mỹ, trước bất kỳ sự kiện nào trong số này. Những thông điệp cực đoan của ông, tuy nhiên, vẫn có sẵn trên YouTube cho đến năm 2017. Giả sử rằng bằng cách sử dụng deepfakes, những video mới của al-Awlaki có thể được "khai thác", mỗi video yêu cầu các cuộc tấn công có mục tiêu hơn với ngôn từ được mài dũa chính xác. Không phải ai cũng tin vào điều đó, nhưng những người muốn tin sẽ thấy điều đó hoàn toàn hấp dẫn.

Sớm thôi, những video này sẽ hoàn toàn và đáng tin cậy tương tác. Bạn đang nói chuyện trực tiếp với anh ta. Anh ta biết bạn và thích ứng với phương ngữ và phong cách của bạn, khai thác lịch sử của bạn, những nỗi uất ức cá nhân của bạn, sự bắt nạt bạn phải chịu ở trường, những bậc phụ huynh tồi tệ, vô đạo đức và phương Tây của bạn. Đây không phải là thông tin sai lệch như một cuộc tấn công ồ ạt; đây là thông tin sai lệch như một cuộc tấn công chính xác.

Các cuộc tấn công lừa đảo nhằm vào các chính trị gia hoặc doanh nhân, thông tin sai lệch với mục đích gây rối loạn hoặc thao túng thị trường tài chính lớn, truyền thông được thiết kế để làm tổn hại đến các đường ranh giới quan trọng như chia rẽ tôn giáo hoặc chủng tộc, thậm chí là các trò lừa đảo cấp thấp—niềm tin bị tổn hại và sự mong manh lại được khuếch đại.

Cuối cùng, những lịch sử tổng hợp và phong phú về các sự kiện dường như có thật trong thế giới sẽ dễ dàng được tạo ra. Các công dân cá nhân sẽ không có thời gian hoặc công cụ để xác minh một phần nội dung đến với họ. Những sản phẩm giả mạo sẽ dễ dàng vượt qua các kiểm tra tinh vi, chưa nói đến một bài kiểm tra nhanh trong hai giây.

CÁC CUỘC TẤN CÔNG THÔNG TIN DO NHÀ NƯỚC TÀI TRỢ

Vào những năm 1980, Liên Xô đã tài trợ cho các chiến dịch thông tin sai lệch cho rằng virus AIDS là kết quả của một chương trình vũ khí sinh học của Mỹ. Nhiều năm sau, một số cộng đồng vẫn phải đối mặt với sự nghi ngờ và hậu quả. Trong khi đó, các chiến dịch này vẫn chưa dừng lại. Theo Facebook, các đại lý Nga đã tạo ra không ít hơn tám mươi nghìn nội dung tự nhiên đã tiếp cận 126 triệu người Mỹ trên các nền tảng của họ trong cuộc bầu cử năm 2016.

Các công cụ kỹ thuật số được tăng cường bởi AI sẽ làm trầm trọng thêm các hoạt động thông tin như thế này, can thiệp vào các cuộc bầu cử, khai thác các chia rẽ xã hội và tạo ra các chiến dịch astroturfing phức tạp để gieo rắc hỗn loạn. Thật không may, điều này không chỉ xảy ra ở Nga. Hơn bảy mươi quốc gia đã được phát hiện đang thực hiện các chiến dịch thông tin sai lệch. Trung Quốc đang nhanh chóng bắt kịp Nga; những quốc gia khác từ Thổ Nhĩ Kỳ đến Iran cũng đang phát triển kỹ năng của họ. (CIA cũng không phải là người xa lạ với các hoạt động thông tin.)

Vào đầu đại dịch COVID-19, một cơn bão thông tin sai lệch đã gây ra những hậu quả chết người. Một nghiên cứu của Carnegie Mellon đã phân tích hơn 200 triệu tweet thảo luận về COVID-19 trong thời điểm cao điểm của đợt phong tỏa đầu tiên. Tám mươi hai phần trăm người dùng có ảnh hưởng ủng hộ việc “mở cửa lại nước Mỹ” là bot. Đây là một “cỗ máy tuyên truyền” có mục tiêu, rất có thể là của Nga, được thiết kế để làm trầm trọng thêm cuộc khủng hoảng sức khỏe cộng đồng tồi tệ nhất trong một thế kỷ.

Deepfakes tự động hóa những cuộc tấn công thông tin này. Cho đến nay, các chiến dịch thông tin sai lệch hiệu quả đều tốn nhiều công sức. Mặc dù bot và giả mạo không khó để tạo ra, nhưng hầu hết đều có chất lượng thấp, dễ nhận diện và chỉ có hiệu quả trung bình trong việc thực sự thay đổi hành vi của mục tiêu.

Các phương tiện tổng hợp chất lượng cao thay đổi phương trình này. Không phải tất cả các quốc gia hiện tại đều có đủ kinh phí để xây dựng các chương trình thông tin sai lệch lớn, với các văn phòng chuyên trách và đội ngũ nhân viên được đào tạo, nhưng đó không còn là một rào cản khi tài liệu chất lượng cao có thể được tạo ra chỉ với một cú nhấp chuột. Nhiều hỗn loạn sắp tới sẽ không phải là ngẫu nhiên. Nó sẽ đến khi các chiến dịch thông tin sai lệch hiện có được tăng cường, mở rộng và phân quyền cho một nhóm rộng lớn các tác nhân có động lực.

Sự gia tăng của phương tiện truyền thông tổng hợp với quy mô lớn và chi phí tối thiểu làm gia tăng cả thông tin sai lệch (thông tin ác ý và cố ý gây hiểu lầm) và thông tin sai (sự ô nhiễm thông tin rộng rãi và không cố ý) cùng một lúc. Hãy chuẩn bị cho một “Cuộc khải huyền thông tin,” thời điểm mà xã hội không còn có thể quản lý một dòng chảy tài liệu mờ ám, nơi mà hệ sinh thái thông tin nền tảng cho kiến thức, niềm tin và sự gắn kết xã hội, chất keo giữ cho xã hội cùng tồn tại, bị sụp đổ. Theo lời của một báo cáo từ Viện Brookings, phương tiện truyền thông tổng hợp hoàn hảo và phổ biến có nghĩa là “bóp méo diễn ngôn dân chủ; thao túng bầu cử; làm suy yếu niềm tin vào các tổ chức; làm yếu báo chí; làm trầm trọng thêm sự chia rẽ xã hội; làm suy yếu an toàn công cộng; và gây ra thiệt hại khó khắc phục cho danh tiếng của các cá nhân nổi bật, bao gồm cả các quan chức được bầu và ứng cử viên cho các chức vụ.”

Không phải tất cả các yếu tố gây căng thẳng và tổn hại đều đến từ những kẻ xấu, tuy nhiên. Một số đến từ những ý định tốt nhất. Sự khuếch đại của sự mong manh là ngẫu nhiên cũng như có chủ đích.

PHÒNG THÍ NGHIỆM RÒ RỈ VÀ SỰ BẤT ỔN KHÔNG ĐƯỢC DỰ ĐOÁN

Tại một trong những phòng thí nghiệm an toàn nhất thế giới, một nhóm các nhà nghiên cứu đang thử nghiệm với một loại tác nhân gây bệnh chết người. Không ai có thể chắc chắn điều gì đã xảy ra tiếp theo. Ngay cả với lợi thế của sự nhìn nhận lại, thông tin về nghiên cứu rất ít ỏi. Điều chắc chắn là, ở một quốc gia nổi tiếng với sự bí mật và kiểm soát của chính phủ, một căn bệnh lạ mới bắt đầu xuất hiện.

Rất nhanh chóng, nó đã được phát hiện trên toàn thế giới, ở Vương quốc Anh, Hoa Kỳ và xa hơn nữa. Thật kỳ lạ, điều này dường như không phải là một chủng bệnh hoàn toàn tự nhiên. Một số đặc điểm đã gây ra sự lo ngại trong cộng đồng khoa học và gợi ý rằng có điều gì đó ở phòng thí nghiệm đã diễn ra một cách khủng khiếp, rằng đây không phải là một sự kiện tự nhiên. Chẳng mấy chốc, số người chết bắt đầu tăng lên. Phòng thí nghiệm siêu an toàn đó không còn trông có vẻ an toàn nữa.

Nếu điều này nghe có vẻ quen thuộc, có lẽ nó không phải là câu chuyện mà bạn đang nghĩ đến. Đây là năm 1977 và một dịch cúm được biết đến với tên gọi cúm Nga. Được phát hiện lần đầu tiên ở Trung Quốc, nó đã được phát hiện ở Liên Xô ngay sau đó, lan rộng từ đó và được báo cáo đã giết chết tới 700.000 người. Điều bất thường về chủng cúm H1N1 là nó giống rất gần với một chủng lưu hành vào những năm 1950. Bệnh tấn công mạnh nhất vào người trẻ tuổi, một dấu hiệu có thể cho thấy họ có hệ miễn dịch yếu hơn so với những người xung quanh cách đây vài thập kỷ.

Có nhiều lý thuyết về những gì đã xảy ra. Liệu có điều gì đó đã thoát ra từ lớp băng vĩnh cửu? Nó có phải là một phần của chương trình vũ khí sinh học rộng lớn và mờ ám của Nga không? Tuy nhiên, cho đến nay, lời giải thích tốt nhất là một vụ rò rỉ từ phòng thí nghiệm. Một phiên bản của virus trước đó có khả năng đã thoát ra trong quá trình thí nghiệm phòng thí nghiệm với một loại vắc xin. Dịch bệnh này thực chất được gây ra bởi những nghiên cứu có ý định tốt nhằm ngăn chặn dịch bệnh.

Các phòng thí nghiệm sinh học phải tuân theo các tiêu chuẩn toàn cầu nhằm ngăn chặn tai nạn. Những phòng thí nghiệm an toàn nhất được gọi là phòng thí nghiệm an toàn sinh học cấp 4 (BSL-4). Chúng đại diện cho các tiêu chuẩn cao nhất về việc kiểm soát khi làm việc với các vật liệu gây bệnh nguy hiểm nhất. Các cơ sở hoàn toàn được niêm phong. Việc ra vào được thực hiện qua cửa không khí. Mọi thứ ra vào đều được kiểm tra kỹ lưỡng. Mọi người đều mặc bộ đồ áp suất. Bất kỳ ai ra ngoài đều cần tắm rửa. Tất cả các vật liệu đều được xử lý, tuân theo các quy trình nghiêm ngặt nhất. Các cạnh sắc của bất kỳ loại nào, có khả năng đâm thủng găng tay hoặc bộ đồ, đều bị cấm. Các nhà nghiên cứu tại các phòng thí nghiệm BSL-4 được đào tạo một cách hợp lý để tạo ra những môi trường an toàn sinh học nhất mà nhân loại từng thấy.

Và vẫn có những tai nạn và rò rỉ xảy ra. Cúm Nga năm 1977 chỉ là một ví dụ. Chỉ hai năm sau, bào tử than đã vô tình được phát tán từ một cơ sở vũ khí sinh học bí mật của Liên Xô, tạo ra một con đường bệnh tật dài năm mươi kilômét khiến ít nhất sáu mươi sáu người thiệt mạng.

Vào năm 2007, một ống dẫn bị rò rỉ tại Viện Pirbright của Vương quốc Anh, nơi có các phòng thí nghiệm BSL-4, đã gây ra một đợt bùng phát bệnh chân tay miệng với chi phí lên tới 147 triệu bảng. Vào năm 2021, một nhà nghiên cứu của một công ty dược phẩm gần Philadelphia đã để lại các lọ bệnh đậu mùa trong một tủ đông không có nhãn và không được bảo vệ. May mắn thay, chúng đã được một người dọn dẹp tủ đông phát hiện. Người đó thật may mắn khi đang đeo khẩu trang và găng tay. Nếu nó bị phát tán, hậu quả sẽ là thảm khốc. Trước khi được tiêu diệt, bệnh đậu mùa đã giết chết ước tính từ 300 đến 500 triệu người chỉ trong thế kỷ hai mươi, với tỷ lệ sinh sản tương đương với các chủng COVID-19 lây lan hơn, nhưng với tỷ lệ tử vong gấp ba mươi lần so với COVID.

SARS được cho là phải được giữ trong điều kiện BSL-3, nhưng nó đã thoát ra từ các phòng thí nghiệm vi sinh vật ở Singapore, Đài Loan và Trung Quốc. Thật đáng kinh ngạc, nó đã thoát ra bốn lần từ cùng một phòng thí nghiệm ở Bắc Kinh. Những sai sót đều quá con người và tầm thường. Trường hợp ở Singapore là do một sinh viên tốt nghiệp không biết về sự hiện diện của SARS. Ở Đài Loan, một nhà khoa học nghiên cứu đã xử lý sai chất thải sinh học nguy hiểm. Ở Bắc Kinh, các vụ rò rỉ được cho là do việc khử hoạt virus kém và xử lý trong các phòng thí nghiệm không an toàn sinh học. Và tất cả những điều đó còn chưa kể đến Vũ Hán, nơi có phòng thí nghiệm BSL-4 lớn nhất thế giới và là trung tâm nghiên cứu coronavirus.

Ngay cả khi số lượng các phòng thí nghiệm BSL-4 tăng vọt, chỉ một phần tư trong số đó đạt điểm cao về an toàn, theo Chỉ số An ninh Sức khỏe Toàn cầu. Giữa năm 1975 và 2016, các nhà nghiên cứu đã ghi lại ít nhất bảy mươi một trường hợp tiếp xúc có chủ ý hoặc vô tình với các tác nhân gây bệnh truyền nhiễm và độc hại cao. Hầu hết đều là những tai nạn nhỏ mà ngay cả những người được đào tạo tốt nhất cũng chắc chắn sẽ mắc phải đôi khi - một cú trượt với kim tiêm, một lọ bị đổ, một thí nghiệm được chuẩn bị với một lỗi nhỏ. Bức tranh của chúng tôi gần như chắc chắn là không đầy đủ. Ít nhà nghiên cứu báo cáo tai nạn công khai hoặc kịp thời. Một cuộc khảo sát các nhân viên an toàn sinh học cho thấy hầu hết không bao giờ báo cáo tai nạn ra ngoài tổ chức của họ. Một đánh giá rủi ro của Mỹ từ năm 2014 ước tính rằng trong một thập kỷ, khả năng "rò rỉ lớn từ phòng thí nghiệm" ở mười phòng thí nghiệm là 91 phần trăm; rủi ro của một đại dịch xảy ra, 27 phần trăm.

Không có gì nên bị rò rỉ. Tuy nhiên, các tác nhân gây bệnh vẫn thoát ra, hết lần này đến lần khác. Mặc dù là một trong những biện pháp nghiêm ngặt nhất, nhưng các quy trình, công nghệ và quy định về việc kiểm soát vẫn thất bại. Một ống pipet rung lắc. Một mảnh nhựa bị thủng. Một giọt dung dịch đổ lên giày. Đây là những thất bại rõ ràng trong việc kiểm soát. Tình cờ. Ngẫu nhiên. Xảy ra với một sự đều đặn u ám, không thể tránh khỏi. Trong thời đại của sự sống tổng hợp, tuy nhiên, nó mang đến khả năng xảy ra các tai nạn có thể đại diện cho cả một áp lực khổng lồ và điều mà chúng ta sẽ trở lại sau trong phần 3—thảm họa.

—

Một số lĩnh vực của sinh học gây tranh cãi như nghiên cứu tăng chức năng (GOF). Nói một cách đơn giản, các thí nghiệm tăng chức năng cố ý thiết kế các tác nhân gây bệnh để chúng trở nên chết người hoặc lây nhiễm hơn, hoặc cả hai. Trong tự nhiên, virus thường phải đánh đổi giữa độ chết người và khả năng lây truyền. Virus càng dễ lây truyền thì thường càng ít chết người. Nhưng không có lý do tuyệt đối nào cho rằng điều này phải như vậy. Một cách để hiểu cách điều này có thể xảy ra - tức là, cách mà virus có thể trở nên chết người và lây truyền cùng một lúc - và cách chúng ta có thể chống lại điều đó là, ừm, làm cho nó xảy ra.

Đó là nơi nghiên cứu tăng cường chức năng xuất hiện. Các nhà nghiên cứu điều tra thời gian ủ bệnh của các bệnh, hoặc cách chúng né tránh sự kháng vaccine, hoặc có thể cách chúng lây lan không triệu chứng qua một quần thể. Công việc như vậy đã được thực hiện trên các bệnh như Ebola, các loại cúm như H1N1, và bệnh sởi.

Những nỗ lực nghiên cứu như vậy thường đáng tin cậy và có ý định tốt. Công việc với virus cúm gia cầm ở Hà Lan và Hoa Kỳ cách đây khoảng một thập kỷ là một ví dụ điển hình. Bệnh này có tỷ lệ tử vong cao một cách đáng kinh ngạc nhưng may mắn là rất khó lây nhiễm. Các nhà nghiên cứu muốn hiểu cách mà bức tranh đó có thể thay đổi, cách mà bệnh này có thể biến đổi thành một dạng dễ lây lan hơn, và đã sử dụng chồn để xem điều này có thể xảy ra như thế nào. Nói cách khác, họ đã làm cho một căn bệnh chết người về nguyên tắc trở nên dễ lây nhiễm hơn.

Tuy nhiên, không cần một trí tưởng tượng phong phú để hình dung cách mà nghiên cứu như vậy có thể sai lầm. Cố tình chế tạo hoặc tiến hóa các virus như thế này, một số người cảm thấy, bao gồm cả tôi, giống như đang chơi với nút kích hoạt hạt nhân.

Nghiên cứu tăng cường chức năng là, đủ để nói, gây tranh cãi. Trong một thời gian, các cơ quan tài trợ của Hoa Kỳ đã áp đặt lệnh tạm dừng tài trợ cho nó. Trong một thất bại điển hình của việc kiểm soát, công việc này đã được tiếp tục vào năm 2019. Có ít nhất một số chỉ dẫn cho thấy COVID-19 đã bị biến đổi gen và một khối lượng ngày càng tăng của các bằng chứng (gián tiếp), từ hồ sơ của Viện Vũ Hán đến sinh học phân tử của chính virus, cho thấy một sự rò rỉ từ phòng thí nghiệm có thể là nguồn gốc của đại dịch.

Cả FBI và Bộ Năng lượng Hoa Kỳ đều tin rằng đây là trường hợp, trong khi CIA vẫn chưa quyết định. Khác với các đợt bùng phát trước, không có bằng chứng rõ ràng về sự lây truyền từ động vật sang người. Rất có thể rằng nghiên cứu sinh học đã giết chết hàng triệu người, khiến xã hội toàn cầu ngừng hoạt động, và tiêu tốn hàng nghìn tỷ đô la. Vào cuối năm 2022, một nghiên cứu của NIH tại Đại học Boston đã kết hợp chủng COVID ban đầu, nguy hiểm hơn với protein gai của biến thể omicron dễ lây lan hơn. Nhiều người cảm thấy nghiên cứu này không nên tiếp tục, nhưng nó đã được thực hiện, được tài trợ bằng tiền công.

Điều này không phải về những kẻ xấu lợi dụng công nghệ; đây là về những hậu quả không mong muốn từ những người tốt muốn cải thiện kết quả sức khỏe. Nó liên quan đến những gì sai sót khi các công cụ mạnh mẽ phát triển, những sai lầm nào xảy ra, những "hiệu ứng trả thù" nào xuất hiện, những rắc rối ngẫu nhiên, không lường trước nào phát sinh từ sự va chạm của công nghệ với thực tế. Ra khỏi bảng vẽ, xa rời lý thuyết, vấn đề trung tâm của công nghệ không được kiểm soát vẫn tồn tại ngay cả với những ý định tốt nhất.

Nghiên cứu GOF nhằm giữ cho mọi người an toàn. Tuy nhiên, nó không thể tránh khỏi xảy ra trong một thế giới có nhiều khiếm khuyết, nơi các phòng thí nghiệm rò rỉ, nơi các đại dịch xảy ra. Bất kể điều gì đã xảy ra ở Vũ Hán, vẫn có khả năng u ám rằng nghiên cứu như vậy về virus corona đã diễn ra và bị rò rỉ. Hồ sơ lịch sử về các vụ rò rỉ phòng thí nghiệm rất khó để bỏ qua.

—

Nghiên cứu tăng cường chức năng và rò rỉ từ phòng thí nghiệm chỉ là hai ví dụ đặc biệt rõ ràng về cách làn sóng sắp tới sẽ giới thiệu một loạt các hiệu ứng trả thù và các chế độ thất bại không mong muốn. Nếu mỗi phòng thí nghiệm nửa có năng lực hoặc thậm chí bất kỳ hacker sinh học ngẫu nhiên nào cũng có thể bắt tay vào nghiên cứu này, bi kịch không thể bị hoãn lại vô thời hạn. Chính kịch bản như vậy đã được phác thảo cho tôi trong buổi hội thảo mà tôi đã đề cập ở chương 1.

Khi sức mạnh và sự lan tỏa của bất kỳ công nghệ nào gia tăng, các chế độ thất bại của nó cũng tăng theo. Nếu một chiếc máy bay gặp nạn, đó là một thảm kịch khủng khiếp. Nhưng nếu một toàn bộ đội máy bay gặp nạn, đó là một điều hoàn toàn đáng sợ hơn. Để nhấn mạnh: những rủi ro này không phải về tổn hại ác ý; chúng đến từ việc đơn giản là hoạt động ở rìa công nghệ tiên tiến nhất trong lịch sử, được nhúng rộng rãi trong các hệ thống xã hội cốt lõi. Một vụ rò rỉ trong phòng thí nghiệm chỉ là một ví dụ điển hình về những hậu quả không mong muốn, cốt lõi của vấn đề kiểm soát, tương đương với làn sóng sắp tới của các vụ tan chảy lò phản ứng hoặc đầu đạn bị mất. Những tai nạn như thế này tạo ra một yếu tố căng thẳng không thể đoán trước khác, một vết nứt phân tán khác trong hệ thống.

Tuy nhiên, các yếu tố gây căng thẳng cũng có thể không phải là những sự kiện rõ ràng, không phải là một cuộc tấn công của robot, rò rỉ từ phòng thí nghiệm, hay video giả mạo, mà là một quá trình chậm rãi và lan tỏa làm suy yếu các nền tảng. Hãy xem xét rằng trong suốt lịch sử, các công cụ và công nghệ đã được thiết kế để giúp chúng ta làm nhiều hơn với ít hơn. Mỗi trường hợp cá nhân gần như không có giá trị gì. Nhưng điều gì sẽ xảy ra nếu tác dụng phụ cuối cùng của những hiệu quả tích lũy này là con người không cần thiết cho nhiều công việc?

CUỘC TRANH LUẬN VỀ TỰ ĐỘNG HÓA

Trong những năm kể từ khi tôi đồng sáng lập DeepMind, không có cuộc tranh luận chính sách AI nào được đưa ra nhiều hơn tương lai của công việc - đến mức bão hòa.

Đây là luận án gốc. Trong quá khứ, các công nghệ mới đã khiến người lao động mất việc, tạo ra cái mà nhà kinh tế học John Maynard Keynes gọi là “thất nghiệp công nghệ.” Theo quan điểm của Keynes, đây là một điều tốt, với năng suất tăng lên giải phóng thời gian cho đổi mới và giải trí thêm. Các ví dụ về sự thay thế liên quan đến công nghệ là vô số. Việc giới thiệu máy dệt điện đã khiến những người dệt truyền thống mất việc; ô tô có nghĩa là các thợ làm xe ngựa và chuồng ngựa không còn cần thiết; các nhà máy bóng đèn phát triển mạnh khi các thợ làm nến phá sản.

Nói chung, khi công nghệ làm hỏng các công việc và ngành công nghiệp cũ, nó cũng tạo ra những công việc mới. Theo thời gian, những công việc mới này có xu hướng nghiêng về các vai trò trong ngành dịch vụ và các công việc văn phòng dựa trên nhận thức. Khi các nhà máy đóng cửa ở Vành đai gỉ sét, nhu cầu về luật sư, nhà thiết kế và người ảnh hưởng trên mạng xã hội tăng vọt. Cho đến nay, ít nhất là về mặt kinh tế, các công nghệ mới không thay thế lao động; chúng đã bổ sung cho lao động một cách tổng thể.

Nhưng điều gì sẽ xảy ra nếu các hệ thống thay thế công việc mới leo lên bậc thang khả năng nhận thức của con người, để lại không còn nơi nào cho lao động quay sang? Nếu làn sóng sắp tới thực sự rộng lớn và tổng quát như nó xuất hiện, con người sẽ cạnh tranh như thế nào? Điều gì sẽ xảy ra nếu một số lượng lớn các nhiệm vụ văn phòng có thể được thực hiện hiệu quả hơn bởi AI? Trong một số lĩnh vực, con người sẽ vẫn "tốt hơn" máy móc. Tôi đã lâu lập luận rằng đây là kịch bản có khả năng xảy ra hơn. Với sự xuất hiện của thế hệ mô hình ngôn ngữ lớn mới nhất, tôi giờ đây càng tin tưởng hơn rằng đây là cách mọi thứ sẽ diễn ra.

Những công cụ này chỉ tạm thời tăng cường trí tuệ con người. Chúng sẽ làm cho chúng ta thông minh hơn và hiệu quả hơn trong một thời gian, và sẽ mở ra một lượng lớn tăng trưởng kinh tế, nhưng chúng về cơ bản là thay thế lao động. Cuối cùng, chúng sẽ thực hiện lao động nhận thức một cách hiệu quả hơn và rẻ hơn so với nhiều người làm việc trong các lĩnh vực hành chính, nhập dữ liệu, dịch vụ khách hàng (bao gồm cả việc thực hiện và nhận cuộc gọi), viết email, soạn thảo tóm tắt, dịch tài liệu, tạo nội dung, viết quảng cáo, và nhiều hơn nữa. Trước sự phong phú của các sản phẩm tương đương siêu giá rẻ, những ngày của loại "lao động thủ công nhận thức" này đang được đếm ngược.

Chúng ta chỉ mới bắt đầu thấy tác động của làn sóng mới này. Phân tích ban đầu về ChatGPT cho thấy nó tăng năng suất của “các chuyên gia có trình độ đại học trung bình” lên 40% trong nhiều nhiệm vụ. Điều đó có thể ảnh hưởng đến quyết định tuyển dụng: một nghiên cứu của McKinsey ước tính rằng hơn một nửa số công việc có thể thấy nhiều nhiệm vụ của họ được tự động hóa bởi máy móc trong bảy năm tới, trong khi năm mươi hai triệu người Mỹ làm việc trong các vai trò có “mức độ tiếp xúc với tự động hóa trung bình” vào năm 2030.

Các nhà kinh tế học Daron Acemoglu và Pascual Restrepo ước tính rằng robot làm giảm lương của công nhân địa phương. Với mỗi robot bổ sung trên một nghìn công nhân, tỷ lệ việc làm trên dân số giảm, và do đó, lương cũng giảm. Ngày nay, các thuật toán thực hiện phần lớn các giao dịch cổ phiếu và ngày càng hoạt động trên các tổ chức tài chính, và mặc dù Phố Wall đang bùng nổ, nhưng nó vẫn cắt giảm việc làm khi công nghệ xâm nhập vào ngày càng nhiều nhiệm vụ.

Nhiều người vẫn chưa bị thuyết phục. Các nhà kinh tế như David Autor lập luận rằng công nghệ mới liên tục nâng cao thu nhập, tạo ra nhu cầu cho lao động mới. Công nghệ làm cho các công ty trở nên hiệu quả hơn, nó tạo ra nhiều tiền hơn, sau đó chảy trở lại vào nền kinh tế. Nói một cách đơn giản, nhu cầu là không thể thỏa mãn, và nhu cầu này, được kích thích bởi sự giàu có mà công nghệ đã tạo ra, dẫn đến những công việc mới cần lao động con người. Sau cùng, những người hoài nghi nói, mười năm thành công của học sâu đã không dẫn đến một cuộc khủng hoảng tự động hóa việc làm. Việc tin vào nỗi sợ đó, một số người lập luận, chỉ là một sự lặp lại của sai lầm “khối lượng lao động” cũ, mà sai lầm cho rằng chỉ có một lượng công việc nhất định để phân phối. Thay vào đó, tương lai trông giống như hàng tỷ người làm việc trong những công việc cao cấp mà vẫn chưa được hình dung.

Tôi tin rằng tầm nhìn tươi sáng này là không khả thi trong vài thập kỷ tới; tự động hóa chắc chắn là một yếu tố làm gia tăng sự mong manh. Như chúng ta đã thấy trong chương 4, tốc độ cải tiến của AI vượt xa mức độ hàm mũ, và dường như không có giới hạn rõ ràng nào trong tầm nhìn. Máy móc đang nhanh chóng bắt chước mọi loại khả năng của con người, từ thị giác đến lời nói và ngôn ngữ. Ngay cả khi không có tiến bộ cơ bản hướng tới "hiểu biết sâu sắc", các mô hình ngôn ngữ mới có thể đọc, tổng hợp và tạo ra văn bản chính xác đến mức choáng váng và cực kỳ hữu ích. Thực sự có hàng trăm vai trò mà kỹ năng đơn lẻ này là yêu cầu cốt lõi, và còn rất nhiều điều hơn nữa sẽ đến từ AI.

Có, gần như chắc chắn rằng nhiều loại công việc mới sẽ được tạo ra. Ai có thể nghĩ rằng "người ảnh hưởng" sẽ trở thành một vai trò được săn đón nhiều? Hoặc tưởng tượng rằng vào năm 2023, mọi người sẽ làm việc như "kỹ sư gợi ý" - những lập trình viên không chuyên về các mô hình ngôn ngữ lớn, những người trở nên thành thạo trong việc khơi gợi ra các phản hồi cụ thể? Nhu cầu về nhân viên mát-xa, nghệ sĩ chơi cello và người ném bóng chày sẽ không biến mất. Nhưng dự đoán tốt nhất của tôi là các công việc mới sẽ không xuất hiện với số lượng hoặc thời gian thực sự giúp đỡ. Số lượng người có thể lấy bằng tiến sĩ về học máy sẽ vẫn rất nhỏ so với quy mô của các đợt sa thải. Và, chắc chắn, nhu cầu mới sẽ tạo ra công việc mới, nhưng điều đó không có nghĩa là tất cả đều được thực hiện bởi con người.

Thị trường lao động cũng có sự ma sát lớn về kỹ năng, địa lý và bản sắc. Hãy xem xét rằng trong đợt suy thoái công nghiệp gần đây, công nhân thép ở Pittsburgh hoặc nhà sản xuất ô tô ở Detroit khó có thể chỉ đơn giản là rời bỏ công việc, đào tạo lại giữa sự nghiệp và tìm một công việc như một nhà giao dịch phái sinh ở New York, một tư vấn thương hiệu ở Seattle hoặc một giáo viên ở Miami. Nếu Silicon Valley hoặc Thành phố London tạo ra nhiều việc làm mới, điều đó không giúp ích gì cho những người ở phía bên kia của đất nước nếu họ không có kỹ năng phù hợp hoặc không thể di chuyển. Nếu cảm giác về bản thân của bạn gắn liền với một loại công việc cụ thể, thì thật ít an ủi nếu bạn cảm thấy công việc mới của mình làm giảm phẩm giá của bạn.

Làm việc theo hợp đồng không giờ tại một trung tâm phân phối không mang lại cảm giác tự hào hay sự đoàn kết xã hội như khi làm việc cho một nhà sản xuất ô tô phát triển ở Detroit vào những năm 1960. Chỉ số Chất lượng Công việc Khu vực Tư nhân, một thước đo số lượng công việc cung cấp thu nhập trên trung bình, đã giảm mạnh kể từ năm 1990; nó cho thấy rằng các công việc có lương cao như một tỷ lệ của tổng số đã bắt đầu giảm.

Các quốc gia như Ấn Độ và Philippines đã chứng kiến sự bùng nổ lớn từ việc thuê ngoài quy trình kinh doanh, tạo ra những công việc có mức lương tương đối cao ở những nơi như trung tâm cuộc gọi. Chính loại công việc này sẽ bị tự động hóa nhắm đến. Những công việc mới có thể được tạo ra trong dài hạn, nhưng đối với hàng triệu người, chúng sẽ không đến đủ nhanh hoặc ở những nơi phù hợp.

Cùng lúc đó, một cuộc suy thoái việc làm sẽ làm sụt giảm thu thuế, gây tổn hại cho các dịch vụ công và đặt ra câu hỏi về các chương trình phúc lợi ngay khi chúng đang cần thiết nhất. Ngay cả trước khi việc làm bị tàn phá, các chính phủ sẽ bị kéo căng, vật lộn để đáp ứng tất cả các cam kết của họ, tài trợ cho chính mình một cách bền vững và cung cấp các dịch vụ mà công chúng đã mong đợi. Hơn nữa, tất cả những sự gián đoạn này sẽ xảy ra trên toàn cầu, ở nhiều khía cạnh, ảnh hưởng đến mọi bậc thang của thang phát triển từ các nền kinh tế chủ yếu là nông nghiệp đến các lĩnh vực dịch vụ tiên tiến. Từ Lagos đến LA., các con đường đến việc làm bền vững sẽ phải chịu những sự gián đoạn khổng lồ, khó lường và phát triển nhanh chóng.

Ngay cả những người không dự đoán những hậu quả nghiêm trọng nhất của tự động hóa vẫn chấp nhận rằng nó đang trên đà gây ra những gián đoạn đáng kể trong trung hạn. Dù bạn đứng về phía nào trong cuộc tranh luận về việc làm, thật khó để phủ nhận rằng những hệ quả sẽ gây ra sự bất ổn lớn cho hàng trăm triệu người, những người sẽ, ít nhất, cần phải học lại kỹ năng và chuyển sang các loại công việc mới. Các kịch bản lạc quan vẫn liên quan đến những hệ quả chính trị đáng lo ngại từ tài chính chính phủ bị phá vỡ đến những dân số thiếu việc làm, không an toàn và tức giận.

Nó báo hiệu rắc rối. Một yếu tố căng thẳng trong một thế giới đã căng thẳng.

—

Sự gián đoạn trên thị trường lao động cũng giống như mạng xã hội, là những bộ khuếch đại sự mong manh. Chúng gây hại và làm suy yếu nhà nước quốc gia. Những dấu hiệu đầu tiên của điều này đang dần hiện ra, nhưng giống như mạng xã hội vào cuối thập kỷ đầu tiên của thế kỷ hai mươi mốt, vẫn chưa rõ hình dạng và mức độ chính xác của các hệ quả sẽ như thế nào. Dù sao đi nữa, chỉ vì các hậu quả chưa rõ ràng không có nghĩa là chúng có thể bị xua tan.

Các yếu tố căng thẳng được nêu trong chương này (không phải là danh sách đầy đủ) - các hình thức tấn công và điểm yếu mới, sự công nghiệp hóa thông tin sai lệch, vũ khí tự động chết người, các tai nạn như rò rỉ trong phòng thí nghiệm, và những hậu quả của tự động hóa - đều quen thuộc với những người trong lĩnh vực công nghệ, chính sách và an ninh. Tuy nhiên, chúng thường bị nhìn nhận một cách tách biệt. Điều bị bỏ qua trong phân tích là tất cả những áp lực mới này đối với các tổ chức của chúng ta đều xuất phát từ cùng một cuộc cách mạng đa mục đích cơ bản. Cách mà chúng sẽ đến cùng nhau, các yếu tố căng thẳng đồng thời giao thoa, hỗ trợ và thúc đẩy lẫn nhau. Sự khuếch đại hoàn toàn của sự mong manh bị bỏ lỡ vì nó thường xuất hiện như thể những tác động này đang xảy ra dần dần và trong các silo thuận tiện. Chúng không phải như vậy. Chúng xuất phát từ một hiện tượng nhất quán và liên quan đến nhau, thể hiện theo những cách khác nhau. Thực tế phức tạp hơn nhiều, đan xen, nổi lên và hỗn loạn hơn bất kỳ trình bày tuần tự nào có thể truyền đạt. Sự mong manh, được khuếch đại. Nhà nước quốc gia, bị suy yếu.

Nó đã trải qua những đợt bất ổn trước đây. Điều khác biệt ở đây là một cuộc cách mạng đa mục đích không bị giới hạn trong các ngách cụ thể, các vấn đề đã được xác định rõ ràng. Nó, theo định nghĩa, có mặt ở khắp mọi nơi. Chi phí giảm của năng lượng, của việc thực hiện, không chỉ liên quan đến những kẻ xấu xa hay các công ty khởi nghiệp nhanh nhẹn, mà còn là những ứng dụng bị giới hạn và tách biệt.

Thay vào đó, quyền lực được phân phối lại và củng cố trên toàn bộ tổng thể và phạm vi của xã hội. Bản chất hoàn toàn đa dụng của làn sóng sắp tới có nghĩa là nó hiện diện ở mọi cấp độ, trong mọi lĩnh vực, mọi doanh nghiệp, hoặc tiểu văn hóa, hoặc nhóm, hoặc bộ máy hành chính, ở mọi ngóc ngách của thế giới chúng ta. Nó tạo ra hàng triệu triệu đô la giá trị kinh tế mới trong khi cũng phá hủy một số nguồn tài sản hiện có. Một số cá nhân được trao quyền rất lớn; những người khác có nguy cơ mất tất cả. Về mặt quân sự, nó trao quyền cho một số quốc gia và lực lượng dân quân. Do đó, điều này không chỉ giới hạn ở việc khuếch đại những điểm dễ bị tổn thương cụ thể; trong một khoảng thời gian hơi dài hơn, nó liên quan đến một sự chuyển biến của chính nền tảng mà xã hội được xây dựng. Và trong sự phân phối lại quyền lực lớn này, nhà nước, vốn đã mong manh và ngày càng trở nên mong manh hơn, bị rung chuyển đến tận cốt lõi, thỏa thuận lớn của nó bị bỏ rơi và trở nên bấp bênh.