BỐN ĐẶC ĐIỂM CỦA CƠ HỘI SẮP TỚI

Ngay sau khi cuộc xâm lược của Nga vào Ukraine bắt đầu vào ngày 24 tháng 2 năm 2022, cư dân thành phố Kyiv biết rằng họ đang trong cuộc chiến sinh tồn. Qua biên giới với Belarus, một lực lượng quân đội, xe tăng và trang thiết bị khổng lồ của Nga đã được tập trung trong nhiều tháng. Sau đó, vào thời điểm bắt đầu cuộc xâm lược, các lực lượng Nga đã chuẩn bị cho một đợt tấn công lớn vào mục tiêu chính của họ: chiếm thủ đô Ukraine và lật đổ chính phủ của nó.

Trung tâm của sự tập trung lực lượng này là một cột xe tải, xe tăng và pháo hạng nặng dài khoảng bốn mươi kilômét - một cuộc tấn công trên bộ có quy mô chưa từng thấy ở châu Âu kể từ Thế chiến II. Nó bắt đầu di chuyển về phía thành phố. Trên giấy tờ, người Ukraine hoàn toàn bị lép vế. Kyiv dường như chỉ còn vài ngày, có thể là vài giờ, trước khi sụp đổ.

Nhưng điều đó đã không xảy ra. Thay vào đó, một đơn vị khoảng ba mươi lính Ukraine đeo kính nhìn đêm đã cưỡi xe quad qua các khu rừng xung quanh thủ đô vào buổi tối hôm đó. Họ đã xuống xe gần đầu đoàn và phóng những chiếc drone tự chế được trang bị thuốc nổ nhỏ. Những chiếc drone này đã phá hủy một vài xe dẫn đầu. Những chiếc xe bị hỏng đó sau đó đã chặn đường chính. Các cánh đồng xung quanh thì lầy lội và không thể đi qua. Đoàn xe, đối mặt với thời tiết lạnh giá và các tuyến cung cấp yếu kém, đã dừng lại. Sau đó, cùng một đơn vị nhỏ các nhà điều khiển drone đã thành công trong việc phá hủy một căn cứ cung cấp quan trọng bằng cách sử dụng cùng một chiến thuật, tước đoạt nhiên liệu và thực phẩm của quân đội Nga.

Từ đây, Trận chiến Kyiv đã chuyển biến. Sự tập trung quân sự thông thường lớn nhất trong một thế hệ đã bị hạ bệ, bị gửi trở lại Belarus trong sự hỗn loạn đáng xấu hổ. Đội quân bán chính quy của Ukraine này được gọi là Aerorozvidka. Một nhóm tình nguyện viên lộn xộn gồm những người đam mê drone, kỹ sư phần mềm, tư vấn quản lý và lính, họ là những người nghiệp dư, thiết kế, xây dựng và sửa đổi drone của riêng mình trong thời gian thực, giống như một công ty khởi nghiệp. Nhiều thiết bị của họ được huy động từ cộng đồng và gây quỹ cộng đồng.

Sự kháng cự của Ukraine đã tận dụng tốt các công nghệ sóng mới và chứng minh cách chúng có thể làm suy yếu một phép tính quân sự thông thường. Internet vệ tinh tiên tiến từ Starlink của SpaceX là rất quan trọng để duy trì kết nối. Một nhóm gồm một nghìn lập trình viên và nhà khoa học máy tính tinh nhuệ không quân sự đã hợp tác trong một tổ chức có tên là Delta để mang lại khả năng AI và robot tiên tiến cho quân đội, sử dụng học máy để xác định mục tiêu, theo dõi chiến thuật của Nga và thậm chí đề xuất các chiến lược.

Trong những ngày đầu của cuộc chiến, quân đội Ukraine thường xuyên thiếu đạn dược. Mỗi cuộc tấn công đều quan trọng. Độ chính xác là vấn đề sống còn. Khả năng của Delta trong việc tạo ra các hệ thống học máy để phát hiện các mục tiêu ngụy trang và giúp hướng dẫn đạn dược là rất quan trọng. Một tên lửa chính xác trong quân đội thông thường có giá hàng trăm nghìn đô la; với AI và máy bay không người lái tiêu dùng, cùng phần mềm tùy chỉnh và các bộ phận in 3-D, một thứ tương tự hiện đã được thử nghiệm trong chiến đấu ở Ukraine với chi phí khoảng 15.000 đô la. Bên cạnh những nỗ lực ban đầu của Aerorozvidka, Hoa Kỳ đã cung cấp cho Ukraine hàng trăm đạn dược Switchblade, những chiếc máy bay không người lái chờ đợi xung quanh một mục tiêu cho đến khi có thời điểm tối ưu để tấn công.

Máy bay không người lái và trí tuệ nhân tạo đã đóng một vai trò nhỏ nhưng quan trọng trong những ngày đầu của cuộc xung đột ở Ukraine, những công nghệ mới với tiềm năng không đối xứng rõ rệt đã thu hẹp một phần khoảng cách với một kẻ xâm lược lớn hơn nhiều. Các lực lượng Mỹ, Anh và châu Âu đã cung cấp gần 100 tỷ euro viện trợ quân sự trong những tháng đầu, bao gồm một lượng lớn sức mạnh hỏa lực thông thường, điều này, để rõ ràng, chắc chắn đã có tác động quyết định. Tuy nhiên, đây vẫn là một cuộc xung đột mang tính bước ngoặt vì nó cho thấy cách mà một lực lượng chiến đấu tương đối chưa được đào tạo có thể tập hợp và trang bị vũ khí nhanh chóng bằng cách sử dụng các công nghệ tương đối giá cả phải chăng có sẵn trên thị trường tiêu dùng. Khi công nghệ mang lại lợi thế về chi phí và chiến thuật như vậy, nó sẽ, tất nhiên, không thể tránh khỏi việc lan rộng và được áp dụng bởi tất cả các bên.

Máy bay không người lái cung cấp cho chúng ta cái nhìn về những gì đang chờ đợi trong tương lai của chiến tranh. Chúng là một thực tế mà các nhà hoạch định và chiến binh phải đối mặt hàng ngày. Câu hỏi thực sự là điều này có nghĩa gì cho xung đột khi chi phí sản xuất giảm xuống một bậc và khả năng tăng lên. Các quân đội và chính phủ truyền thống đã gặp khó khăn trong việc kiềm chế chúng. Những gì đến tiếp theo sẽ khó kiểm soát hơn nhiều.

—

Như chúng ta đã thấy ở phần 1, các công nghệ từ máy X-quang đến AK-47 luôn phát triển mạnh mẽ, với những hậu quả rộng lớn. Tuy nhiên, làn sóng sắp tới được đặc trưng bởi một bộ bốn đặc điểm nội tại làm trầm trọng thêm vấn đề kiểm soát. Bài học chính trong phần này là: tác động không đối xứng lớn. Bạn không cần phải đánh đổi tương đương, khối lượng với khối lượng; thay vào đó, các công nghệ mới tạo ra những điểm yếu và điểm áp lực trước những cường quốc dường như thống trị mà trước đây không thể tưởng tượng được.

Thứ hai, họ đang phát triển nhanh chóng, một loại siêu tiến hóa, lặp đi lặp lại, cải tiến và mở rộng sang các lĩnh vực mới với tốc độ đáng kinh ngạc. Thứ ba, chúng thường có tính đa dụng; tức là, chúng có thể được sử dụng cho nhiều mục đích khác nhau. Và thứ tư, chúng ngày càng có một mức độ tự chủ vượt xa bất kỳ công nghệ nào trước đây.

Những đặc điểm này xác định sóng. Hiểu chúng là rất quan trọng trong việc xác định những lợi ích và rủi ro phát sinh từ sự tạo ra của chúng; cùng nhau, chúng nâng cao việc kiểm soát và kiềm chế lên một cấp độ khó khăn và nguy hiểm mới.

Công nghệ mới nổi luôn tạo ra những mối đe dọa mới, phân phối lại quyền lực và loại bỏ rào cản gia nhập. Đại bác có nghĩa là một lực lượng nhỏ có thể phá hủy lâu đài và san bằng các đội quân. Một vài lính thuộc địa với vũ khí tiên tiến có thể tàn sát hàng ngàn người bản địa. Máy in có nghĩa là một xưởng đơn lẻ có thể sản xuất hàng ngàn tờ rơi—lan truyền ý tưởng với sự dễ dàng mà các thầy tu thời trung cổ sao chép sách bằng tay khó có thể tưởng tượng. Năng lượng hơi nước cho phép các nhà máy đơn lẻ thực hiện công việc của toàn bộ thị trấn. Internet đã đưa khả năng này lên một đỉnh cao mới: một tweet hoặc hình ảnh đơn lẻ có thể đi vòng quanh thế giới trong vài phút hoặc giây; một thuật toán đơn lẻ có thể giúp một công ty khởi nghiệp nhỏ phát triển thành một tập đoàn rộng lớn, trải dài toàn cầu.

Hiệu ứng này giờ đây lại càng được làm sắc nét hơn. Làn sóng công nghệ mới này đã mở ra những khả năng mạnh mẽ với chi phí thấp, dễ tiếp cận và sử dụng, có mục tiêu và có thể mở rộng. Điều này rõ ràng mang lại rủi ro. Không chỉ có lính Ukraine sử dụng máy bay không người lái vũ trang. Mọi người muốn đều có thể làm điều đó. Như lời của chuyên gia an ninh Audrey Kurth Cronin, “Chưa bao giờ có nhiều người như vậy có quyền truy cập vào những công nghệ tiên tiến có khả năng gây ra cái chết và hỗn loạn.”

Trong các cuộc đụng độ bên ngoài Kyiv, các máy bay không người lái chỉ là đồ chơi của những người đam mê. Công ty DJI có trụ sở tại Thâm Quyến sản xuất các sản phẩm rẻ tiền và dễ tiếp cận như máy bay không người lái Phantom camera quadcopter trị giá 1.399 USD, một chiếc drone tốt đến mức đã được quân đội Mỹ sử dụng. Nếu bạn kết hợp những tiến bộ trong AI và tự động hóa, UAV rẻ nhưng hiệu quả, và những tiến bộ hơn nữa trong các lĩnh vực từ robot đến thị giác máy tính, thì bạn sẽ có được vũ khí mạnh mẽ, chính xác và có khả năng không thể truy vết. Việc chống lại các cuộc tấn công là khó khăn và tốn kém; cả người Mỹ và người Israel đều sử dụng tên lửa Patriot trị giá 3 triệu USD để bắn hạ các drone trị giá vài trăm đô la. Các thiết bị gây nhiễu, tên lửa và drone phản công vẫn còn mới mẻ và không phải lúc nào cũng được thử nghiệm trong chiến đấu.

Những phát triển này đại diện cho một sự chuyển giao quyền lực khổng lồ từ các quốc gia và quân đội truyền thống sang bất kỳ ai có khả năng và động lực để triển khai những thiết bị này. Không có lý do rõ ràng nào cho việc một nhà điều hành đơn lẻ, với đủ nguồn lực, không thể kiểm soát một đàn hàng nghìn máy bay không người lái.

Một chương trình AI đơn lẻ có thể viết nhiều văn bản như toàn bộ nhân loại. Một mô hình tạo hình ảnh hai gigabyte chạy trên laptop của bạn có thể nén tất cả các bức tranh trên web mở thành một công cụ tạo ra hình ảnh với sự sáng tạo và độ chính xác phi thường. Một thí nghiệm gây bệnh đơn lẻ có thể khơi mào một đại dịch, một sự kiện phân tử nhỏ với những hậu quả toàn cầu. Một máy tính lượng tử khả thi có thể làm cho toàn bộ hạ tầng mã hóa của thế giới trở nên thừa thãi. Triển vọng về tác động không đối xứng đang gia tăng xung quanh, và cũng theo nghĩa tích cực—các hệ thống đơn lẻ có thể mang lại lợi ích to lớn.

Điều ngược lại của hành động không đối xứng cũng đúng. Chính quy mô và sự liên kết của làn sóng sắp tới tạo ra những điểm yếu hệ thống mới: một điểm thất bại có thể nhanh chóng lan rộng ra toàn cầu. Công nghệ càng ít địa phương hóa, thì càng khó kiểm soát - và ngược lại. Hãy nghĩ về những rủi ro liên quan đến ô tô. Tai nạn giao thông đã tồn tại từ khi có giao thông, nhưng theo thời gian, thiệt hại đã được giảm thiểu. Mọi thứ từ vạch kẻ đường đến dây an toàn đến cảnh sát giao thông đều giúp ích. Mặc dù ô tô là một trong những công nghệ phát triển nhanh nhất và toàn cầu hóa nhất trong lịch sử, nhưng tai nạn vốn dĩ là những sự kiện địa phương, riêng lẻ mà thiệt hại cuối cùng được kiểm soát. Nhưng bây giờ, một đội xe có thể được kết nối với nhau. Hoặc một hệ thống duy nhất có thể kiểm soát các phương tiện tự hành trên toàn lãnh thổ. Dù có bao nhiêu biện pháp bảo vệ và quy trình an ninh được thiết lập, quy mô tác động vẫn rộng lớn hơn nhiều so với những gì chúng ta đã thấy trước đây.

AI tạo ra những rủi ro không đối xứng vượt ra ngoài những rủi ro của một lô thực phẩm kém chất lượng, một tai nạn máy bay, hoặc một sản phẩm bị lỗi. Những rủi ro này mở rộng đến toàn xã hội, khiến nó không chỉ là một công cụ thô sơ mà là một đòn bẩy với những hậu quả toàn cầu. Cũng như các thị trường toàn cầu hóa và kết nối cao truyền tải sự lây lan trong một cuộc khủng hoảng tài chính, công nghệ cũng vậy. Quy mô mạng khiến việc kiềm chế thiệt hại, nếu hoặc khi nó xảy ra, gần như là không thể. Các hệ thống toàn cầu liên kết là những cơn ác mộng về việc kiềm chế. Và chúng ta đã sống trong một kỷ nguyên của các hệ thống toàn cầu liên kết. Trong làn sóng sắp tới, một điểm duy nhất - một chương trình nhất định, một thay đổi di truyền - có thể thay đổi mọi thứ.

HYPER-EVOLUTION: TĂNG TỐC VÔ HẠN

Nếu bạn muốn kiểm soát công nghệ, bạn có thể hy vọng nó phát triển với tốc độ có thể quản lý, cho xã hội thời gian và không gian để hiểu và thích nghi với nó. Xe hơi lại là một ví dụ tốt. Sự phát triển của chúng trong thế kỷ qua diễn ra cực kỳ nhanh chóng nhưng cũng đã cung cấp thời gian để giới thiệu đủ loại tiêu chuẩn an toàn. Luôn có một khoảng cách, nhưng các tiêu chuẩn vẫn có thể theo kịp. Tuy nhiên, với tốc độ thay đổi trong làn sóng sắp tới, điều đó có vẻ không khả thi.

Trong bốn mươi năm qua, internet đã trở thành một trong những nền tảng đổi mới sinh lợi nhất trong lịch sử. Thế giới đã số hóa, và lĩnh vực phi vật chất này đã phát triển với tốc độ chóng mặt. Một cuộc bùng nổ phát triển đã chứng kiến sự ra đời của các dịch vụ được sử dụng rộng rãi nhất trên thế giới và các doanh nghiệp thương mại lớn nhất trong lịch sử chỉ trong vài năm. Tất cả điều này được hỗ trợ bởi sức mạnh ngày càng tăng và chi phí tính toán giảm mà chúng ta đã thấy trong chương 2. Hãy xem xét những gì chỉ riêng định luật Moore sẽ mang lại trong thập kỷ tới. Nếu nó giữ vững, trong mười năm nữa, một đô la sẽ mua cho bạn gấp một trăm lần khả năng tính toán của ngày hôm nay. Thực tế đó một mình gợi ý về một số kết quả phi thường.

Mặt trái là đổi mới ngoài kỹ thuật số thường kém ấn tượng hơn. Bên ngoài thế giới không trọng lượng của mã, một điệp khúc ngày càng tăng bắt đầu tự hỏi điều gì đã xảy ra với loại đổi mới rộng rãi được thấy, chẳng hạn, vào cuối thế kỷ mười chín hoặc giữa thế kỷ hai mươi. Trong khoảng thời gian ngắn ngủi đó, hầu như mọi khía cạnh của thế giới - từ giao thông đến nhà máy, bay bằng động cơ đến vật liệu mới - đã thay đổi một cách triệt để. Nhưng vào những năm đầu của thế kỷ hai mươi mốt, đổi mới đã đi theo con đường ít kháng cự nhất, tập trung vào bit thay vì nguyên tử.

Điều đó đang thay đổi. Sự tiến hóa siêu tốc của phần mềm đang lan rộng. Bốn mươi năm tới sẽ chứng kiến cả thế giới của các nguyên tử được chuyển đổi thành các bit với mức độ phức tạp và độ trung thực mới, và, quan trọng là, thế giới của các bit được chuyển đổi trở lại thành các nguyên tử hữu hình với tốc độ và sự dễ dàng không thể tưởng tượng được cho đến gần đây.

Nói một cách đơn giản, đổi mới trong "thế giới thực" có thể bắt đầu di chuyển với tốc độ số, trong thời gian gần như thực, với ít ma sát hơn và ít phụ thuộc hơn. Bạn sẽ có thể thử nghiệm trong những lĩnh vực nhỏ, nhanh chóng, dễ biến đổi, tạo ra những mô phỏng gần như hoàn hảo, và sau đó chuyển chúng thành các sản phẩm cụ thể. Và sau đó làm lại, và lại, học hỏi, phát triển, và cải thiện với tốc độ trước đây không thể có trong thế giới nguyên tử tĩnh và tốn kém.

Nhà vật lý César Hidalgo lập luận rằng các cấu hình của vật chất có ý nghĩa vì thông tin mà chúng chứa đựng. Một chiếc Ferrari có giá trị không phải vì nguyên liệu thô của nó mà chính vì thông tin phức tạp được lưu trữ trong cấu trúc và hình dạng tinh vi của nó; thông tin đặc trưng cho sự sắp xếp của các nguyên tử của nó là điều làm cho nó trở thành một chiếc xe mong muốn. Càng mạnh mẽ thì cơ sở tính toán càng trở nên dễ xử lý hơn. Kết hợp điều đó với trí tuệ nhân tạo và các kỹ thuật sản xuất như robot tinh vi và in 3-D, chúng ta có thể thiết kế, thao tác và sản xuất các sản phẩm thực tế với tốc độ, độ chính xác và sự sáng tạo cao hơn.

AI đã giúp tìm ra các vật liệu và hợp chất hóa học mới. Ví dụ, các nhà khoa học đã sử dụng mạng nơ-ron để tạo ra các cấu hình mới của lithium, với những tác động lớn đến công nghệ pin. AI đã giúp thiết kế và xây dựng một chiếc xe ô tô bằng cách sử dụng máy in 3-D. Trong một số trường hợp, kết quả cuối cùng trông khác lạ so với bất kỳ thiết kế nào của con người, giống như những hình dạng uốn lượn và hiệu quả được tìm thấy trong tự nhiên. Các cấu hình dây điện và ống dẫn được kết hợp một cách tự nhiên vào khung xe để tối ưu hóa việc sử dụng không gian. Các bộ phận quá phức tạp để sản xuất bằng công cụ truyền thống và phải được in 3-D.

Trong chương 5, chúng ta đã thấy những công cụ như AlphaFold đang làm gì để thúc đẩy ngành công nghệ sinh học. Cho đến gần đây, công nghệ sinh học phụ thuộc vào công việc thủ công vô tận trong phòng thí nghiệm: đo lường, pipet, chuẩn bị mẫu một cách cẩn thận. Bây giờ, các mô phỏng tăng tốc quá trình phát hiện vắc xin. Các công cụ tính toán giúp tự động hóa một phần của quy trình thiết kế, tái tạo các "mạch sinh học" lập trình các chức năng phức tạp vào các tế bào như vi khuẩn có thể sản xuất một loại protein nhất định. Các khung phần mềm, như một cái gọi là Cello, gần như giống như các ngôn ngữ mã nguồn mở cho thiết kế sinh học tổng hợp. Điều này có thể kết hợp với những cải tiến nhanh chóng trong robot phòng thí nghiệm và tự động hóa cũng như các kỹ thuật sinh học nhanh hơn như tổng hợp enzym mà chúng ta đã thấy trong chương 5, mở rộng phạm vi của sinh học tổng hợp và làm cho nó dễ tiếp cận hơn. Sự tiến hóa sinh học đang trở thành đối tượng của những chu kỳ giống như phần mềm.

Cũng như các mô hình ngày nay tạo ra hình ảnh chi tiết dựa trên một vài từ, trong những thập kỷ tới, các mô hình tương tự sẽ tạo ra một hợp chất mới hoặc thậm chí là một sinh vật hoàn chỉnh chỉ với một vài gợi ý bằng ngôn ngữ tự nhiên. Thiết kế của hợp chất đó có thể được cải thiện thông qua vô số thử nghiệm tự động, giống như AlphaZero trở thành một kỳ thủ cờ vua hoặc cờ vây xuất sắc thông qua việc tự chơi. Các công nghệ lượng tử, mạnh gấp hàng triệu lần so với các máy tính cổ điển mạnh nhất, có thể cho phép điều này diễn ra ở cấp độ phân tử. Đây là điều chúng tôi muốn nói đến khi nhắc đến siêu tiến hóa - một nền tảng sáng tạo nhanh chóng, lặp đi lặp lại.

Sự tiến hóa này cũng sẽ không bị giới hạn ở những khu vực cụ thể, có thể dự đoán và dễ dàng kiểm soát. Nó sẽ có mặt ở khắp mọi nơi.

OMNI-SỬ DỤNG: NHIỀU HƠN LÀ NHIỀU HƠN

Bất chấp những hiểu biết thông thường, tiến bộ trong chăm sóc sức khỏe là một trong những lĩnh vực chậm lại trong sự đình trệ gần đây của đổi mới trong lĩnh vực nguyên tử. Việc phát hiện thuốc mới trở nên khó khăn và tốn kém hơn. Tuổi thọ ổn định và thậm chí bắt đầu giảm ở một số bang của Hoa Kỳ. Tiến bộ về các tình trạng như Alzheimer không đạt được kỳ vọng.

Một trong những lĩnh vực hứa hẹn nhất của AI, và là một lối thoát khỏi bức tranh ảm đạm này, là phát hiện thuốc tự động. Các kỹ thuật AI có thể tìm kiếm qua không gian rộng lớn của các phân tử khả thi để tìm ra những phương pháp điều trị khó nắm bắt nhưng hữu ích. Vào năm 2020, một hệ thống AI đã sàng lọc 100 triệu phân tử để tạo ra kháng sinh đầu tiên được phát triển từ máy học—gọi là halicin (đúng vậy, theo tên HAL trong 2001: A Space Odyssey)—có thể giúp chống lại bệnh lao. Các công ty khởi nghiệp như Exscientia, cùng với các gã khổng lồ dược phẩm truyền thống như Sanofi, đã biến AI thành động lực cho nghiên cứu y tế. Đến nay, mười tám tài sản lâm sàng đã được phát triển với sự trợ giúp của các công cụ AI.

Có một mặt trái. Các nhà nghiên cứu tìm kiếm những hợp chất hữu ích đã đặt ra một câu hỏi khó xử. Điều gì sẽ xảy ra nếu bạn định hướng lại quá trình phát hiện? Điều gì sẽ xảy ra nếu, thay vì tìm kiếm các phương pháp chữa trị, bạn tìm kiếm các chất độc? Họ đã tiến hành một thử nghiệm, yêu cầu AI tạo ra phân tử của họ tìm kiếm các chất độc. Trong sáu giờ, nó đã xác định được hơn bốn mươi nghìn phân tử có độ độc hại tương đương với những vũ khí hóa học nguy hiểm nhất, như Novichok. Hóa ra, trong lĩnh vực phát hiện thuốc, một trong những lĩnh vực mà AI chắc chắn sẽ tạo ra sự khác biệt rõ ràng nhất, các cơ hội thực sự là "sử dụng kép".

Công nghệ hai mục đích là những công nghệ có cả ứng dụng dân sự và quân sự. Trong Thế chiến I, quá trình tổng hợp amoniac được coi là một cách để nuôi sống thế giới. Nhưng nó cũng cho phép tạo ra thuốc nổ và giúp mở đường cho vũ khí hóa học. Các hệ thống điện tử phức tạp cho máy bay chở khách có thể được tái sử dụng cho tên lửa chính xác. Ngược lại, Hệ thống Định vị Toàn cầu ban đầu là một hệ thống quân sự, nhưng bây giờ có vô số ứng dụng tiêu dùng hàng ngày. Khi ra mắt, PlayStation 2 được Bộ Quốc phòng Hoa Kỳ coi là mạnh mẽ đến mức có thể giúp các quân đội thù địch thường bị từ chối quyền truy cập vào phần cứng như vậy. Công nghệ hai mục đích vừa hữu ích vừa có khả năng hủy diệt, là công cụ và vũ khí. Điều mà khái niệm này nắm bắt là cách mà công nghệ có xu hướng chung, và một lớp công nghệ nhất định đi kèm với rủi ro cao hơn vì điều này. Chúng có thể được sử dụng cho nhiều mục đích—tốt, xấu, và mọi thứ ở giữa—thường với những hậu quả khó dự đoán.

Nhưng vấn đề thực sự là không chỉ có sinh học biên giới hay lò phản ứng hạt nhân là có thể sử dụng kép. Hầu hết các công nghệ đều có ứng dụng hoặc tiềm năng quân sự và dân sự; hầu hết các công nghệ đều theo một cách nào đó là có thể sử dụng kép. Và công nghệ càng mạnh mẽ, thì càng có nhiều lo ngại về số lượng ứng dụng mà nó có thể có.

Công nghệ của làn sóng sắp tới rất mạnh mẽ, chính vì chúng về cơ bản là tổng quát. Nếu bạn đang chế tạo một đầu đạn hạt nhân, thì rõ ràng mục đích của nó là gì. Nhưng một hệ thống học sâu có thể được thiết kế để chơi game nhưng lại có khả năng điều khiển một đội máy bay ném bom. Sự khác biệt không phải lúc nào cũng rõ ràng từ trước.

Một thuật ngữ phù hợp hơn cho các công nghệ của làn sóng sắp tới là “sử dụng đa năng,” một khái niệm nắm bắt được mức độ tổng quát tuyệt đối, sự linh hoạt cực kỳ rõ rệt. Các công nghệ sử dụng đa năng như hơi nước hoặc điện có tác động xã hội rộng hơn và có hiệu ứng lan tỏa hơn so với các công nghệ hẹp hơn. Nếu AI thực sự là điện mới, thì giống như điện, nó sẽ là một tiện ích theo yêu cầu thấm nhuần và cung cấp năng lượng cho hầu hết mọi khía cạnh của cuộc sống hàng ngày, xã hội, nền kinh tế: một công nghệ đa mục đích được nhúng ở khắp mọi nơi. Việc kiểm soát một thứ như thế này luôn khó hơn nhiều so với việc kiểm soát một công nghệ đơn nhiệm, bị giới hạn trong một ngách nhỏ với ít sự phụ thuộc.

Các hệ thống AI bắt đầu bằng cách sử dụng các kỹ thuật chung như học sâu cho các mục đích cụ thể như quản lý việc sử dụng năng lượng tại một trung tâm dữ liệu hoặc chơi cờ vây. Điều đó đang thay đổi. Bây giờ, các hệ thống đơn lẻ như Gato của DeepMind có thể thực hiện một cách thành thạo hơn sáu trăm nhiệm vụ khác nhau. Cùng một mạng lưới có thể chơi các trò chơi Atari, chú thích hình ảnh, trả lời câu hỏi và xếp chồng các khối bằng một cánh tay robot thực. Gato được đào tạo không chỉ với văn bản mà còn với hình ảnh, mô-men xoắn tác động lên các cánh tay robot, các lần nhấn nút từ việc chơi trò chơi điện tử, và nhiều thứ khác. Vẫn còn rất sớm, và các hệ thống thực sự tổng quát vẫn còn một chặng đường dài, nhưng vào một thời điểm nào đó, những khả năng này sẽ mở rộng ra hàng ngàn hoạt động.

Xem xét sinh học tổng hợp, cũng như qua lăng kính đa dụng. Kỹ thuật tạo ra sự sống là một kỹ thuật hoàn toàn tổng quát với tiềm năng sử dụng gần như không giới hạn; nó có thể tạo ra vật liệu cho xây dựng, giải quyết bệnh tật và lưu trữ dữ liệu. Nhiều hơn là tốt hơn, và có lý do chính đáng cho điều này. Các công nghệ đa dụng có giá trị hơn so với các công nghệ hẹp. Ngày nay, các nhà công nghệ không muốn thiết kế các công nghệ bị giới hạn, cụ thể, ứng dụng đơn chức năng. Thay vào đó, mục tiêu là thiết kế những thứ giống như điện thoại thông minh: điện thoại nhưng quan trọng hơn là các thiết bị để chụp ảnh, giữ dáng, chơi game, điều hướng thành phố, gửi email, và nhiều hơn nữa.

Theo thời gian, công nghệ có xu hướng trở nên tổng quát. Điều này có nghĩa là các ứng dụng có thể vũ khí hóa hoặc gây hại của làn sóng sắp tới sẽ có thể xảy ra bất kể điều này có được dự định hay không. Chỉ việc tạo ra các công nghệ dân sự đã có những tác động đến an ninh quốc gia. Dự đoán toàn bộ phổ các trường hợp sử dụng trong làn sóng đa dụng nhất trong lịch sử khó khăn hơn bao giờ hết.

Khái niệm về một công nghệ mới được áp dụng cho nhiều mục đích không phải là điều mới mẻ. Một công cụ đơn giản như dao có thể thái hành hoặc cho phép một cuộc tàn sát điên cuồng. Ngay cả những công nghệ có vẻ cụ thể cũng có những hàm ý hai mặt: micro đã cho phép cả các cuộc biểu tình Nuremberg và The Beatles. Điều khác biệt về làn sóng sắp tới là tốc độ mà nó được tích hợp, cách nó lan rộng toàn cầu, mức độ dễ dàng mà nó có thể được phân tách thành các bộ phận có thể hoán đổi, và sức mạnh cũng như sự rộng lớn của các ứng dụng của nó có thể như thế nào. Nó mở ra những hàm ý phức tạp cho mọi thứ từ truyền thông đến sức khỏe tâm thần, thị trường đến y tế. Đây là vấn đề kiểm soát được phóng đại. Sau cùng, chúng ta đang nói về những yếu tố cơ bản như trí tuệ và sự sống. Nhưng cả hai thuộc tính đó đều có một đặc điểm thậm chí còn thú vị hơn sự tổng quát của chúng.

TỰ CHỦ VÀ HƠN THẾ NỮA: CON NGƯỜI CÓ Ở TRONG VÒNG XOAY KHÔNG?

Sự tiến hóa công nghệ đã tăng tốc trong nhiều thế kỷ. Các tính năng đa dụng và tác động không đối xứng sẽ được khuếch đại trong làn sóng sắp tới, nhưng ở một mức độ nào đó, chúng là những thuộc tính vốn có của tất cả công nghệ. Điều đó không đúng với sự tự chủ. Trong suốt lịch sử, công nghệ chỉ là "một" công cụ, nhưng nếu công cụ đó trở nên sống động thì sao?

Các hệ thống tự động có khả năng tương tác với môi trường xung quanh và thực hiện hành động mà không cần sự chấp thuận ngay lập tức của con người. Trong nhiều thế kỷ, ý tưởng rằng công nghệ nào đó đang vượt khỏi tầm kiểm soát, một lực lượng tự định hướng và tự thúc đẩy nằm ngoài phạm vi của quyền lực con người, vẫn chỉ là một hư cấu.

Không còn nữa.

Công nghệ luôn liên quan đến việc cho phép chúng ta làm nhiều hơn, nhưng quan trọng là con người vẫn thực hiện các công việc đó. Nó đã tận dụng khả năng hiện có của chúng ta và tự động hóa các nhiệm vụ được mã hóa một cách chính xác. Cho đến nay, việc giám sát và quản lý liên tục vẫn là mặc định. Công nghệ vẫn nằm dưới sự kiểm soát của con người ở mức độ nhiều hay ít. Tự chủ hoàn toàn là khác biệt về chất.

Lấy xe tự lái làm ví dụ. Trong một số điều kiện hiện nay, chúng có thể di chuyển trên đường với sự can thiệp tối thiểu hoặc không có sự can thiệp nào từ người lái. Các nhà nghiên cứu trong lĩnh vực này phân loại mức độ tự động hóa từ mức 0, không có tự động hóa nào, đến mức 5, nơi một chiếc xe có thể tự lái trong mọi điều kiện và người lái chỉ cần nhập điểm đến và sau đó có thể ngủ ngon lành. Bạn sẽ không thấy những chiếc xe mức 5 trên đường trong thời gian tới, không chỉ vì lý do pháp lý và bảo hiểm.

Làn sóng tự trị mới báo hiệu một thế giới mà sự can thiệp và giám sát liên tục ngày càng trở nên không cần thiết. Hơn nữa, với mỗi tương tác, chúng ta đang dạy cho máy móc cách trở nên tự trị thành công. Trong mô hình này, không cần thiết phải có một con người vất vả định nghĩa cách thức thực hiện một nhiệm vụ. Thay vào đó, chúng ta chỉ cần chỉ định một mục tiêu cấp cao và dựa vào máy móc để tìm ra cách tối ưu để đạt được điều đó. Giữ cho con người "trong vòng lặp", như câu nói thường nói, là điều mong muốn, nhưng không bắt buộc.

Không ai nói với AlphaGo rằng nước đi 37 là một ý tưởng hay. Nó đã phát hiện ra điều này chủ yếu là do chính nó. Chính đặc điểm này đã khiến tôi ấn tượng mạnh khi xem DQN chơi Breakout. Với một mục tiêu được xác định rõ ràng, hiện nay có những hệ thống có thể tìm ra chiến lược của riêng mình để đạt hiệu quả. AlphaGo và DQN không phải là tự động hoàn toàn. Nhưng chúng gợi ý về hình dạng của một hệ thống tự cải thiện có thể trông như thế nào. Không ai lập trình tay cho GPT-4 viết như Jane Austen, hay sản xuất một haiku nguyên bản, hay tạo ra nội dung tiếp thị cho một trang web bán xe đạp. Những tính năng này là những hiệu ứng phát sinh từ một kiến trúc rộng lớn hơn mà đầu ra của nó không bao giờ được quyết định trước bởi các nhà thiết kế. Đây là bước đầu tiên trên thang tiến tới sự tự chủ ngày càng lớn hơn. Nghiên cứu nội bộ về GPT-4 kết luận rằng nó “có thể” không đủ khả năng hành động tự chủ hoặc tự sao chép, nhưng chỉ trong vài ngày sau khi ra mắt, người dùng đã tìm ra cách để hệ thống yêu cầu tài liệu của chính nó và viết kịch bản để sao chép chính nó và chiếm lấy các máy khác. Nghiên cứu ban đầu thậm chí còn tuyên bố tìm thấy “những tia lửa của AGI” trong mô hình, thêm rằng nó “gần gũi một cách đáng kể với hiệu suất ở mức con người.” Những điều này giờ đây đang dần hiện ra.

Các hình thức tự trị mới có khả năng tạo ra một loạt các hiệu ứng mới, khó dự đoán. Dự đoán cách mà các bộ gen tùy chỉnh sẽ hoạt động là vô cùng khó khăn. Hơn nữa, một khi các nhà nghiên cứu thực hiện các thay đổi gen dòng sinh dục đối với một loài, những thay đổi đó có thể tồn tại trong các sinh vật sống trong hàng thiên niên kỷ, vượt xa khả năng kiểm soát hoặc dự đoán. Chúng có thể vang vọng qua vô số thế hệ. Cách mà chúng tiếp tục tiến hóa hoặc tương tác với các thay đổi khác ở những khoảng cách này là không thể rõ ràng - và vượt ngoài tầm kiểm soát. Các sinh vật tổng hợp đang thực sự có một cuộc sống riêng của chúng.

Chúng ta, con người, đối mặt với một thách thức duy nhất: Liệu những phát minh mới có nằm ngoài tầm với của chúng ta không? Trước đây, các nhà sáng tạo có thể giải thích cách thức hoạt động của một thứ gì đó và lý do tại sao nó lại hoạt động như vậy, ngay cả khi điều này đòi hỏi nhiều chi tiết. Điều đó ngày càng không còn đúng nữa. Nhiều công nghệ và hệ thống đang trở nên phức tạp đến mức vượt quá khả năng của bất kỳ cá nhân nào để thực sự hiểu: máy tính lượng tử và các công nghệ khác hoạt động đến giới hạn của những gì có thể được biết.

Một nghịch lý của làn sóng sắp tới là các công nghệ của nó chủ yếu nằm ngoài khả năng hiểu biết của chúng ta ở mức độ chi tiết nhưng vẫn nằm trong khả năng tạo ra và sử dụng. Trong AI, các mạng nơ-ron đang tiến tới tự trị hiện tại không thể giải thích. Bạn không thể hướng dẫn ai đó qua quy trình ra quyết định để giải thích chính xác lý do tại sao một thuật toán lại đưa ra một dự đoán cụ thể. Các kỹ sư không thể nhìn vào bên trong và dễ dàng giải thích điều gì đã gây ra một sự kiện nào đó. GPT-4, AlphaGo và những cái còn lại là những hộp đen, đầu ra và quyết định của chúng dựa trên những chuỗi tín hiệu nhỏ phức tạp và không rõ ràng. Các hệ thống tự trị có thể và có thể được giải thích, nhưng thực tế là rất nhiều phần của làn sóng sắp tới hoạt động ở rìa của những gì chúng ta có thể hiểu nên nên khiến chúng ta phải suy nghĩ. Chúng ta sẽ không luôn có khả năng dự đoán những gì các hệ thống tự trị này sẽ làm tiếp theo; đó là bản chất của sự tự trị.

Ngay tại rìa công nghệ, tuy nhiên, một số nhà nghiên cứu AI muốn tự động hóa mọi khía cạnh của việc xây dựng hệ thống AI, nuôi dưỡng sự tiến hóa siêu tốc đó, nhưng có thể với mức độ độc lập cực đoan thông qua việc tự cải thiện. Các AI đã tìm ra cách để cải thiện các thuật toán của chính chúng. Điều gì sẽ xảy ra khi chúng kết hợp điều này với các hành động tự trị trên web, như trong Bài kiểm tra Turing hiện đại và ACI, thực hiện các chu kỳ R&D của riêng chúng?

VẤN ĐỀ CON KHỈ ĐỘNG VẬT

Tôi thường cảm thấy có quá nhiều sự chú ý vào các kịch bản AGI xa xôi, khi mà những thách thức gần gũi rõ ràng đang hiện hữu trong làn sóng sắp tới. Tuy nhiên, bất kỳ cuộc thảo luận nào về việc kiềm chế cũng phải thừa nhận rằng nếu hoặc khi các công nghệ giống AGI xuất hiện, chúng sẽ tạo ra những vấn đề kiềm chế vượt xa bất cứ điều gì mà chúng ta từng gặp phải. Con người thống trị môi trường của chúng ta nhờ vào trí thông minh. Một thực thể thông minh hơn có thể, theo logic, sẽ thống trị chúng ta. Nhà nghiên cứu AI Stuart Russell gọi đó là "vấn đề khỉ đột": khỉ đột mạnh mẽ và cứng cáp hơn bất kỳ con người nào, nhưng chính chúng lại đang bị đe dọa hoặc sống trong sở thú; chính chúng là những sinh vật bị kiềm chế. Chúng ta, với cơ bắp yếu ớt nhưng bộ não lớn, thực hiện việc kiềm chế.

Bằng cách tạo ra một thứ thông minh hơn chúng ta, chúng ta có thể đặt mình vào vị trí của những người anh em linh trưởng. Với tầm nhìn dài hạn trong tâm trí, những người tập trung vào các kịch bản AGI có lý do để lo ngại. Thực tế, có một lập luận mạnh mẽ rằng theo định nghĩa, một siêu trí tuệ sẽ hoàn toàn không thể kiểm soát hoặc kiềm chế. Một "cuộc bùng nổ trí tuệ" là thời điểm mà một AI có thể cải thiện chính nó liên tục, tự lặp lại làm cho chính nó tốt hơn theo những cách ngày càng nhanh chóng và hiệu quả hơn. Đây là công nghệ không thể kiểm soát và không thể bị kiềm chế. Sự thật thẳng thắn là không ai biết khi nào, nếu có, hoặc chính xác cách nào mà các AI có thể vượt ra ngoài chúng ta và điều gì sẽ xảy ra tiếp theo; không ai biết khi nào hoặc nếu chúng sẽ trở nên hoàn toàn tự chủ hoặc làm thế nào để khiến chúng hành xử với nhận thức và sự phù hợp với các giá trị của chúng ta, giả sử chúng ta có thể thống nhất về những giá trị đó ngay từ đầu.

Không ai thực sự biết làm thế nào chúng ta có thể kiềm chế những đặc điểm mà đang được nghiên cứu một cách mãnh liệt trong làn sóng sắp tới. Có một thời điểm mà công nghệ có thể hoàn toàn tự định hướng sự tiến hóa của chính nó; nơi nó chịu sự tác động của các quá trình cải tiến lặp đi lặp lại; nơi nó vượt qua sự giải thích; nơi mà do đó, không thể dự đoán được cách nó sẽ hành xử trong thực tế; nơi, tóm lại, chúng ta đạt đến giới hạn của quyền lực và kiểm soát của con người.

Cuối cùng, trong những hình thức kịch tính nhất, làn sóng sắp tới có thể có nghĩa là nhân loại sẽ không còn đứng đầu chuỗi thức ăn. Homo technologicus có thể sẽ bị đe dọa bởi chính sự sáng tạo của mình. Câu hỏi thực sự không phải là liệu làn sóng có đến hay không. Nó rõ ràng là có; chỉ cần nhìn và bạn có thể thấy nó đang hình thành. Với những rủi ro như vậy, câu hỏi thực sự là tại sao lại khó để nhìn nhận nó như một điều gì đó khác ngoài sự không thể tránh khỏi.