KHI TRUNG QUỐC NHÌN THẤY TẤT CẢ:
NHÀ TÙ TRÒN ĐANG HIỆN DIỆN Ở ĐÂY
Ross Andersen
Nguyen Trung Kien dịch
*
PHÍA TÂY BẮC TỬ CẤM THÀNH, bên ngoài Đường vành đai Ba, Viện Hàn Lâm khoa học Trung Quốc đã dành bảy thập kỷ để xây dựng một khu tập trung các phòng thí nghiệm quốc gia. Gần trung tâm là Viện Tự động hóa, một tòa nhà màu xanh bạc bóng bẩy được bao quanh bởi các cột gắn camera theo dõi. Đây là một viện nghiên cứu cơ bản. Các nhà khoa học máy tính của Viện tìm hiểu những bí ẩn cơ bản của trí tuệ nhân tạo. Những đổi mới công nghệ thiết thực hơn của họ - nhận diện bằng mống mắt, tổng hợp giọng nói dựa trên dữ liệu đám mây - được chuyển giao cho các gã khổng lồ công nghệ của Trung Quốc, cho các công ty khởi nghiệp trong ngành trí tuệ nhân tạo, và trong một số trường hợp là cho Quân đội.
Tôi đến thăm Viện này vào một sáng mưa mùa Hè năm 2019. Những người giỏi nhất và sáng giá nhất Trung Quốc vẫn đang lê la sau giờ đi làm, ăn mặc giản dị với quần áo chơi bóng rổ hoặc quần tập yoga, AirPod bên tai. Trong túi của tôi, tôi có một chiếc điện thoại đã bị xóa sạch bộ nhớ; trong ba-lô của tôi là một máy tính bị xóa sạch dữ liệu – các biện pháp phòng ngừa tiêu chuẩn dành cho các nhà báo phương Tây ở Trung Quốc. Việc đến Trung Quốc với công việc nhạy cảm luôn có nguy cơ bị đe dọa bởi các cuộc tấn công mạng và phần mềm độc hại. Năm 2019, các quan chức Bỉ trong một phái đoàn thương mại nhận thấy rằng dữ liệu di động của họ đã bị chặn bởi một cột ăng-ten được bật lên bên ngoài khách sạn ở Bắc Kinh của họ.
Sau khi bị kiểm tra bởi lớp an ninh của Viện, tôi được yêu cầu đợi ở dưới sảnh với sự theo dõi của camera. Trên các bức tường là áp-phích của các nhà lãnh đạo hậu chiến tự mãn nhất của Trung Quốc. Mao Trạch Đông cao lớn trong bộ quần áo đại cán bốn túi đặc trưng của mình. Trông ông thanh thản, như thể đang hài lòng vì đã giải phóng Trung Quốc khỏi ách thống trị của phương Tây. Bên cạnh ông là một bức ảnh đen trắng mờ ảo của Đặng Tiểu Bình đến thăm Viện trong những năm cuối đời, sau khi các cuộc cải cách kinh tế của ông đã đưa Trung Quốc vào con đường giành lại vai trò cường quốc truyền thống trên toàn cầu.
Áp phích nổi bật nhất của sảnh đợi là ảnh Tập Cận Bình trong bộ vest đen sắc nét. Vị Chủ tịch Nước đương nhiệm của Trung Quốc và Tổng Bí thư Đảng Cộng sản Trung Quốc (ĐCSTQ) đã quan tâm sâu sắc đến Viện này. Công việc của Viện là một phần của chiến lược trí tuệ nhân tạo vĩ đại mà Tập đã đặt ra trong một loạt các bài phát biểu, tương tự như những bài phát biểu của John F. Kennedy từng được dùng để huấn thị tại các điểm tham quan khoa học công nghệ của Hoa Kỳ về việc du hành lên Mặt Trăng. Tập đã nói rằng ông muốn Trung Quốc, vào cuối năm nay, có thể cạnh tranh với các quốc gia trí tuệ nhân tạo hàng đầu trên thế giới, một cột mốc mà hiện nay đất nước này đã đạt được rồi. Và ông muốn Trung Quốc đạt được vị thế thống trị về trí tuệ nhân tạo vào năm 2030.
Những tuyên bố của Tập về trí tuệ nhân tạo có một khía cạnh đầy hung hãn. Trí tuệ nhân tạo đã được ứng dụng trong hầu hết mọi lĩnh vực của con người, từ dịch nhanh ngôn ngữ nói đến phát hiện sớm các đợt bùng phát virus. Nhưng Tập cũng muốn sử dụng sức mạnh phân tích tuyệt vời của trí tuệ nhân tạo để đưa Trung Quốc lên đỉnh cao của sự theo dõi. Ông muốn xây dựng một hệ thống kỹ thuật số toàn diện để kiểm soát xã hội, được thực hiện bởi các thuật toán để đưa ra dự báo nhằm xác định những người bất đồng chính kiến tiềm năng theo thời gian thực.
Chính quyền Trung Quốc đã từng sử dụng các sự kiện lịch sử lớn để giới thiệu và thực hiện các biện pháp theo dõi. Trước thềm Thế vận hội Bắc Kinh năm 2008, các cơ quan an ninh của Trung Quốc đã vươn tới mức độ kiểm soát mới đối với mạng Internet của nước này. Trong thời kỳ bùng phát virus corona ở Trung Quốc, chính quyền Tập đã dựa nhiều vào các công ty tư nhân vốn đang sở hữu dữ liệu cá nhân nhạy cảm. Bất kỳ thỏa thuận chia sẻ dữ liệu khẩn cấp nào được thực hiện sau những cánh cửa đóng kín trong thời kỳ đại dịch đều có thể trở thành vĩnh viễn.
Trung Quốc đã có hàng trăm triệu camera theo dõi. Chính quyền Tập hy vọng sẽ sớm đạt được mức độ phủ sóng camera theo dõi toàn diện đối với các khu vực công cộng quan trọng. Phần lớn cảnh quay do các camera của Trung Quốc thu thập được phân tích cú pháp bằng các thuật toán đều giúp chỉ ra các mối đe dọa an ninh thuộc loại này hay loại khác. Trong tương lai gần, tất cả mọi người dân khi bước vào khu vực công cộng có thể được xác định, ngay lập tức, bằng cách sử dụng trí tuệ nhân tạo để tích hợp họ với một khối lượng cực kỳ khổng lồ các dữ liệu cá nhân, bao gồm mọi giao tiếp bằng ký tự và giản đồ cấu tạo protein độc nhất của cơ thể họ. Theo thời gian, các thuật toán sẽ có thể xâu chuỗi các điểm dữ liệu lại với nhau từ nhiều nguồn - hồ sơ du lịch, bạn bè và cộng sự, các thói quen đọc sách, các lần mua hàng - để dự đoán sự phản kháng chính trị trước khi nó xảy ra. Chính quyền Trung Quốc có thể sớm đạt được một sự siết chặt chính trị chưa từng có đối với hơn 1 tỷ người dân.
Trong thời kỳ đầu của đợt bùng phát virus corona, công dân Trung Quốc phải chịu một hình thức chấm điểm rủi ro. Một thuật toán đã chỉ định để dán nhãn cho mỗi người dân - xanh lá cây, vàng hoặc đỏ - để xác định khả năng họ di chuyển hoặc đi vào các tòa nhà tại các siêu đô thị của Trung Quốc. Trong một hệ thống kỹ thuật số nhằm kiểm soát xã hội đầy phức tạp, những nhãn được dán như thế này cũng có thể được sử dụng để đánh giá thái độ chính trị của mỗi người dân.
Một phiên bản thô sơ của hệ thống như vậy đã vận hành tại Tân Cương, vùng lãnh thổ phía Tây Bắc của Trung Quốc, nơi hơn 1 triệu người Duy Ngô Nhĩ theo đạo Hồi đã bị giam cầm, nơi giam giữ lớn nhất đối với một nhóm thiểu số tôn giáo kể từ khi Đức Quốc xã sụp đổ. Một khi Tập hoàn thiện hệ thống này ở Tân Cương, sẽ không có giới hạn công nghệ nào ngăn cản ông mở rộng khả năng theo dõi dựa trên trí tuệ nhân tạo trên khắp Trung Quốc. Ông cũng có thể xuất khẩu nó ra ngoài biên giới đất nước, giúp cho toàn bộ thế hệ các nhà chuyên chế có thể cố thủ trong quyền lực.
Trung Quốc gần đây đã bắt tay vào một số dự án cơ sở hạ tầng đầy tham vọng ở nước ngoài - xây dựng siêu đô thị, mạng lưới đường sắt cao tốc, chưa kể đến Sáng kiến Vành đai và Con đường đang rất được ca ngợi của nước này. Nhưng những điều này sẽ không định hình lại lịch sử giống như những gì cơ sở hạ tầng kỹ thuật số của Trung Quốc đang thực hiện, vốn có thể thay đổi cán cân quyền lực giữa cá nhân và nhà nước trên toàn thế giới.
Ross Andersen
Nguyen Trung Kien dịch
*
PHÍA TÂY BẮC TỬ CẤM THÀNH, bên ngoài Đường vành đai Ba, Viện Hàn Lâm khoa học Trung Quốc đã dành bảy thập kỷ để xây dựng một khu tập trung các phòng thí nghiệm quốc gia. Gần trung tâm là Viện Tự động hóa, một tòa nhà màu xanh bạc bóng bẩy được bao quanh bởi các cột gắn camera theo dõi. Đây là một viện nghiên cứu cơ bản. Các nhà khoa học máy tính của Viện tìm hiểu những bí ẩn cơ bản của trí tuệ nhân tạo. Những đổi mới công nghệ thiết thực hơn của họ - nhận diện bằng mống mắt, tổng hợp giọng nói dựa trên dữ liệu đám mây - được chuyển giao cho các gã khổng lồ công nghệ của Trung Quốc, cho các công ty khởi nghiệp trong ngành trí tuệ nhân tạo, và trong một số trường hợp là cho Quân đội.
Tôi đến thăm Viện này vào một sáng mưa mùa Hè năm 2019. Những người giỏi nhất và sáng giá nhất Trung Quốc vẫn đang lê la sau giờ đi làm, ăn mặc giản dị với quần áo chơi bóng rổ hoặc quần tập yoga, AirPod bên tai. Trong túi của tôi, tôi có một chiếc điện thoại đã bị xóa sạch bộ nhớ; trong ba-lô của tôi là một máy tính bị xóa sạch dữ liệu – các biện pháp phòng ngừa tiêu chuẩn dành cho các nhà báo phương Tây ở Trung Quốc. Việc đến Trung Quốc với công việc nhạy cảm luôn có nguy cơ bị đe dọa bởi các cuộc tấn công mạng và phần mềm độc hại. Năm 2019, các quan chức Bỉ trong một phái đoàn thương mại nhận thấy rằng dữ liệu di động của họ đã bị chặn bởi một cột ăng-ten được bật lên bên ngoài khách sạn ở Bắc Kinh của họ.
Sau khi bị kiểm tra bởi lớp an ninh của Viện, tôi được yêu cầu đợi ở dưới sảnh với sự theo dõi của camera. Trên các bức tường là áp-phích của các nhà lãnh đạo hậu chiến tự mãn nhất của Trung Quốc. Mao Trạch Đông cao lớn trong bộ quần áo đại cán bốn túi đặc trưng của mình. Trông ông thanh thản, như thể đang hài lòng vì đã giải phóng Trung Quốc khỏi ách thống trị của phương Tây. Bên cạnh ông là một bức ảnh đen trắng mờ ảo của Đặng Tiểu Bình đến thăm Viện trong những năm cuối đời, sau khi các cuộc cải cách kinh tế của ông đã đưa Trung Quốc vào con đường giành lại vai trò cường quốc truyền thống trên toàn cầu.
Áp phích nổi bật nhất của sảnh đợi là ảnh Tập Cận Bình trong bộ vest đen sắc nét. Vị Chủ tịch Nước đương nhiệm của Trung Quốc và Tổng Bí thư Đảng Cộng sản Trung Quốc (ĐCSTQ) đã quan tâm sâu sắc đến Viện này. Công việc của Viện là một phần của chiến lược trí tuệ nhân tạo vĩ đại mà Tập đã đặt ra trong một loạt các bài phát biểu, tương tự như những bài phát biểu của John F. Kennedy từng được dùng để huấn thị tại các điểm tham quan khoa học công nghệ của Hoa Kỳ về việc du hành lên Mặt Trăng. Tập đã nói rằng ông muốn Trung Quốc, vào cuối năm nay, có thể cạnh tranh với các quốc gia trí tuệ nhân tạo hàng đầu trên thế giới, một cột mốc mà hiện nay đất nước này đã đạt được rồi. Và ông muốn Trung Quốc đạt được vị thế thống trị về trí tuệ nhân tạo vào năm 2030.
Những tuyên bố của Tập về trí tuệ nhân tạo có một khía cạnh đầy hung hãn. Trí tuệ nhân tạo đã được ứng dụng trong hầu hết mọi lĩnh vực của con người, từ dịch nhanh ngôn ngữ nói đến phát hiện sớm các đợt bùng phát virus. Nhưng Tập cũng muốn sử dụng sức mạnh phân tích tuyệt vời của trí tuệ nhân tạo để đưa Trung Quốc lên đỉnh cao của sự theo dõi. Ông muốn xây dựng một hệ thống kỹ thuật số toàn diện để kiểm soát xã hội, được thực hiện bởi các thuật toán để đưa ra dự báo nhằm xác định những người bất đồng chính kiến tiềm năng theo thời gian thực.
Chính quyền Trung Quốc đã từng sử dụng các sự kiện lịch sử lớn để giới thiệu và thực hiện các biện pháp theo dõi. Trước thềm Thế vận hội Bắc Kinh năm 2008, các cơ quan an ninh của Trung Quốc đã vươn tới mức độ kiểm soát mới đối với mạng Internet của nước này. Trong thời kỳ bùng phát virus corona ở Trung Quốc, chính quyền Tập đã dựa nhiều vào các công ty tư nhân vốn đang sở hữu dữ liệu cá nhân nhạy cảm. Bất kỳ thỏa thuận chia sẻ dữ liệu khẩn cấp nào được thực hiện sau những cánh cửa đóng kín trong thời kỳ đại dịch đều có thể trở thành vĩnh viễn.
Trung Quốc đã có hàng trăm triệu camera theo dõi. Chính quyền Tập hy vọng sẽ sớm đạt được mức độ phủ sóng camera theo dõi toàn diện đối với các khu vực công cộng quan trọng. Phần lớn cảnh quay do các camera của Trung Quốc thu thập được phân tích cú pháp bằng các thuật toán đều giúp chỉ ra các mối đe dọa an ninh thuộc loại này hay loại khác. Trong tương lai gần, tất cả mọi người dân khi bước vào khu vực công cộng có thể được xác định, ngay lập tức, bằng cách sử dụng trí tuệ nhân tạo để tích hợp họ với một khối lượng cực kỳ khổng lồ các dữ liệu cá nhân, bao gồm mọi giao tiếp bằng ký tự và giản đồ cấu tạo protein độc nhất của cơ thể họ. Theo thời gian, các thuật toán sẽ có thể xâu chuỗi các điểm dữ liệu lại với nhau từ nhiều nguồn - hồ sơ du lịch, bạn bè và cộng sự, các thói quen đọc sách, các lần mua hàng - để dự đoán sự phản kháng chính trị trước khi nó xảy ra. Chính quyền Trung Quốc có thể sớm đạt được một sự siết chặt chính trị chưa từng có đối với hơn 1 tỷ người dân.
Trong thời kỳ đầu của đợt bùng phát virus corona, công dân Trung Quốc phải chịu một hình thức chấm điểm rủi ro. Một thuật toán đã chỉ định để dán nhãn cho mỗi người dân - xanh lá cây, vàng hoặc đỏ - để xác định khả năng họ di chuyển hoặc đi vào các tòa nhà tại các siêu đô thị của Trung Quốc. Trong một hệ thống kỹ thuật số nhằm kiểm soát xã hội đầy phức tạp, những nhãn được dán như thế này cũng có thể được sử dụng để đánh giá thái độ chính trị của mỗi người dân.
Một phiên bản thô sơ của hệ thống như vậy đã vận hành tại Tân Cương, vùng lãnh thổ phía Tây Bắc của Trung Quốc, nơi hơn 1 triệu người Duy Ngô Nhĩ theo đạo Hồi đã bị giam cầm, nơi giam giữ lớn nhất đối với một nhóm thiểu số tôn giáo kể từ khi Đức Quốc xã sụp đổ. Một khi Tập hoàn thiện hệ thống này ở Tân Cương, sẽ không có giới hạn công nghệ nào ngăn cản ông mở rộng khả năng theo dõi dựa trên trí tuệ nhân tạo trên khắp Trung Quốc. Ông cũng có thể xuất khẩu nó ra ngoài biên giới đất nước, giúp cho toàn bộ thế hệ các nhà chuyên chế có thể cố thủ trong quyền lực.
Trung Quốc gần đây đã bắt tay vào một số dự án cơ sở hạ tầng đầy tham vọng ở nước ngoài - xây dựng siêu đô thị, mạng lưới đường sắt cao tốc, chưa kể đến Sáng kiến Vành đai và Con đường đang rất được ca ngợi của nước này. Nhưng những điều này sẽ không định hình lại lịch sử giống như những gì cơ sở hạ tầng kỹ thuật số của Trung Quốc đang thực hiện, vốn có thể thay đổi cán cân quyền lực giữa cá nhân và nhà nước trên toàn thế giới.
.
Các nhà hoạch định chính sách Hoa Kỳ trên khắp các diễn đàn chính trị đều lo ngại về viễn cảnh này. Michael Kratsios (từng là cấp dưới của đồng sáng lập viên Peter Thiel của Paypa), hiện đang là Thứ trưởng Bộ Quốc phòng phụ trách nghiên cứu và kỹ thuật và được Donald Trump chọn làm Giám đốc Công nghệ của chính phủ Hoa Kỳ, nói với tôi rằng sự lãnh đạo công nghệ từ các quốc gia dân chủ “chưa bao giờ trở nên cấp bách hơn là lúc này” và rằng “nếu chúng ta muốn đảm bảo rằng các giá trị phương Tây được thấm đẫm trong các công nghệ của tương lai, chúng ta cần đảm bảo rằng mình đang dẫn đầu các công nghệ đó”.
Bất chấp những bước tiến đáng kể của Trung Quốc, các nhà phân tích công nghiệp kỳ vọng Hoa Kỳ sẽ giữ được vị trí dẫn đầu về trí tuệ nhân tạo hiện tại của mình trong ít nhất một thập kỷ nữa. Nhưng điều này chỉ là một tình huống tốt trong một thời điểm tồi: Trung Quốc đã và đang phát triển các công cụ theo dõi mới đầy mạnh mẽ và xuất khẩu chúng cho hàng chục quốc gia đã và chuẩn bị trở thành chuyên chế trên toàn thế giới. Trong vài năm tới, những công nghệ đó sẽ được cải tiến và tích hợp vào các hệ thống theo dõi toàn diện mà các nhà độc tài có thể vận hành dễ dàng.
Sự xuất hiện của một khối các quốc gia độc tài dựa trên trí tuệ nhân tạo do Trung Quốc dẫn đầu có thể làm biến dạng địa chính trị của thế kỷ này. Nó có thể ngăn hàng tỷ người, tại nhiều vùng rộng lớn trên toàn cầu, không bao giờ được đảm bảo bất kỳ biện pháp tự do chính trị nào. Và cho dù các nhà hoạch định chính sách Hoa Kỳ có giả vờ kiểu gì đi nữa, thì chỉ có công dân Trung Quốc mới có thể ngăn chặn được điều này. Tôi đã đến Bắc Kinh để tìm kiếm một số dấu hiệu cho thấy họ có thể thực hiện được điều này.
*
KHOẢNH KHẮC CÔNG NGHỆ-CHÍNH TRỊ NÀY đã xuất hiện từ lâu. Trung Quốc đã có vài thế kỷ trong lịch sử 5.000 năm của mình nắm vị trí tiên phong về công nghệ thông tin. Cùng với Sumer và Mesoamerica, Trung Quốc là một trong ba nơi mà chữ viết được phát minh một cách độc lập, cho phép thông tin được lưu trữ bên ngoài bộ não con người. Vào thế kỷ thứ hai sau Công nguyên, người Trung Quốc phát minh ra giấy. Công nghệ lưu trữ thông tin giá rẻ, có thể ràng buộc này cho phép dữ liệu - hồ sơ thương mại về Con đường Tơ lụa, thông cáo quân sự, thư từ giữa các thành viên trong giới tinh hoa cầm quyền - đi khắp đế chế trên những con ngựa, được những người du mục thảo nguyên bên ngoài Vạn Lý Trường Thành nuôi, để gia tăng tốc độ truyền tin. Dữ liệu bắt đầu lưu hành nhanh hơn vài thế kỷ sau đó, khi các nghệ nhân thời Đường hoàn thiện kỹ thuật in khắc gỗ, một công nghệ thông tin đại chúng giúp quản lý một nhà nước khổng lồ và đang bành trướng.
Là người cai trị các tổ chức xã hội phức tạp lớn nhất thế giới, các hoàng đế Trung Quốc cổ đại hiểu rất rõ mối quan hệ giữa các luồng thông tin và quyền lực cũng như giá trị của việc theo dõi. Trong thế kỷ XI, một hoàng đế nhà Tống nhận ra rằng các thành quách có tường thành đầy trang nhã của Trung Quốc đã trở nên quá nhiều khiến Bắc Kinh không thể theo dõi hết, vì vậy ông đã dùng người dân địa phương để theo dõi các quan chức địa phương. Vài thập kỷ trước buổi bình minh của kỷ nguyên kỹ thuật số, Tưởng Giới Thạch đã sử dụng truyền thống tự theo dõi này, yêu cầu người dân theo dõi những người bất đồng chính kiến xung quanh họ, để các cuộc nổi dậy của những người cộng sản có thể bị dập tắt ngay từ trong trứng nước. Khi Mao lên nắm quyền, ông sắp xếp các thành phố thành những mạng lưới, biến mỗi ô vuông thành đơn vị vận hành độc lập, nơi các điệp viên địa phương luôn “để mắt đến” các hành vi phản cách mạng, dù tầm thường đến đâu. Trong đợt bùng phát virus corona ban đầu, các ứng dụng truyền thông xã hội của Trung Quốc đã quảng bá đường dây nóng để mọi người có thể báo cáo những người bị nghi ngờ đang che giấu các triệu chứng.
Tập đã sử dụng cụm từ 'đôi mắt tinh anh', với tất cả sự cộng hưởng lịch sử của nó, làm tên gọi cho các camera theo dõi được hỗ trợ bởi trí tuệ nhân tạo sẽ sớm lan rộng khắp Trung Quốc. Với trí tuệ nhân tạo, Tập có thể xây dựng bộ máy chuyên chế có năng lực đàn áp lớn nhất trong lịch sử, mà không cần đến nguồn nhân lực mà Mao từng cần để đưa thông tin về bất đồng chính kiến vào một chỗ tập trung duy nhất. Trong các công ty khởi nghiệp trong ngành trí tuệ nhân tạo nổi bật nhất Trung Quốc - SenseTime, CloudWalk, Megvii, Hikvision, iFlytek, Meiya Pico - Tập đã tìm được các đối tác thương mại luôn sẵn sàng. Và ở vùng của người thiểu số theo đạo Hồi giáo tại Tân Cương, ông đã tìm thấy một lượng dân cư của mình để tiến hành thử nghiệm.
ĐCSTQ từ lâu đã nghi ngờ tôn giáo, và không chỉ do ảnh hưởng của chủ nghĩa Mác. Chỉ một thế kỷ rưỡi trước - vốn chỉ là ‘ngày hôm qua’ trong trong ký ức của một nền văn minh 5.000 năm tuổi - Hồng Tú Toàn, một nhà thần bí bán-Thiên chúa giáo được các nhà truyền giáo phương Tây cải đạo, đã phát động Cuộc nổi dậy Nghĩa Hòa Đoàn, một chiến dịch khải huyền kéo dài 14 năm vốn có thể đã giết chết nhiều người hơn cuộc Đại chiến Thế giới lần thứ Nhất. Ngày nay, trong hệ thống chính trị độc đảng của Trung Quốc, tôn giáo là nguồn thay thế của quyền lực độc tài tối thượng, có nghĩa là nó phải cùng hợp tác với chính quyền hoặc bị tiêu diệt.
Đến năm 2009, người Duy Ngô Nhĩ ở Trung Quốc đã trở nên mệt mỏi sau nhiều thập kỷ bị phân biệt đối xử và bị tịch thu đất đai. Họ phát động các cuộc biểu tình của quần chúng và nhiều vụ tấn công liều chết nhằm vào cảnh sát Trung Quốc. Năm 2014, Tập đã thẳng tay đàn áp, chỉ đạo chính quyền Khu tự trị Tân Cương phá hủy các nhà thờ Hồi giáo và biến các khu dân cư của người Duy Ngô Nhĩ thành đống đổ nát. Hơn 1 triệu người Duy Ngô Nhĩ đã bị đẩy vào các trại tập trung. Nhiều người bị tra tấn và phải lao động cưỡng bức.
Những người Duy Ngô Nhĩ được tha khỏi các trại tập trung hiện trở thành nhóm dân cư bị theo dõi đông đảo nhất trên Trái Đất. Không phải tất cả các biện pháp theo dõi đều là biện pháp kỹ thuật số. Chính quyền Trung Quốc đã chuyển hàng nghìn “anh chị em” người Hán đến sống tại các thành phố cổ đại từng nằm trên Con đường Tơ lụa tại Tân Cương, để theo dõi sự đồng hóa cưỡng bức của người Duy Ngô Nhĩ với văn hóa Trung Quốc chính thống. Họ dùng bữa với gia đình, và một số “anh cả” ngủ cùng giường với vợ của những người đàn ông Duy Ngô Nhĩ đang bị giam giữ.
Trong khi đó, các cảm biến tích hợp với hệ thống trí tuệ nhân tạo ẩn nấp ở khắp mọi nơi, kể cả trong ví và túi quần của người Duy Ngô Nhĩ. Theo nhà nhân chủng học Darren Byler, một số người Duy Ngô Nhĩ đã chôn điện thoại di động chứa tài liệu Hồi giáo, hoặc thậm chí giấu thẻ nhớ chứa dữ liệu của họ vào bánh bao để bảo vệ sự an toàn, khi chiến dịch diệt chủng về văn hóa của Tập đạt đến đỉnh điểm. Nhưng cảnh sát đã buộc họ phải cài đặt ứng dụng theo dõi trên điện thoại mới của họ. Các ứng dụng sử dụng các thuật toán để truy tìm “các virus ý thức hệ” cả ngày lẫn đêm. Họ có thể quét nhật ký trò chuyện để tìm các câu Kinh Cô-ran và tìm kiếm chữ Ả-rập trong các đoạn tin nhắn và các file hình ảnh khác.
Người Duy Ngô Nhĩ không thể sử dụng các kỹ thuật vượt tường lửa nào. Việc cài đặt VPN có thể dẫn tới một cuộc điều tra, vì vậy họ không thể tải xuống WhatsApp hoặc bất kỳ phần mềm trò chuyện mã hóa bị cấm nào khác. Mua thảm cầu nguyện trực tuyến, lưu trữ các bản sao kỹ thuật số của sách Hồi giáo và tải xuống các bài giảng từ một giáo sĩ yêu thích đều là những hoạt động đầy rủi ro. Nếu một người Duy Ngô Nhĩ sử dụng hệ thống thanh toán của WeChat để quyên góp cho nhà thờ Hồi giáo, các nhà chức trách có thể chú ý.
Nhiều ứng dụng theo dõi hoạt động song song với cảnh sát, những người kiểm tra điện thoại tại các trạm kiểm soát, kiểm tra nhanh các cuộc gọi và tin nhắn gần đây. Ngay cả một tổ hợp ký tự kỹ thuật số - ví dụ như một tin nhắn gửi cho một nhóm người vừa dự lễ tại một nhà thờ Hồi giáo nào đó - đều có thể dẫn đến việc người gửi tin giam giữ. Việc ngừng hoàn toàn các phương tiện truyền thông xã hội không phải là giải pháp, vì bản thân việc không hoạt động kỹ thuật số có thể làm dấy lên nghi ngờ. Cảnh sát được yêu cầu lưu ý khi người Duy Ngô Nhĩ đi chệch hướng khỏi bất kỳ kiểu hành vi bình thường nào của họ. Cơ sở dữ liệu của cảnh sát muốn biết liệu người Duy Ngô Nhĩ có bắt đầu rời nhà của họ qua cửa sau thay vì cửa trước hay không. Nó muốn biết liệu họ có dành ít thời gian nói chuyện với hàng xóm hơn trước đây hay không. Việc sử dụng điện được theo dõi bởi một thuật toán phát hiện sự sử dụng bất thường, điều này có thể chỉ ra một cư dân chưa đăng ký điện thoại với cảnh sát.
Người Duy Ngô Nhĩ chỉ có thể đi vài dãy nhà trước khi gặp một trạm kiểm soát được trang bị một trong hàng trăm nghìn camera theo dõi của Tân Cương. Cảnh quay từ camera được xử lý bằng thuật toán khớp khuôn mặt với ảnh chụp nhanh do cảnh sát chụp khi “kiểm tra sức khỏe”. Tại các cuộc kiểm tra này, cảnh sát trích xuất tất cả dữ liệu họ có thể có từ cơ thể của người Duy Ngô Nhĩ. Họ đo chiều cao và lấy mẫu máu. Họ ghi lại giọng nói và quét ADN. Một số người Duy Ngô Nhĩ thậm chí còn bị buộc phải tham gia vào các thí nghiệm khai thác dữ liệu di truyền, để xem cách ADN của người Duy Ngô Nhĩ tạo ra sự khác biệt của cằm và tai như thế nào so với người Hán. Cảnh sát có thể sẽ lấy đại dịch làm cái cớ để lấy thêm dữ liệu từ các thi thể người Duy Ngô Nhĩ.
Phụ nữ Duy Ngô Nhĩ cũng phải chịu khó khám thai. Một số bị buộc phải phá thai hoặc đặt vòng tránh thai. Những người phụ nữ khác bị nhà nước ép triệt sản. Người ta biết rằng cảnh sát đã tách trẻ em một cách trái phép ra khỏi cha mẹ của chúng, những người sau đó bị giam giữ. Các biện pháp như vậy đã làm giảm tỷ lệ sinh ở một số vùng của Tân Cương xuống hơn 60% trong ba năm.
Khi người Duy Ngô Nhĩ đến rìa khu phố của họ, một hệ thống tự động sẽ ghi nhận. Hệ thống tương tự theo dõi họ khi họ di chuyển qua các trạm kiểm soát nhỏ hơn, tại ngân hàng, công viên và trường học. Khi họ bơm xăng, hệ thống có thể xác định xem họ có phải là chủ xe hay không. Tại đường vành đai của thành phố, họ buộc phải bước ra khỏi ô-tô của mình, vì vậy khuôn mặt và thẻ căn cước của họ có thể được chụp tự động một lần nữa.
Nhiều người Duy Ngô Nhĩ đã bị tịch thu hộ chiếu. Những người Duy Ngô Nhĩ may mắn đang ở nước ngoài được khuyên nên nhanh chóng trở về. Nếu họ không làm như vậy, cảnh sát thẩm vấn được cử đến nhà người thân và bạn bè của họ. Ra nước ngoài hoàn toàn không phải là lối thoát. Trong một cái nhìn lạnh lùng về cách một khối các quốc độc tài trong tương lai có thể vận hành, các đồng minh mạnh mẽ của Tập - ngay cả những người ở các quốc gia đa số theo đạo Hồi như Ai Cập - đã rất vui vẻ khi bắt giữ và trục xuất người Duy Ngô Nhĩ trở về nhà tù lộ thiên là Tân Cương.
*
TẬP DƯỜNG NHƯ ĐÃ SỬ DỤNG Tân Cương như một phòng thí nghiệm để tinh chỉnh các cảm biến và các năng lực phân tích của ‘nhà tù tròn kỹ thuật số’ mới của mình trước khi mở rộng phạm vi hoạt động trên khắp đại lục Trung Quốc. CETC, công ty nhà nước xây dựng phần lớn hệ thống theo dõi của Tân Cương, hiện đang tự hào về các dự án thử nghiệm ở Chiết Giang, Quảng Đông và Thâm Quyến. Theo công ty này, những điều này nhằm tạo “nền tảng vững chắc cho việc triển khai trên toàn quốc” và chúng chỉ đại diện cho một phần của mạng lưới công nghệ theo dõi con người đang kết nối lại với nhau tại Trung Quốc.
Trung Quốc là bối cảnh lý tưởng cho một cuộc thử nghiệm theo dõi toàn diện. Người dân của họ dành lượng thời gian khổng lồ để vào trên mạng Internet. Đất nước này có hơn 1 tỷ điện thoại di động, tất cả đều chứa đầy các cảm biến phức tạp. Mỗi truy vấn ghi lại các lệnh tìm kiếm trên công cụ tìm kiếm, các trang web đã truy cập và các lượt thanh toán qua điện thoại di động, vốn phổ biến ở khắp nơi. Khi tôi sử dụng thẻ tín dụng gắn chip để mua cà phê ở khu phố Sanlitun sành điệu của Bắc Kinh, mọi người nhìn tôi chằm chằm như thể tôi đang viết séc.
Tất cả các điểm dữ liệu này có thể được đánh dấu thời gian và gắn thẻ vị trí. Và bởi vì một quy định mới yêu cầu các công ty viễn thông phải quét khuôn mặt của bất kỳ ai đăng ký dịch vụ điện thoại di động, dữ liệu của điện thoại giờ đây có thể được gắn vào khuôn mặt của một người cụ thể. SenseTime, công ty đã giúp xây dựng trạng thái theo dõi tại Tân Cương, gần đây đã khoe khoang rằng phần mềm của họ có thể xác định khuôn mặt của những người đang đeo khẩu trang. Một công ty khác, Hanwang, tuyên bố rằng công nghệ nhận dạng khuôn mặt của họ có thể nhận ra khuôn mặt của người đeo khẩu trang chính xác đến 95%. Việc thu thập dữ liệu cá nhân của Trung Quốc thậm chí còn thu được từ những công dân chưa có điện thoại. Ở vùng nông thôn, dân làng đã xếp hàng để được các công ty tư nhân quét khuôn mặt từ nhiều góc độ để đổi lấy dụng cụ nấu nướng.
Cho đến gần đây, rất khó để tưởng tượng làm thế nào Trung Quốc có thể tích hợp tất cả những dữ liệu này vào một hệ thống theo dõi duy nhất, nhưng nay thì đã dễ tưởng tượng ra hơn nhiều. Vào năm 2018, một nhà hoạt động nhân quyền trong lĩnh vực an ninh mạng đã tấn công vào một hệ thống nhận dạng khuôn mặt có vẻ như được kết nối với chính phủ và đang tổng hợp một sự kết hợp đáng ngạc nhiên của các luồng dữ liệu. Hệ thống có khả năng phát hiện người Duy Ngô Nhĩ theo đặc điểm dân tộc của họ và nó có thể biết được mắt hay miệng của người đó đang mở hay đóng, họ có đang cười không, họ có để râu hay không và họ có đeo kính râm hay không. Nó ghi lại ngày, giờ và số sê-ri - tất cả đều có thể theo dõi được đối với người dùng cá nhân - của những điện thoại hỗ trợ Wi-Fi đã đi qua trong tầm phủ sóng của nó. Nó được tổ chức bởi Alibaba và tham chiếu đến City Brain, một nền tảng phần mềm được hỗ trợ bởi trí tuệ nhân tạo mà Chính quyền Trung Quốc đã giao nhiệm vụ cho công ty này xây dựng.
City Brain, như tên gọi cho thấy, là một loại trung tâm thần kinh tự động, có khả năng tổng hợp các luồng dữ liệu từ vô số cảm biến được phân bố khắp không gianđô thị. Nhiều ứng dụng được đề xuất của nó là các chức năng kỹ trị tốt đẹp. Ví dụ, các thuật toán của nó có thể đếm số người và ô-tô, để giúp tính thời gian đèn đỏ và lập kế hoạch tuyến tàu điện ngầm. Dữ liệu từ các thùng rác chứa đầy cảm biến có thể giúp việc thu gom rác thải kịp thời và hiệu quả hơn.
Nhưng City Brain và các công nghệ kế nhiệm của nó cũng sẽ cho phép các hình thức theo dõi tích hợp mới. Một số trong số này sẽ nhận được sự ủng hộ rộng rãi của công chúng: City Brain có thể được huấn luyện để phát hiện những đứa trẻ bị lạc, hoặc hành lý bị thất lạc của du khách hoặc của những kẻ khủng bố. Nó có thể đánh dấu những người đi cướp, hoặc những người vô gia cư, hoặc những kẻ bạo loạn. Bất kỳ ai trong bất kỳ loại nguy hiểm nào đều có thể kêu gọi sự giúp đỡ bằng cách vẫy tay theo một cách đặc biệt mà thị giác máy tính luôn cảnh giác sẽ nhận ra ngay lập tức. Các cảnh sát viên đeo tai nghe có thể được trợ lý giọng nói dựa trên trí tuệ nhân tạo hướng dẫn đến hiện trường.
City Brain sẽ đặc biệt hữu ích trong một trận đại dịch. (Một trong những công ty chị em của Alibaba đã tạo ra ứng dụng mã hóa màu sắc nguy cơ mắc bệnh của công dân, đồng thời âm thầm gửi dữ liệu du lịch và sức khỏe của họ cho cảnh sát.) Khi dịch bệnh bùng phát ở Bắc Kinh, một số trung tâm thương mại và nhà hàng trong thành phố bắt đầu quét điện thoại của khách hàng tiềm năng, kéo dữ liệu từ các nhà cung cấp dịch vụ di động để xem liệu họ đã đi du lịch gần đây hay chưa. Các nhà cung cấp dịch vụ di động cũng gửi cho chính quyền các thành phố danh sách những người đã đến thành phố của họ từ Vũ Hán, nơi virus corona lần đầu tiên được phát hiện. Và các công ty trí tuệ nhân tạo của Trung Quốc đã bắt đầu sản xuất mũ bảo hiểm nhận dạng khuôn mặt được nối mạng tới cảnh sát, với thiết bị hồng ngoại tích hợp nhằm phát hiện xem họ có đang bị sốt hay không, để gửi dữ liệu cho chính quyền. City Brain có thể tự động hóa các quy trình này hoặc tích hợp các luồng dữ liệu của nó.
Ngay cả những hệ thống trí tuệ nhân tạo phức tạp nhất của Trung Quốc vẫn còn rất mỏng manh. City Brain vẫn chưa tích hợp đầy đủ các khả năng theo dõi của mình và các hệ thống trước của nó đã gặp phải một số vấn đề về hiệu suất đáng xấu hổ: Vào năm 2018, một trong những camera được hỗ trợ bởi trí tuệ nhân tạo của chính quyền đã nhầm một khuôn mặt vẽ trên thành xe bus thành một người đi bộ. Nhưng phần mềm ngày càng tốt hơn, và không có lý do kỹ thuật nào để nó không thể được triển khai trên quy mô lớn.
Các luồng dữ liệu có thể được đưa vào một hệ thống giống như City Brain về cơ bản là không giới hạn. Ngoài các cảnh quay từ 1,9 triệu camera nhận dạng khuôn mặt mà công ty viễn thông Trung Quốc China Tower hợp tác với SenseTime lắp đặt, City Brain có thể thu nhận nguồn cấp dữ liệu từ các camera gắn trên cột đèn và treo trên các góc phố. Nó có thể sử dụng các camera mà cảnh sát Trung Quốc giấu trong mũ giao thông và những camera được gắn cho các sĩ quan, cả sĩ quan mặc quân phục lẫn sĩ quan mặc thường phục. Nhà nước có thể buộc các nhà bán lẻ cung cấp dữ liệu từ camera tại cửa hàng, hiện có thể phát hiện hướng nhìn của người mua hàng vào giá đựng hàng hóa, và có thể sớm nhìn thấy các góc xung quanh bằng cách đọc bóng của người mua hàng. Chỉ có những không gian công cộng nhỏ mới không bị theo dõi.
Các sở cảnh sát của Hoa Kỳ đã bắt đầu tận dụng các cảnh quay từ camera an ninh gia đình của Amazon. Trong các cách ứng dụng mang tính cá nhân hơn, những chiếc camera này tô điểm cho chuông cửa, nhưng nhiều chiếc cũng nhắm vào nhà hàng xóm. Chính quyền Trung Quốc có thể thu thập cảnh quay từ các sản phẩm tương đương của Trung Quốc. Họ có thể khai thác các camera gắn trên ô-tô dùng chung hoặc các phương tiện tự lái sắp thay thế chúng: Các phương tiện tự động sẽ được bao phủ bởi một loạt cảm biến, bao gồm một số cảm biến sẽ thu nhận thông tin phong phú hơn nhiều so với video 2-D. Dữ liệu từ một tập hợp khổng lồ các cảm biến có thể được kết hợp với nhau và được bổ sung bởi các luồng City Brain khác, để tạo ra mô hình 3-D của thành phố được cập nhật từng giây. Mỗi lần làm mới có thể ghi lại vị trí của tất cả mọi người trong mô hình. Một hệ thống như vậy sẽ ưu tiên các khuôn mặt không xác định, có lẽ bằng cách gửi các nhóm máy bay không người lái đến vị trí của khuôn mặt không xác định đó để đảm bảo thu thập đầy đủ dữ liệu.
Dữ liệu của mô hình có thể được đồng bộ hóa theo thời gian với âm thanh từ bất kỳ thiết bị nối mạng nào có micrô, bao gồm loa thông minh, đồng hồ thông minh và các thiết bị Internet Vạn vật ít rõ ràng hơn như nệm thông minh, tã thông minh và đồ chơi tình dục thông minh. Tất cả các nguồn này có thể kết hợp thành một hỗn hợp âm thanh đa kênh, theo vị trí cụ thể có thể được phân tích cú pháp bằng các thuật toán đa âm thanh có khả năng diễn giải các từ được nói bằng hàng nghìn thứ tiếng. Sự kết hợp này sẽ hữu ích cho các nghiệp vụ an ninh, đặc biệt là ở những nơi không có camera: iFlytek của Trung Quốc đang hoàn thiện một công nghệ có thể nhận dạng các cá nhân bằng “giọng nói” của họ.
Trong những thập kỷ tới, City Brain hoặc các hệ thống kế nhiệm của nó thậm chí có thể đọc được những suy nghĩ không thành lời. Máy bay không người lái đã có thể được điều khiển bởi mũ bảo hiểm có khả năng cảm nhận và truyền tín hiệu thần kinh, và các nhà nghiên cứu hiện đang thiết kế giao diện não-máy tính vượt xa tính năng tự động điền, cho phép bạn nhập dữ liệu chỉ bằng cách suy nghĩ. Một nhà nước độc tài có đủ quyền lực xử lý có thể buộc các nhà sản xuất phần mềm đó phải cung cấp mọi hoạt động thần kinh của người dân vào cơ sở dữ liệu của chính phủ. Trung Quốc gần đây đã thúc đẩy người dân tải xuống và sử dụng một ứng dụng tuyên truyền. Chính phủ có thể sử dụng phần mềm theo dõi cảm xúc để theo dõi phản ứng với một kích thích chính trị trong một ứng dụng. Phản hồi im lặng, bị kiềm chế đối với đoạn văn bản hoặc đoạn clip từ bài phát biểu của Tập sẽ là một điểm dữ liệu có ý nghĩa đối với thuật toán được dùng để đưa ra dự báo.
Tất cả các nguồn cấp dữ liệu trên mặt đất được đồng bộ hóa theo thời gian này có thể được bổ sung bằng cảnh quay từ máy bay không người lái, có camera có khả năng chụp những bức ảnh với hàng tỷ điểm ảnh để có thể ghi lại toàn bộ cảnh quan thành phố ở dạng chi tiết và trong suốt như pha-lê, có thể cho phép đọc biển số xe và nhận dạng dáng đi. Các máy bay không người lái, “chim gián điệp”, đã sà xuống và bay vòng quanh các thành phố của Trung Quốc, ngụy trang thành chim bồ câu. Nguồn cấp dữ liệu của City Brain có thể được tổng hợp với dữ liệu từ các hệ thống ở các khu vực đô thị khác, để tạo thành một ghi chép đa chiều theo thời gian thực về gần như tất cả hoạt động của con người ở Trung Quốc. Các trang trại máy chủ trên khắp Trung Quốc sẽ sớm có thể lưu giữ nhiều góc độ trong bộ phim có độ phân giải cao về mọi khoảnh khắc trong cuộc sống của mỗi người Trung Quốc.
Điều quan trọng cần nhấn mạnh là các hệ thống thuộc phạm vi này vẫn đang được phát triển. Hầu hết dữ liệu cá nhân của Trung Quốc vẫn chưa được tích hợp với nhau, ngay cả trong các công ty riêng lẻ. Chính quyền Trung Quốc cũng không có một kho dữ liệu tổng hợp, một phần là do sự xung đột giữa giữa các cơ quan trong chính quyền. Nhưng không có rào cản chính trị cứng rắn nào đối với việc tích hợp tất cả các dữ liệu này, đặc biệt là đối với việc sử dụng cho an ninh của nhà nước. Ngược lại, theo quy chế chính thức, các công ty tư nhân buộc phải hỗ trợ các nghiệp vụ tình báo của Trung Quốc.
Chính phủ có thể sớm có một hồ sơ dữ liệu phong phú, tự động thu thập cho toàn bộ gần 1,4 tỷ công dân của mình. Mỗi hồ sơ sẽ bao gồm hàng triệu điểm dữ liệu, bao gồm mọi lần xuất hiện của người đó trong không gian được khảo sát, cũng như tất cả các giao tiếp và mua hàng của họ. Nguy cơ đe dọa của họ đối với quyền lực của ĐCSTQ có thể được cập nhật liên tục theo thời gian thực, với điểm số chi tiết hơn so với điểm được sử dụng trong các kế hoạch chấm điểm “tín nhiệm xã hội” mang tính thí điểm của Trung Quốc, vốn đã nhằm mang lại cho mọi công dân điểm uy tín xã hội công cộng dựa trên những thứ như các kết nối với những nền tảng truyền thông xã hội và thói quen mua hàng. Các thuật toán có thể theo dõi điểm số dữ liệu kỹ thuật số của họ, cùng với những người khác, liên tục, mà không bao giờ có cảm giác mệt mỏi của các sĩ quan mật vụ của phát-xít Đức mỗi khi phải làm việc tăng ca. Những hành động tích cực giả - coi ai đó là mối đe dọa cho hành vi vô thưởng vô phạt - sẽ được khuyến khích, để tăng hiệu ứng làm lạnh tích hợp sẵn của hệ thống, để họ hướng con mắt sắc bén về hành vi của chính mình, để tránh sự bất đồng quan điểm dù là nhỏ nhất.
Nếu yếu tố rủi ro của họ dao động theo xu hướng tăng - cho dù do một số kiểu di chuyển đáng ngờ, các mối quan hệ xã hội của họ, sự chú ý của họ không đầy đủ đến một ứng dụng tuyên truyền, hoặc một số mối tương quan mà chỉ có trí tuệ nhân tạo mới có thể biết đươc - một hệ thống hoàn toàn tự động có thể hạn chế sự di chuyển của họ. Nó có thể ngăn họ mua vé máy bay hoặc vé tàu hỏa. Nó có thể không cho phép họ đi qua các trạm kiểm soát. Nó có thể điều khiển từ xa “ổ khóa thông minh” trong không gian công cộng hoặc không gian riêng tư, để nhốt họ cho đến khi lực lượng an ninh đến.
*
TRONG NHỮNG NĂM GẦN ĐÂY, một số thành viên trong giới trí thức Trung Quốc đã lên tiếng cảnh báo về việc trí tuệ nhân tạo bị lạm dụng, đáng chú ý nhất là nhà khoa học máy tính Tăng Nghị và nhà triết học Triệu Thinh Dương. Vào mùa Xuân năm 2019, Tăng đã xuất bản “Các nguyên tắc về trí tuệ nhân tạo ở Bắc Kinh”, một tuyên ngôn về nguy cơ trí tuệ nhân tạo can thiệp vào quyền tự chủ, nhân phẩm, quyền riêng tư và một loạt các giá trị khác của con người.
Tăng là người mà tôi muốn đến thăm tại Viện Tự động hóa Bắc Kinh, nơi mà, ngoài nghiên cứu về đạo đức trong trí tuệ nhân tạo, anh còn là Phó Giám đốc của Trung tâm Nghiên cứu Trí tuệ Mô phỏng Não bộ. Anh tìm thấy tôi ở tiền sảnh. Tăng trông trẻ so với tuổi 37, với đôi mắt nhân hậu và thân hình rắn chắc nhưng trông thon gọn nhờ quần thể thao màu đen và áo khoác trùm đầu.
Trên đường đến văn phòng của Tăng, chúng tôi đi ngang qua một trong các phòng thí nghiệm của anh, nơi một trợ lý nghiên cứu lướt qua kính hiển vi, xem các tín hiệu điện hóa nhấp nháy liên kết các nơ-ron với nhau qua mô não chuột. Chúng tôi ngồi xuống một chiếc bàn dài trong phòng họp liền kề với văn phòng anh, ngắm nhìn khung cảnh thành phố xám xịt, mờ sương trong khi trợ lý của anh pha trà.
Tôi hỏi Tăng về việc “Các nguyên tắc về trí tuệ nhân tạo của Bắc Kinh” đã được tiếp nhận như thế nào. Anh trả lời: “Mọi người nói, ‘Đây chỉ là một vở diễn chính thức của chính quyền Bắc Kinh’. Nhưng đây là công việc của đời tôi.”
Tăng đã nói một cách thoải mái về những lạm dụng tiềm ẩn của trí tuệ nhân tạo. Anh đề cập đến một dự án được triển khai cho một nhóm các trường học ở Trung Quốc, nơi tính năng nhận dạng khuôn mặt được sử dụng để theo dõi không chỉ việc đi học hay vắng mặt của học sinh mà còn xem từng học sinh có chú ý hay không. "Tôi ghét phần mềm đó,” Tăng nói. ”Tôi phải dùng từ đó: ghét.”
Anh đã nói tiếp một lúc, liệt kê nhiều ứng dụng phi đạo đức khác nhau của trí tuệ nhân tạo. “Tôi đã dạy một khóa học về triết lý về trí tuệ nhân tạo,” anh nói. ”Tôi nói với các học sinh của mình rằng tôi hy vọng không ai trong số các em dính líu đến những con robot giết người. Các em chỉ có một quãng thời gian ngắn ngủi sống trên Trái Đất. Có nhiều điều khác các em họ có thể làm với tương lai của mình”.
Tăng biết rõ rằng các tài liệu hàn lâm về đạo đức công nghệ thật khô khan. Nhưng khi tôi hỏi anh về hiệu quả chính trị của công việc của mình, câu trả lời của anh ấy kém thuyết phục hơn. Anh nói: “Nhiều kỹ thuật viên trong chúng tôi đã được mời đến nói chuyện với chính quyền, và thậm chí với Tập Cận Bình về những rủi ro tiềm ẩn của trí tuệ nhân tạo. Nhưng chính quyền vẫn đang trong giai đoạn học hỏi, giống như các chính quyền khác trên toàn thế giới.”
“Anh có điều gì mạnh hơn quy trình tham vấn đó không?” Tôi hỏi. ”Giả sử có những lúc chính phủ có những lợi ích mâu thuẫn với các nguyên tắc của anh. Anh đang dựa vào cơ chế nào để giành chiến thắng? “
“Cá nhân tôi, vẫn đang trong giai đoạn học hỏi về vấn đề đó,” Tăng nói.
Các công ty khởi nghiệp trong ngành trí tuệ nhân tạo của Trung Quốc gần như không bận tâm lắm. Một số đang giúp Tập phát triển trí tuệ nhân tạo cho mục đích theo dõi một cách rõ ràng. Sự kết hợp giữa chế độ độc đảng của Trung Quốc và dư lượng tư tưởng của kế hoạch hóa tập trung khiến giới tinh hoa trong ĐCSTQ vẫn đầy quyền lực trong mọi lĩnh vực, đặc biệt là kinh tế. Nhưng trước đây, mối liên hệ giữa chính quyền và ngành công nghiệp công nghệ rất kín đáo. Gần đây, Chính quyền Trung Quốc bắt đầu phân công đại diện cho các công ty công nghệ, để tăng cường các chi bộ Đảng Cộng sản tồn tại trong các công ty tư nhân lớn.
Bán công nghệ cho các cơ quan an ninh của nhà nước là một trong những cách nhanh nhất để các công ty khởi nghiệp trong ngành trí tuệ nhân tạo của Trung Quốc thu lợi nhuận. Một công ty viễn thông quốc gia là cổ đông lớn nhất của iFlytek, gã khổng lồ về nhận dạng giọng nói của Trung Quốc. Sự hợp lực là rất nhiều: Khi cảnh sát sử dụng phần mềm của iFlytek để theo dõi các cuộc điện thoại, các tờ báo quốc doanh đã đưa tin ủng hộ. Đầu năm nay, ứng dụng tin tức được cá nhân hóa Toutiao đã đi xa hơn khi viết lại sứ mệnh của mình để nêu rõ một mục tiêu sống động mới: điều chỉnh dư luận với mong muốn của chính quyền. Từ Lập, CEO của SenseTime, gần đây đã mô tả chính phủ là “nguồn dữ liệu lớn nhất” của công ty ông.
Liệu bất kỳ dữ liệu cá nhân nào có thể được đảm bảo bảo vệ ở Trung Quốc hay không vẫn còn chưa rõ ràng, bởi cấu trúc chính trị của đất nước này. Cuộc cách mạng kỹ thuật số đã khiến cho việc độc quyền dữ liệu trở nên khó tránh khỏi. Ngay cả ở Hoa Kỳ, nơi có truyền thống thực thi chống độc quyền đầy tinh vi, công dân vẫn chưa huy động ý chí đủ mức để buộc thông tin phải thuộc về đa số chứ không phải sở hữ của một số ít kẻ mạnh. Nhưng các công ty độc quyền về dữ liệu tư nhân ít nhất phải tuân theo quyền lực chủ quyền của các quốc gia nơi họ hoạt động. Độc quyền dữ liệu của một quốc gia-nhà nước chỉ có thể được ngăn chặn bởi người dân của họ và chỉ khi họ có đủ quyền lực chính trị.
Người dân Trung Quốc không thể sử dụng một cuộc bầu cử để loại bỏ Tập. Và không có cơ quan tư pháp độc lập, chính quyền có thể đưa ra lập luận, dù căng thẳng đến đâu, rằng họ phải sở hữu bất kỳ luồng thông tin nào, miễn là các mối đe dọa đối với “sự ổn định” có thể được phát hiện trong số các điểm dữ liệu. Hoặc nó có thể yêu cầu dữ liệu từ các công ty đã đóng cửa, như đã xảy ra trong đợt bùng phát virus corona đầu tiên. Không có báo chí độc lập nào để đưa tin về những yêu cầu này.
Mỗi khi khuôn mặt của một người được nhận dạng, giọng nói của họ được ghi lại hoặc tin nhắn văn bản của họ bị chặn, thông tin này có thể được đính kèm ngay lập tức vào số căn cước công dân, hồ sơ của cảnh sát, tờ khai thuế, hồ sơ tài sản và lịch sử việc làm của họ. Nó có thể được đối chiếu chéo với hồ sơ y tế và ADN họ, khi mà cảnh sát Trung Quốc tự hào rằng họ có bộ sưu tập lớn nhất thế giới.
*
TĂNG VÀ TÔI đã nói tới một kịch bản toàn cầu đã bắt đầu khiến các nhà đạo đức học về trí tuệ nhân tạo và những người theo dõi Trung Quốc phải lo lắng. Trong trường hợp này, hầu hết các nhà nghiên cứu trí tuệ nhân tạo trên khắp thế giới đều nhận ra những rủi ro của công nghệ đối với nhân loại và phát triển các quy chuẩn mạnh mẽ xung quanh việc sử dụng nó. Tất cả ngoại trừ Trung Quốc, nơi gây ồn ào đúng đắn về đạo đức trong trí tuệ nhân tạo, nhưng chỉ là vỏ bọc. Trong khi đó, quốc gia này xây dựng các hệ thống theo dõi quốc gia hoàn thiện và bán chúng cho những nơi mà nền dân chủ còn mong manh hoặc không tồn tại. Những kẻ chuyên quyền trên thế giới thường bị đánh gục bởi các cuộc đảo chính hoặc các cuộc biểu tình của quần chúng, cả hai đều đòi hỏi một tổ chức chính trị cơ bản. Nhưng tổ chức chính trị quy mô lớn có thể chứng minh là không thể trong các xã hội bị theo dõi tự động tràn lan.
Tăng bày tỏ lo lắng về viễn cảnh này, nhưng anh không đề cập cụ thể đến Trung Quốc. Anh không cần phải làm thế: Quốc gia này hiện là nhà bán thiết bị theo dõi được hỗ trợ bởi trí tuệ nhân tạo hàng đầu thế giới. Tại Malaysia, chính phủ đang làm việc với Yitu, một công ty khởi nghiệp về trí tuệ nhân tạo của Trung Quốc, để trang bị công nghệ nhận dạng khuôn mặt cho cảnh sát Kuala Lumpur như một sự bổ sung cho nền tảng City Brain của Alibaba. Các công ty Trung Quốc cũng đấu thầu để trang bị cho Singapore 110.000 cột đèn có camera nhận dạng khuôn mặt.
Tại Nam Á, Chính quyền Trung Quốc đã cung cấp thiết bị theo dõi cho Sri Lanka. Trên Con đường Tơ lụa cũ, công ty Dahua của Trung Quốc đang rải khắp các đường phố ở thủ đô Mông Cổ bằng các camera theo dõi có sự hỗ trợ của trí tuệ nhân tạo. Xa hơn về phía Tây, ở Serbia, Huawei đang giúp thiết lập một “hệ thống thành phố an toàn” hoàn chỉnh với camera nhận dạng khuôn mặt và các cuộc tuần tra chung do cảnh sát Serbia và Trung Quốc thực hiện nhằm giúp khách du lịch Trung Quốc cảm thấy an toàn.
Vào những năm đầu thế kỷ này, gã khổng lồ viễn thông Trung Quốc ZTE đã bán cho Ethiopia một mạng không dây với khả năng truy cập tích hợp bằng ‘cửa sau’ (backdoor access) dành cho chính quyền. Trong một cuộc đàn áp sau đó, những người bất đồng chính kiến bị vây bắt để thẩm vấn tàn bạo, trong đó họ buộc phải bật lại âm thanh từ các cuộc điện thoại gần đây mà họ đã gọi [để thử giọng nói]. Ngày nay, Kenya, Uganda và Mauritius đang trang bị cho các thành phố lớn của các quốc gia này những mạng lưới theo dõi do Trung Quốc sản xuất.
Tại Ai Cập, các nhà phát triển Trung Quốc đang tìm cách tài trợ cho việc xây dựng một thủ đô mới. Nó dự kiến sẽ chạy trên nền tảng “thành phố thông minh” tương tự như City Brain, mặc dù một nhà cung cấp vẫn chưa được nêu tên. Ở miền Nam châu Phi, Zambia đã đồng ý mua hơn 1 tỷ USD thiết bị viễn thông từ Trung Quốc, bao gồm cả công nghệ theo dõi Internet. Hikvision của Trung Quốc, nhà sản xuất camera theo dõi được hỗ trợ bởi trí tuệ nhân tạo lớn nhất thế giới, có văn phòng tại Johannesburg.
Michael Kratsios, Giám đốc công nghệ của Mỹ, nói với tôi rằng Trung Quốc sử dụng “việc cho vay trước khi bán thiết bị viễn thông với mức chiết khấu đáng kể cho các nước đang phát triển, điều này sau đó đặt Trung Quốc vào vị thế kiểm soát các mạng đó và dữ liệu của họ”. Khi các quốc gia cần tái cấp vốn cho các điều khoản của các khoản vay của họ, Trung Quốc có thể đưa quyền truy cập vào mạng của những quốc gia đó như là một phần của thỏa thuận, giống như cách mà quân đội của họ đảm bảo quyền neo đậu tại các cảng nước ngoài mà họ tài trợ. Kratsios nói: “Nếu bạn cho [Trung Quốc] quyền truy cập không được kiểm soát vào các mạng dữ liệu trên khắp thế giới, đó có thể là một vấn đề nghiêm trọng”.
Năm 2018, CloudWalk Technology, một công ty khởi nghiệp có trụ sở tại Quảng Châu, tách ra từ Viện Hàn lâm Khoa học Trung Quốc, đã ký một thỏa thuận với chính phủ Zimbabwe để thiết lập một mạng lưới theo dõi. Các điều khoản của nó yêu cầu Zambabwe gửi hình ảnh về cư dân của mình - một bộ dữ liệu phong phú, vì Zimbabwe đã hấp thụ các luồng di cư từ khắp các vùng cận Sahara ở châu Phi - trở lại các văn phòng Trung Quốc của CloudWalk, cho phép công ty tinh chỉnh khả năng nhận diện hình ảnh sẫm màu của phần mềm - các khuôn mặt của người da đen, mà trước đây đã được chứng minh là phức tạp đối với các thuật toán của nó.
Đã thiết lập các đầu tàu ở châu Á, châu Âu và châu Phi, các công ty trí tuệ nhân tạo của Trung Quốc hiện đang đẩy mạnh vào châu Mỹ Latinh, khu vực mà Chính quyền Trung Quốc mô tả là “lợi ích kinh tế cốt lõi”. Trung Quốc đã tài trợ cho Ecuador 240 triệu đô-la để mua một hệ thống camera theo dõi. Bolivia cũng đã mua thiết bị theo dõi với sự trợ giúp từ khoản vay từ Bắc Kinh. Venezuela gần đây đã ra mắt hệ thống thẻ căn cước công dân quốc gia mới để ghi lại các đảng phái chính trị của công dân trong cơ sở dữ liệu do ZTE xây dựng. Trong một tình huống trớ trêu, trong nhiều năm, các công ty Trung Quốc đã bày bán nhiều sản phẩm theo dõi này tại một hội chợ an ninh ở Tân Cương, quê hương của người Duy Ngô Nhĩ.
*
NẾU VƯỢT QUA HOA KỲ VỀ TRÍ TUỆ NHÂN TẠO , Trung Quốc sẽ trở thành một lực lượng địa chính trị mạnh mẽ hơn, đặc biệt là với tư cách là người xây dựng tiêu chuẩn của một liên minh độc tài mới.
Trung Quốc đã có một số bộ dữ liệu lớn nhất thế giới để cung cấp cho các hệ thống trí tuệ nhân tạo của họ, một lợi thế quan trọng cho các nhà nghiên cứu của họ. Trong các văn phòng khổng lồ ở các thành phố trên khắp đất nước, những người lao động lương thấp ngồi trên bàn dài hàng giờ đồng hồ, ghi chép các file âm thanh và phác thảo các đối tượng bằng hình ảnh, để làm cho dữ liệu do dân số đông đúc của Trung Quốc tạo ra hữu ích hơn. Nhưng để Trung Quốc trở thành quốc gia có hệ sinh thái về trí tuệ nhất tạo tốt nhất như của Hoa Kỳ, thì lượng dữ liệu khổng lồ của họ sẽ phải được sàng lọc bằng các thuật toán nhận dạng các mẫu vượt xa những gì con người nắm bắt được. Và ngay cả các giám đốc điều hành của công ty tìm kiếm khổng lồ Baidu của Trung Quốc cũng thừa nhận rằng các tài năng hàng đầu trong ngành trí tuệ nhân tạo đang sinh sống ở phương Tây.
Trong lịch sử, Trung Quốc đã phải vật lộn để giữ chân các ứng viên ưu tú, hầu hết trong số họ rời đi để theo học tại các khoa khoa học máy tính hàng đầu của Hoa Kỳ, trước khi làm việc tại các công ty thú vị hơn, có nguồn lực tốt hơn ở Thung lũng Silicon. Nhưng nó có thể đang thay đổi. Chính quyền Trump đã gây khó khăn cho sinh viên Trung Quốc học tập tại Hoa Kỳ và những người có khả năng bị nghi ngờ. Một nhà khoa học máy học hàng đầu tại Google gần đây đã mô tả các hạn chế về thị thực là “một trong những nút thắt lớn nhất đối với năng suất nghiên cứu tập thể của chúng tôi”.
Trong khi đó, các bộ phận khoa học máy tính của Trung Quốc đã dốc hết sức vào trí tuệ nhân tạo. Ba trong số 10 trường đại học về trí tuệ nhân tạo hàng đầu thế giới, xét về khối lượng nghiên cứu mà họ xuất bản, hiện nằm ở Trung Quốc. Và đó là trước khi đất nước hoàn thành việc xây dựng 50 trung tâm nghiên cứu trí tuệ nhân tạo mới theo yêu cầu của “Kế hoạch hành động đổi mới về trí tuệ nhân tạo cho các tổ chức giáo dục đại học” của Tập. Trong năm 2017, các công ty Trung Quốc đã thu hút 36% vốn đầu tư tư nhân toàn cầu vào ngành trí tuệ nhân tạo, tăng từ chỉ 3% vào năm 2015. Các kỹ sư tài năng của Trung Quốc có thể đi học ở trong nước và làm việc cho một công ty toàn cầu của Trung Quốc, như TikTok, sau khi tốt nghiệp.
Trung Quốc vẫn sẽ tụt hậu so với Mỹ về phần cứng máy tính trong thời gian tới. Giống như dữ liệu phải được xử lý bằng các thuật toán để trở nên hữu ích, các thuật toán phải được khởi tạo trong các tầng vật lý - cụ thể là trong các phần bên trong của các vi mạch. Các cấu trúc silicon mảnh như tơ nhện này phức tạp đến mức một vài nguyên tử bị thiếu có thể định tuyến lại các xung điện thông qua các công tắc nơ-ron của con chip. Những con chip tinh vi nhất được cho là những vật thể phức tạp nhất mà con người chế tạo ra. Chúng chắc chắn quá phức tạp để có thể nhanh chóng bị tách ra và thiết kế ngược lại bởi các gián điệp công nghệ vốn luôn được tán dương của Trung Quốc.
Các công ty Trung Quốc vẫn chưa thể xây dựng những phòng chế tạo chip tốt nhất, vốn tiêu tốn hàng tỷ đô-la và dựa trên nhiều thập kỷ tích lũy kiến thức tập thể trong nhiều ngành. Được làm mát bằng nitơ và cách ly địa chấn, để ngăn tiếng ồn của một chiếc xe tải chạy qua làm hỏng vi mạch trong ống nghiệm, những căn phòng tự động này cũng tuyệt vời không kém gì những tấm silicon thành phẩm của chúng. Và những nơi sản tốt nhất vẫn chủ yếu ở Hoa Kỳ, Tây Âu, Nhật Bản, Hàn Quốc và Đài Loan.
Chính phủ Hoa Kỳ vẫn có thể hạn chế phần cứng chảy vào Trung Quốc, một tình trạng khiến Đảng Cộng sản phẫn nộ. Khi chính quyền Trump cấm bán vi mạch cho ZTE vào tháng 4/2018, Frank Long, nhà phân tích chuyên về lĩnh vực trí tuệ nhân tạo của Trung Quốc, mô tả đây là lời cảnh tỉnh đối với Trung Quốc ngang bằng với kinh nghiệm của Hoa Kỳ về lệnh cấm vận dầu mỏ Ả-Rập.
Nhưng cuộc cách mạng trí tuệ nhân tạo đã mang đến cho Trung Quốc một cơ hội đi tắt đón đầu hiếm có. Cho đến gần đây, hầu hết các chip được thiết kế với kiến trúc linh hoạt cho phép thực hiện nhiều loại hoạt động tính toán. Nhưng trí tuệ nhân tạo chạy nhanh nhất trên các chip tùy chỉnh, giống như những chip mà Google sử dụng cho điện toán đám mây của mình để phát hiện ngay khuôn mặt của con gái bạn trong hàng nghìn bức ảnh. (Apple thực hiện nhiều thao tác này trên iPhone bằng chip tùy chỉnh vận hành kiểu neuron người). Vì mọi người đều lần đầu tiên sản xuất các chip tùy chỉnh này nên Trung Quốc cũng không kém xa: Baidu và Alibaba đang chế tạo chip tùy chỉnh cho phương pháp ‘học sâu’ (deep learning). Và vào tháng 8 năm 2019, Huawei đã tiết lộ một con chip ‘học máy’ di động. Thiết kế của nó đến từ Cambricon, có lẽ là công ty khởi nghiệp có giá trị nhất trong ngành sản xuất chip toàn cầu, được thành lập bởi các đồng nghiệp của Tăng tại Viện Hàn lâm Khoa học Trung Quốc.
Đến năm 2030, Trung Quốc có thể thống trị về trí tuệ nhân tạo Đất nước này có thể sẽ có nền kinh tế lớn nhất thế giới, và sẽ có những khoản chi mới dành cho các ứng dụng về trí tuệ nhân tạo trong quân đội của mình. Nó có thể có nhiều máy bay không người lái tinh vi nhất. Nó có thể có các hệ thống vũ khí tự động có thể dự báo hành động của kẻ thù sau một thời gian ngắn tiếp xúc với chiến trường và đưa ra các quyết định trên chiến trường nhanh hơn nhiều so với nhận thức của con người. Các thuật toán phát hiện tên lửa của nó có thể làm mất lợi thế hạt nhân của cuộc tấn công đầu tiên của Hoa Kỳ. Trí tuệ nhân tạo có thể làm đảo lộn cán cân quyền lực toàn cầu.
*
TRÊN ĐƯỜNG RỜI Viện Tự động hóa, Tăng đưa tôi đi tham quan phòng thí nghiệm chế tạo robot của anh. Trong căn phòng có trần cao, các sinh viên đang nghịch ngợm với một cánh tay kim loại khổng lồ quái dị và một robot hình người nhỏ được bọc trong một bộ xương ngoài màu xám trong khi Tăng kể cho tôi nghe về công việc của anh ấy làm mô hình não. Anh nói rằng hiểu cấu trúc của bộ não là cách chắc chắn nhất để hiểu bản chất của trí thông minh.
Tôi đã hỏi Tăng rằng tương lai của trí tuệ nhân tạo sẽ mở ra như thế nào. Anh nói rằng mình có thể tưởng tượng phần mềm được mô hình hóa mô phỏng bộ não sẽ đạt được một loạt khả năng. Anh nói rằng nó có thể đạt được một số cảm giác tự nhận ra, và sau đó từ từ nhận thức về quá khứ và tương lai. Nó có thể phát triển các động lực và giá trị. Giai đoạn cuối cùng của quá trình tiến hóa được hỗ trợ của nó sẽ đến khi nó hiểu các tác nhân khác đáng được đồng cảm. Tôi hỏi anh quá trình này sẽ mất bao lâu. Tăng nói: “Tôi nghĩ một cỗ máy như vậy có thể được chế tạo vào năm 2030”.
Trước khi chia tay Tăng, tôi yêu cầu anh tưởng tượng mọi thứ đang diễn ra theo một cách khác. ”Giả sử anh hoàn thành mô hình kỹ thuật số, độ phân giải cao của bộ não,” tôi nói. “Và giả sử mô hình đó đạt được một dạng ý thức thô sơ nào đó. Và giả sử, theo thời gian, anh có thể cải thiện nó, cho đến khi nó vượt trội hơn con người trong mọi khả năng nhận thức, ngoại trừ sự đồng cảm. Anh giữ nó ở chế độ an toàn cho đến khi bạn đạt được bước cuối cùng đó. Nhưng rồi một ngày, cơ quan an ninh của chính quyền phá cửa văn phòng của anh. Họ biết anh có sản phẩm trí tuệ nhân tạo này trên máy tính của mình. Họ muốn sử dụng nó làm phần mềm cho một nền tảng phần cứng mới, một chiến binh nhân tạo hình người. Họ đã sản xuất hàng tỷ chiến binh nhân tạo, và họ sẽ không tâm liệu chúng có đạt được sự đồng cảm hay không. Họ yêu cầu mật khẩu của anh. Anh có nói cho họ biế mật không?. Tăng nói: “Tôi sẽ phá hủy máy tính của mình và bỏ đi. Tại thời điểm đó, đã đến lúc tôi phải nghỉ việc và tập trung vào các robot có thể sáng tác nghệ thuật.”
Nếu bạn đang tìm kiếm một vị triết gia-quân vương để lập biểu đồ quỹ đạo phát triển về đạo đức cho trí tuệ nhân tạo, bạn có thể làm tệ hơn Tăng. Nhưng con đường phát triển của trí tuệ nhân tạo sẽ được định hình bởi các hệ thống chồng chéo của các nền chính trị của các địa phương, các quốc gia và toàn cầu, chứ không phải bởi một vị quân vương-triết gia khôn ngoan và nhân từ. Đó là lý do tại sao việc Trung Quốc vươn lên vị trí hàng đầu về trí tuệ nhân tạo là một viễn cảnh đầy đe dọa: Cấu trúc chính trị của đất nước này đang khuyến khích, thay vì kiềm chế, cách sử dụng tồi tệ nhất của công nghệ này.
Ngay cả ở Hoa Kỳ, một nền dân chủ với các quyền con người được bảo vệ một cách hợp hiến, người Mỹ đang đấu tranh mạnh mẽ để ngăn chặn sự xuất hiện của một nhà nước theo dõi được xây dựng thông qua hợp tác công-tư (PPP). Nhưng ít nhất Hoa Kỳ có những cơ cấu chính trị có khả năng chống lại một số cơ hội. Ở Trung Quốc, trí tuệ nhân tạo sẽ chỉ bị hạn chế theo nhu cầu của ĐCTQ.
Cuối cùng, khi tôi rời khỏi Viện thì cũng đã gần trưa. Mưa trong ngày sắp ngớt. Tăng đặt cho tôi một chiếc ô-tô và dẫn tôi đến đó, tay cầm một chiếc ô trên đầu. Tôi tìm đường đến Tử Cấm Thành, nơi ngự trị của đế quốc Bắc Kinh lịch sử. Ngay cả chuyến đi ngắn ngày đến trung tâm thành phố này cũng giúp tôi tiếp xúc với tình trạng theo dõi của Trung Quốc. Trước khi bước vào Quảng trường Thiên An Môn, cả hộ chiếu và khuôn mặt của tôi đều được chụp lại, một trải nghiệm mà tôi cảm thấy tê tái.
Bức Vạn Lý Tưởng Lửa do trí tuệ nhân tạo đang canh giữ của Trung Quốc được xây dựng, một phần, để đảm bảo rằng vụ thảm sát không bao giờ được thảo luận trên mạng Internet của nước này. Để né tránh các nhà kiểm duyệt bằng thuật toán, các nhà hoạt động vì nhân quyền của Trung Quốc dựa vào hình tượng ‘Người đàn ông chặn xe tăng’ tiếp cận một con vịt cao su để tưởng nhớ vụ giết hại sinh viên .
Sự kiểm duyệt với sự hỗ trợ của trí tuệ nhân tạo của ĐCSTQ đã vượt xa sự kiện Thiên An Môn. Đầu năm nay, chính phủ đã bắt giữ các lập trình viên Trung...
Bất chấp những bước tiến đáng kể của Trung Quốc, các nhà phân tích công nghiệp kỳ vọng Hoa Kỳ sẽ giữ được vị trí dẫn đầu về trí tuệ nhân tạo hiện tại của mình trong ít nhất một thập kỷ nữa. Nhưng điều này chỉ là một tình huống tốt trong một thời điểm tồi: Trung Quốc đã và đang phát triển các công cụ theo dõi mới đầy mạnh mẽ và xuất khẩu chúng cho hàng chục quốc gia đã và chuẩn bị trở thành chuyên chế trên toàn thế giới. Trong vài năm tới, những công nghệ đó sẽ được cải tiến và tích hợp vào các hệ thống theo dõi toàn diện mà các nhà độc tài có thể vận hành dễ dàng.
Sự xuất hiện của một khối các quốc gia độc tài dựa trên trí tuệ nhân tạo do Trung Quốc dẫn đầu có thể làm biến dạng địa chính trị của thế kỷ này. Nó có thể ngăn hàng tỷ người, tại nhiều vùng rộng lớn trên toàn cầu, không bao giờ được đảm bảo bất kỳ biện pháp tự do chính trị nào. Và cho dù các nhà hoạch định chính sách Hoa Kỳ có giả vờ kiểu gì đi nữa, thì chỉ có công dân Trung Quốc mới có thể ngăn chặn được điều này. Tôi đã đến Bắc Kinh để tìm kiếm một số dấu hiệu cho thấy họ có thể thực hiện được điều này.
*
KHOẢNH KHẮC CÔNG NGHỆ-CHÍNH TRỊ NÀY đã xuất hiện từ lâu. Trung Quốc đã có vài thế kỷ trong lịch sử 5.000 năm của mình nắm vị trí tiên phong về công nghệ thông tin. Cùng với Sumer và Mesoamerica, Trung Quốc là một trong ba nơi mà chữ viết được phát minh một cách độc lập, cho phép thông tin được lưu trữ bên ngoài bộ não con người. Vào thế kỷ thứ hai sau Công nguyên, người Trung Quốc phát minh ra giấy. Công nghệ lưu trữ thông tin giá rẻ, có thể ràng buộc này cho phép dữ liệu - hồ sơ thương mại về Con đường Tơ lụa, thông cáo quân sự, thư từ giữa các thành viên trong giới tinh hoa cầm quyền - đi khắp đế chế trên những con ngựa, được những người du mục thảo nguyên bên ngoài Vạn Lý Trường Thành nuôi, để gia tăng tốc độ truyền tin. Dữ liệu bắt đầu lưu hành nhanh hơn vài thế kỷ sau đó, khi các nghệ nhân thời Đường hoàn thiện kỹ thuật in khắc gỗ, một công nghệ thông tin đại chúng giúp quản lý một nhà nước khổng lồ và đang bành trướng.
Là người cai trị các tổ chức xã hội phức tạp lớn nhất thế giới, các hoàng đế Trung Quốc cổ đại hiểu rất rõ mối quan hệ giữa các luồng thông tin và quyền lực cũng như giá trị của việc theo dõi. Trong thế kỷ XI, một hoàng đế nhà Tống nhận ra rằng các thành quách có tường thành đầy trang nhã của Trung Quốc đã trở nên quá nhiều khiến Bắc Kinh không thể theo dõi hết, vì vậy ông đã dùng người dân địa phương để theo dõi các quan chức địa phương. Vài thập kỷ trước buổi bình minh của kỷ nguyên kỹ thuật số, Tưởng Giới Thạch đã sử dụng truyền thống tự theo dõi này, yêu cầu người dân theo dõi những người bất đồng chính kiến xung quanh họ, để các cuộc nổi dậy của những người cộng sản có thể bị dập tắt ngay từ trong trứng nước. Khi Mao lên nắm quyền, ông sắp xếp các thành phố thành những mạng lưới, biến mỗi ô vuông thành đơn vị vận hành độc lập, nơi các điệp viên địa phương luôn “để mắt đến” các hành vi phản cách mạng, dù tầm thường đến đâu. Trong đợt bùng phát virus corona ban đầu, các ứng dụng truyền thông xã hội của Trung Quốc đã quảng bá đường dây nóng để mọi người có thể báo cáo những người bị nghi ngờ đang che giấu các triệu chứng.
Tập đã sử dụng cụm từ 'đôi mắt tinh anh', với tất cả sự cộng hưởng lịch sử của nó, làm tên gọi cho các camera theo dõi được hỗ trợ bởi trí tuệ nhân tạo sẽ sớm lan rộng khắp Trung Quốc. Với trí tuệ nhân tạo, Tập có thể xây dựng bộ máy chuyên chế có năng lực đàn áp lớn nhất trong lịch sử, mà không cần đến nguồn nhân lực mà Mao từng cần để đưa thông tin về bất đồng chính kiến vào một chỗ tập trung duy nhất. Trong các công ty khởi nghiệp trong ngành trí tuệ nhân tạo nổi bật nhất Trung Quốc - SenseTime, CloudWalk, Megvii, Hikvision, iFlytek, Meiya Pico - Tập đã tìm được các đối tác thương mại luôn sẵn sàng. Và ở vùng của người thiểu số theo đạo Hồi giáo tại Tân Cương, ông đã tìm thấy một lượng dân cư của mình để tiến hành thử nghiệm.
ĐCSTQ từ lâu đã nghi ngờ tôn giáo, và không chỉ do ảnh hưởng của chủ nghĩa Mác. Chỉ một thế kỷ rưỡi trước - vốn chỉ là ‘ngày hôm qua’ trong trong ký ức của một nền văn minh 5.000 năm tuổi - Hồng Tú Toàn, một nhà thần bí bán-Thiên chúa giáo được các nhà truyền giáo phương Tây cải đạo, đã phát động Cuộc nổi dậy Nghĩa Hòa Đoàn, một chiến dịch khải huyền kéo dài 14 năm vốn có thể đã giết chết nhiều người hơn cuộc Đại chiến Thế giới lần thứ Nhất. Ngày nay, trong hệ thống chính trị độc đảng của Trung Quốc, tôn giáo là nguồn thay thế của quyền lực độc tài tối thượng, có nghĩa là nó phải cùng hợp tác với chính quyền hoặc bị tiêu diệt.
Đến năm 2009, người Duy Ngô Nhĩ ở Trung Quốc đã trở nên mệt mỏi sau nhiều thập kỷ bị phân biệt đối xử và bị tịch thu đất đai. Họ phát động các cuộc biểu tình của quần chúng và nhiều vụ tấn công liều chết nhằm vào cảnh sát Trung Quốc. Năm 2014, Tập đã thẳng tay đàn áp, chỉ đạo chính quyền Khu tự trị Tân Cương phá hủy các nhà thờ Hồi giáo và biến các khu dân cư của người Duy Ngô Nhĩ thành đống đổ nát. Hơn 1 triệu người Duy Ngô Nhĩ đã bị đẩy vào các trại tập trung. Nhiều người bị tra tấn và phải lao động cưỡng bức.
Những người Duy Ngô Nhĩ được tha khỏi các trại tập trung hiện trở thành nhóm dân cư bị theo dõi đông đảo nhất trên Trái Đất. Không phải tất cả các biện pháp theo dõi đều là biện pháp kỹ thuật số. Chính quyền Trung Quốc đã chuyển hàng nghìn “anh chị em” người Hán đến sống tại các thành phố cổ đại từng nằm trên Con đường Tơ lụa tại Tân Cương, để theo dõi sự đồng hóa cưỡng bức của người Duy Ngô Nhĩ với văn hóa Trung Quốc chính thống. Họ dùng bữa với gia đình, và một số “anh cả” ngủ cùng giường với vợ của những người đàn ông Duy Ngô Nhĩ đang bị giam giữ.
Trong khi đó, các cảm biến tích hợp với hệ thống trí tuệ nhân tạo ẩn nấp ở khắp mọi nơi, kể cả trong ví và túi quần của người Duy Ngô Nhĩ. Theo nhà nhân chủng học Darren Byler, một số người Duy Ngô Nhĩ đã chôn điện thoại di động chứa tài liệu Hồi giáo, hoặc thậm chí giấu thẻ nhớ chứa dữ liệu của họ vào bánh bao để bảo vệ sự an toàn, khi chiến dịch diệt chủng về văn hóa của Tập đạt đến đỉnh điểm. Nhưng cảnh sát đã buộc họ phải cài đặt ứng dụng theo dõi trên điện thoại mới của họ. Các ứng dụng sử dụng các thuật toán để truy tìm “các virus ý thức hệ” cả ngày lẫn đêm. Họ có thể quét nhật ký trò chuyện để tìm các câu Kinh Cô-ran và tìm kiếm chữ Ả-rập trong các đoạn tin nhắn và các file hình ảnh khác.
Người Duy Ngô Nhĩ không thể sử dụng các kỹ thuật vượt tường lửa nào. Việc cài đặt VPN có thể dẫn tới một cuộc điều tra, vì vậy họ không thể tải xuống WhatsApp hoặc bất kỳ phần mềm trò chuyện mã hóa bị cấm nào khác. Mua thảm cầu nguyện trực tuyến, lưu trữ các bản sao kỹ thuật số của sách Hồi giáo và tải xuống các bài giảng từ một giáo sĩ yêu thích đều là những hoạt động đầy rủi ro. Nếu một người Duy Ngô Nhĩ sử dụng hệ thống thanh toán của WeChat để quyên góp cho nhà thờ Hồi giáo, các nhà chức trách có thể chú ý.
Nhiều ứng dụng theo dõi hoạt động song song với cảnh sát, những người kiểm tra điện thoại tại các trạm kiểm soát, kiểm tra nhanh các cuộc gọi và tin nhắn gần đây. Ngay cả một tổ hợp ký tự kỹ thuật số - ví dụ như một tin nhắn gửi cho một nhóm người vừa dự lễ tại một nhà thờ Hồi giáo nào đó - đều có thể dẫn đến việc người gửi tin giam giữ. Việc ngừng hoàn toàn các phương tiện truyền thông xã hội không phải là giải pháp, vì bản thân việc không hoạt động kỹ thuật số có thể làm dấy lên nghi ngờ. Cảnh sát được yêu cầu lưu ý khi người Duy Ngô Nhĩ đi chệch hướng khỏi bất kỳ kiểu hành vi bình thường nào của họ. Cơ sở dữ liệu của cảnh sát muốn biết liệu người Duy Ngô Nhĩ có bắt đầu rời nhà của họ qua cửa sau thay vì cửa trước hay không. Nó muốn biết liệu họ có dành ít thời gian nói chuyện với hàng xóm hơn trước đây hay không. Việc sử dụng điện được theo dõi bởi một thuật toán phát hiện sự sử dụng bất thường, điều này có thể chỉ ra một cư dân chưa đăng ký điện thoại với cảnh sát.
Người Duy Ngô Nhĩ chỉ có thể đi vài dãy nhà trước khi gặp một trạm kiểm soát được trang bị một trong hàng trăm nghìn camera theo dõi của Tân Cương. Cảnh quay từ camera được xử lý bằng thuật toán khớp khuôn mặt với ảnh chụp nhanh do cảnh sát chụp khi “kiểm tra sức khỏe”. Tại các cuộc kiểm tra này, cảnh sát trích xuất tất cả dữ liệu họ có thể có từ cơ thể của người Duy Ngô Nhĩ. Họ đo chiều cao và lấy mẫu máu. Họ ghi lại giọng nói và quét ADN. Một số người Duy Ngô Nhĩ thậm chí còn bị buộc phải tham gia vào các thí nghiệm khai thác dữ liệu di truyền, để xem cách ADN của người Duy Ngô Nhĩ tạo ra sự khác biệt của cằm và tai như thế nào so với người Hán. Cảnh sát có thể sẽ lấy đại dịch làm cái cớ để lấy thêm dữ liệu từ các thi thể người Duy Ngô Nhĩ.
Phụ nữ Duy Ngô Nhĩ cũng phải chịu khó khám thai. Một số bị buộc phải phá thai hoặc đặt vòng tránh thai. Những người phụ nữ khác bị nhà nước ép triệt sản. Người ta biết rằng cảnh sát đã tách trẻ em một cách trái phép ra khỏi cha mẹ của chúng, những người sau đó bị giam giữ. Các biện pháp như vậy đã làm giảm tỷ lệ sinh ở một số vùng của Tân Cương xuống hơn 60% trong ba năm.
Khi người Duy Ngô Nhĩ đến rìa khu phố của họ, một hệ thống tự động sẽ ghi nhận. Hệ thống tương tự theo dõi họ khi họ di chuyển qua các trạm kiểm soát nhỏ hơn, tại ngân hàng, công viên và trường học. Khi họ bơm xăng, hệ thống có thể xác định xem họ có phải là chủ xe hay không. Tại đường vành đai của thành phố, họ buộc phải bước ra khỏi ô-tô của mình, vì vậy khuôn mặt và thẻ căn cước của họ có thể được chụp tự động một lần nữa.
Nhiều người Duy Ngô Nhĩ đã bị tịch thu hộ chiếu. Những người Duy Ngô Nhĩ may mắn đang ở nước ngoài được khuyên nên nhanh chóng trở về. Nếu họ không làm như vậy, cảnh sát thẩm vấn được cử đến nhà người thân và bạn bè của họ. Ra nước ngoài hoàn toàn không phải là lối thoát. Trong một cái nhìn lạnh lùng về cách một khối các quốc độc tài trong tương lai có thể vận hành, các đồng minh mạnh mẽ của Tập - ngay cả những người ở các quốc gia đa số theo đạo Hồi như Ai Cập - đã rất vui vẻ khi bắt giữ và trục xuất người Duy Ngô Nhĩ trở về nhà tù lộ thiên là Tân Cương.
*
TẬP DƯỜNG NHƯ ĐÃ SỬ DỤNG Tân Cương như một phòng thí nghiệm để tinh chỉnh các cảm biến và các năng lực phân tích của ‘nhà tù tròn kỹ thuật số’ mới của mình trước khi mở rộng phạm vi hoạt động trên khắp đại lục Trung Quốc. CETC, công ty nhà nước xây dựng phần lớn hệ thống theo dõi của Tân Cương, hiện đang tự hào về các dự án thử nghiệm ở Chiết Giang, Quảng Đông và Thâm Quyến. Theo công ty này, những điều này nhằm tạo “nền tảng vững chắc cho việc triển khai trên toàn quốc” và chúng chỉ đại diện cho một phần của mạng lưới công nghệ theo dõi con người đang kết nối lại với nhau tại Trung Quốc.
Trung Quốc là bối cảnh lý tưởng cho một cuộc thử nghiệm theo dõi toàn diện. Người dân của họ dành lượng thời gian khổng lồ để vào trên mạng Internet. Đất nước này có hơn 1 tỷ điện thoại di động, tất cả đều chứa đầy các cảm biến phức tạp. Mỗi truy vấn ghi lại các lệnh tìm kiếm trên công cụ tìm kiếm, các trang web đã truy cập và các lượt thanh toán qua điện thoại di động, vốn phổ biến ở khắp nơi. Khi tôi sử dụng thẻ tín dụng gắn chip để mua cà phê ở khu phố Sanlitun sành điệu của Bắc Kinh, mọi người nhìn tôi chằm chằm như thể tôi đang viết séc.
Tất cả các điểm dữ liệu này có thể được đánh dấu thời gian và gắn thẻ vị trí. Và bởi vì một quy định mới yêu cầu các công ty viễn thông phải quét khuôn mặt của bất kỳ ai đăng ký dịch vụ điện thoại di động, dữ liệu của điện thoại giờ đây có thể được gắn vào khuôn mặt của một người cụ thể. SenseTime, công ty đã giúp xây dựng trạng thái theo dõi tại Tân Cương, gần đây đã khoe khoang rằng phần mềm của họ có thể xác định khuôn mặt của những người đang đeo khẩu trang. Một công ty khác, Hanwang, tuyên bố rằng công nghệ nhận dạng khuôn mặt của họ có thể nhận ra khuôn mặt của người đeo khẩu trang chính xác đến 95%. Việc thu thập dữ liệu cá nhân của Trung Quốc thậm chí còn thu được từ những công dân chưa có điện thoại. Ở vùng nông thôn, dân làng đã xếp hàng để được các công ty tư nhân quét khuôn mặt từ nhiều góc độ để đổi lấy dụng cụ nấu nướng.
Cho đến gần đây, rất khó để tưởng tượng làm thế nào Trung Quốc có thể tích hợp tất cả những dữ liệu này vào một hệ thống theo dõi duy nhất, nhưng nay thì đã dễ tưởng tượng ra hơn nhiều. Vào năm 2018, một nhà hoạt động nhân quyền trong lĩnh vực an ninh mạng đã tấn công vào một hệ thống nhận dạng khuôn mặt có vẻ như được kết nối với chính phủ và đang tổng hợp một sự kết hợp đáng ngạc nhiên của các luồng dữ liệu. Hệ thống có khả năng phát hiện người Duy Ngô Nhĩ theo đặc điểm dân tộc của họ và nó có thể biết được mắt hay miệng của người đó đang mở hay đóng, họ có đang cười không, họ có để râu hay không và họ có đeo kính râm hay không. Nó ghi lại ngày, giờ và số sê-ri - tất cả đều có thể theo dõi được đối với người dùng cá nhân - của những điện thoại hỗ trợ Wi-Fi đã đi qua trong tầm phủ sóng của nó. Nó được tổ chức bởi Alibaba và tham chiếu đến City Brain, một nền tảng phần mềm được hỗ trợ bởi trí tuệ nhân tạo mà Chính quyền Trung Quốc đã giao nhiệm vụ cho công ty này xây dựng.
City Brain, như tên gọi cho thấy, là một loại trung tâm thần kinh tự động, có khả năng tổng hợp các luồng dữ liệu từ vô số cảm biến được phân bố khắp không gianđô thị. Nhiều ứng dụng được đề xuất của nó là các chức năng kỹ trị tốt đẹp. Ví dụ, các thuật toán của nó có thể đếm số người và ô-tô, để giúp tính thời gian đèn đỏ và lập kế hoạch tuyến tàu điện ngầm. Dữ liệu từ các thùng rác chứa đầy cảm biến có thể giúp việc thu gom rác thải kịp thời và hiệu quả hơn.
Nhưng City Brain và các công nghệ kế nhiệm của nó cũng sẽ cho phép các hình thức theo dõi tích hợp mới. Một số trong số này sẽ nhận được sự ủng hộ rộng rãi của công chúng: City Brain có thể được huấn luyện để phát hiện những đứa trẻ bị lạc, hoặc hành lý bị thất lạc của du khách hoặc của những kẻ khủng bố. Nó có thể đánh dấu những người đi cướp, hoặc những người vô gia cư, hoặc những kẻ bạo loạn. Bất kỳ ai trong bất kỳ loại nguy hiểm nào đều có thể kêu gọi sự giúp đỡ bằng cách vẫy tay theo một cách đặc biệt mà thị giác máy tính luôn cảnh giác sẽ nhận ra ngay lập tức. Các cảnh sát viên đeo tai nghe có thể được trợ lý giọng nói dựa trên trí tuệ nhân tạo hướng dẫn đến hiện trường.
City Brain sẽ đặc biệt hữu ích trong một trận đại dịch. (Một trong những công ty chị em của Alibaba đã tạo ra ứng dụng mã hóa màu sắc nguy cơ mắc bệnh của công dân, đồng thời âm thầm gửi dữ liệu du lịch và sức khỏe của họ cho cảnh sát.) Khi dịch bệnh bùng phát ở Bắc Kinh, một số trung tâm thương mại và nhà hàng trong thành phố bắt đầu quét điện thoại của khách hàng tiềm năng, kéo dữ liệu từ các nhà cung cấp dịch vụ di động để xem liệu họ đã đi du lịch gần đây hay chưa. Các nhà cung cấp dịch vụ di động cũng gửi cho chính quyền các thành phố danh sách những người đã đến thành phố của họ từ Vũ Hán, nơi virus corona lần đầu tiên được phát hiện. Và các công ty trí tuệ nhân tạo của Trung Quốc đã bắt đầu sản xuất mũ bảo hiểm nhận dạng khuôn mặt được nối mạng tới cảnh sát, với thiết bị hồng ngoại tích hợp nhằm phát hiện xem họ có đang bị sốt hay không, để gửi dữ liệu cho chính quyền. City Brain có thể tự động hóa các quy trình này hoặc tích hợp các luồng dữ liệu của nó.
Ngay cả những hệ thống trí tuệ nhân tạo phức tạp nhất của Trung Quốc vẫn còn rất mỏng manh. City Brain vẫn chưa tích hợp đầy đủ các khả năng theo dõi của mình và các hệ thống trước của nó đã gặp phải một số vấn đề về hiệu suất đáng xấu hổ: Vào năm 2018, một trong những camera được hỗ trợ bởi trí tuệ nhân tạo của chính quyền đã nhầm một khuôn mặt vẽ trên thành xe bus thành một người đi bộ. Nhưng phần mềm ngày càng tốt hơn, và không có lý do kỹ thuật nào để nó không thể được triển khai trên quy mô lớn.
Các luồng dữ liệu có thể được đưa vào một hệ thống giống như City Brain về cơ bản là không giới hạn. Ngoài các cảnh quay từ 1,9 triệu camera nhận dạng khuôn mặt mà công ty viễn thông Trung Quốc China Tower hợp tác với SenseTime lắp đặt, City Brain có thể thu nhận nguồn cấp dữ liệu từ các camera gắn trên cột đèn và treo trên các góc phố. Nó có thể sử dụng các camera mà cảnh sát Trung Quốc giấu trong mũ giao thông và những camera được gắn cho các sĩ quan, cả sĩ quan mặc quân phục lẫn sĩ quan mặc thường phục. Nhà nước có thể buộc các nhà bán lẻ cung cấp dữ liệu từ camera tại cửa hàng, hiện có thể phát hiện hướng nhìn của người mua hàng vào giá đựng hàng hóa, và có thể sớm nhìn thấy các góc xung quanh bằng cách đọc bóng của người mua hàng. Chỉ có những không gian công cộng nhỏ mới không bị theo dõi.
Các sở cảnh sát của Hoa Kỳ đã bắt đầu tận dụng các cảnh quay từ camera an ninh gia đình của Amazon. Trong các cách ứng dụng mang tính cá nhân hơn, những chiếc camera này tô điểm cho chuông cửa, nhưng nhiều chiếc cũng nhắm vào nhà hàng xóm. Chính quyền Trung Quốc có thể thu thập cảnh quay từ các sản phẩm tương đương của Trung Quốc. Họ có thể khai thác các camera gắn trên ô-tô dùng chung hoặc các phương tiện tự lái sắp thay thế chúng: Các phương tiện tự động sẽ được bao phủ bởi một loạt cảm biến, bao gồm một số cảm biến sẽ thu nhận thông tin phong phú hơn nhiều so với video 2-D. Dữ liệu từ một tập hợp khổng lồ các cảm biến có thể được kết hợp với nhau và được bổ sung bởi các luồng City Brain khác, để tạo ra mô hình 3-D của thành phố được cập nhật từng giây. Mỗi lần làm mới có thể ghi lại vị trí của tất cả mọi người trong mô hình. Một hệ thống như vậy sẽ ưu tiên các khuôn mặt không xác định, có lẽ bằng cách gửi các nhóm máy bay không người lái đến vị trí của khuôn mặt không xác định đó để đảm bảo thu thập đầy đủ dữ liệu.
Dữ liệu của mô hình có thể được đồng bộ hóa theo thời gian với âm thanh từ bất kỳ thiết bị nối mạng nào có micrô, bao gồm loa thông minh, đồng hồ thông minh và các thiết bị Internet Vạn vật ít rõ ràng hơn như nệm thông minh, tã thông minh và đồ chơi tình dục thông minh. Tất cả các nguồn này có thể kết hợp thành một hỗn hợp âm thanh đa kênh, theo vị trí cụ thể có thể được phân tích cú pháp bằng các thuật toán đa âm thanh có khả năng diễn giải các từ được nói bằng hàng nghìn thứ tiếng. Sự kết hợp này sẽ hữu ích cho các nghiệp vụ an ninh, đặc biệt là ở những nơi không có camera: iFlytek của Trung Quốc đang hoàn thiện một công nghệ có thể nhận dạng các cá nhân bằng “giọng nói” của họ.
Trong những thập kỷ tới, City Brain hoặc các hệ thống kế nhiệm của nó thậm chí có thể đọc được những suy nghĩ không thành lời. Máy bay không người lái đã có thể được điều khiển bởi mũ bảo hiểm có khả năng cảm nhận và truyền tín hiệu thần kinh, và các nhà nghiên cứu hiện đang thiết kế giao diện não-máy tính vượt xa tính năng tự động điền, cho phép bạn nhập dữ liệu chỉ bằng cách suy nghĩ. Một nhà nước độc tài có đủ quyền lực xử lý có thể buộc các nhà sản xuất phần mềm đó phải cung cấp mọi hoạt động thần kinh của người dân vào cơ sở dữ liệu của chính phủ. Trung Quốc gần đây đã thúc đẩy người dân tải xuống và sử dụng một ứng dụng tuyên truyền. Chính phủ có thể sử dụng phần mềm theo dõi cảm xúc để theo dõi phản ứng với một kích thích chính trị trong một ứng dụng. Phản hồi im lặng, bị kiềm chế đối với đoạn văn bản hoặc đoạn clip từ bài phát biểu của Tập sẽ là một điểm dữ liệu có ý nghĩa đối với thuật toán được dùng để đưa ra dự báo.
Tất cả các nguồn cấp dữ liệu trên mặt đất được đồng bộ hóa theo thời gian này có thể được bổ sung bằng cảnh quay từ máy bay không người lái, có camera có khả năng chụp những bức ảnh với hàng tỷ điểm ảnh để có thể ghi lại toàn bộ cảnh quan thành phố ở dạng chi tiết và trong suốt như pha-lê, có thể cho phép đọc biển số xe và nhận dạng dáng đi. Các máy bay không người lái, “chim gián điệp”, đã sà xuống và bay vòng quanh các thành phố của Trung Quốc, ngụy trang thành chim bồ câu. Nguồn cấp dữ liệu của City Brain có thể được tổng hợp với dữ liệu từ các hệ thống ở các khu vực đô thị khác, để tạo thành một ghi chép đa chiều theo thời gian thực về gần như tất cả hoạt động của con người ở Trung Quốc. Các trang trại máy chủ trên khắp Trung Quốc sẽ sớm có thể lưu giữ nhiều góc độ trong bộ phim có độ phân giải cao về mọi khoảnh khắc trong cuộc sống của mỗi người Trung Quốc.
Điều quan trọng cần nhấn mạnh là các hệ thống thuộc phạm vi này vẫn đang được phát triển. Hầu hết dữ liệu cá nhân của Trung Quốc vẫn chưa được tích hợp với nhau, ngay cả trong các công ty riêng lẻ. Chính quyền Trung Quốc cũng không có một kho dữ liệu tổng hợp, một phần là do sự xung đột giữa giữa các cơ quan trong chính quyền. Nhưng không có rào cản chính trị cứng rắn nào đối với việc tích hợp tất cả các dữ liệu này, đặc biệt là đối với việc sử dụng cho an ninh của nhà nước. Ngược lại, theo quy chế chính thức, các công ty tư nhân buộc phải hỗ trợ các nghiệp vụ tình báo của Trung Quốc.
Chính phủ có thể sớm có một hồ sơ dữ liệu phong phú, tự động thu thập cho toàn bộ gần 1,4 tỷ công dân của mình. Mỗi hồ sơ sẽ bao gồm hàng triệu điểm dữ liệu, bao gồm mọi lần xuất hiện của người đó trong không gian được khảo sát, cũng như tất cả các giao tiếp và mua hàng của họ. Nguy cơ đe dọa của họ đối với quyền lực của ĐCSTQ có thể được cập nhật liên tục theo thời gian thực, với điểm số chi tiết hơn so với điểm được sử dụng trong các kế hoạch chấm điểm “tín nhiệm xã hội” mang tính thí điểm của Trung Quốc, vốn đã nhằm mang lại cho mọi công dân điểm uy tín xã hội công cộng dựa trên những thứ như các kết nối với những nền tảng truyền thông xã hội và thói quen mua hàng. Các thuật toán có thể theo dõi điểm số dữ liệu kỹ thuật số của họ, cùng với những người khác, liên tục, mà không bao giờ có cảm giác mệt mỏi của các sĩ quan mật vụ của phát-xít Đức mỗi khi phải làm việc tăng ca. Những hành động tích cực giả - coi ai đó là mối đe dọa cho hành vi vô thưởng vô phạt - sẽ được khuyến khích, để tăng hiệu ứng làm lạnh tích hợp sẵn của hệ thống, để họ hướng con mắt sắc bén về hành vi của chính mình, để tránh sự bất đồng quan điểm dù là nhỏ nhất.
Nếu yếu tố rủi ro của họ dao động theo xu hướng tăng - cho dù do một số kiểu di chuyển đáng ngờ, các mối quan hệ xã hội của họ, sự chú ý của họ không đầy đủ đến một ứng dụng tuyên truyền, hoặc một số mối tương quan mà chỉ có trí tuệ nhân tạo mới có thể biết đươc - một hệ thống hoàn toàn tự động có thể hạn chế sự di chuyển của họ. Nó có thể ngăn họ mua vé máy bay hoặc vé tàu hỏa. Nó có thể không cho phép họ đi qua các trạm kiểm soát. Nó có thể điều khiển từ xa “ổ khóa thông minh” trong không gian công cộng hoặc không gian riêng tư, để nhốt họ cho đến khi lực lượng an ninh đến.
*
TRONG NHỮNG NĂM GẦN ĐÂY, một số thành viên trong giới trí thức Trung Quốc đã lên tiếng cảnh báo về việc trí tuệ nhân tạo bị lạm dụng, đáng chú ý nhất là nhà khoa học máy tính Tăng Nghị và nhà triết học Triệu Thinh Dương. Vào mùa Xuân năm 2019, Tăng đã xuất bản “Các nguyên tắc về trí tuệ nhân tạo ở Bắc Kinh”, một tuyên ngôn về nguy cơ trí tuệ nhân tạo can thiệp vào quyền tự chủ, nhân phẩm, quyền riêng tư và một loạt các giá trị khác của con người.
Tăng là người mà tôi muốn đến thăm tại Viện Tự động hóa Bắc Kinh, nơi mà, ngoài nghiên cứu về đạo đức trong trí tuệ nhân tạo, anh còn là Phó Giám đốc của Trung tâm Nghiên cứu Trí tuệ Mô phỏng Não bộ. Anh tìm thấy tôi ở tiền sảnh. Tăng trông trẻ so với tuổi 37, với đôi mắt nhân hậu và thân hình rắn chắc nhưng trông thon gọn nhờ quần thể thao màu đen và áo khoác trùm đầu.
Trên đường đến văn phòng của Tăng, chúng tôi đi ngang qua một trong các phòng thí nghiệm của anh, nơi một trợ lý nghiên cứu lướt qua kính hiển vi, xem các tín hiệu điện hóa nhấp nháy liên kết các nơ-ron với nhau qua mô não chuột. Chúng tôi ngồi xuống một chiếc bàn dài trong phòng họp liền kề với văn phòng anh, ngắm nhìn khung cảnh thành phố xám xịt, mờ sương trong khi trợ lý của anh pha trà.
Tôi hỏi Tăng về việc “Các nguyên tắc về trí tuệ nhân tạo của Bắc Kinh” đã được tiếp nhận như thế nào. Anh trả lời: “Mọi người nói, ‘Đây chỉ là một vở diễn chính thức của chính quyền Bắc Kinh’. Nhưng đây là công việc của đời tôi.”
Tăng đã nói một cách thoải mái về những lạm dụng tiềm ẩn của trí tuệ nhân tạo. Anh đề cập đến một dự án được triển khai cho một nhóm các trường học ở Trung Quốc, nơi tính năng nhận dạng khuôn mặt được sử dụng để theo dõi không chỉ việc đi học hay vắng mặt của học sinh mà còn xem từng học sinh có chú ý hay không. "Tôi ghét phần mềm đó,” Tăng nói. ”Tôi phải dùng từ đó: ghét.”
Anh đã nói tiếp một lúc, liệt kê nhiều ứng dụng phi đạo đức khác nhau của trí tuệ nhân tạo. “Tôi đã dạy một khóa học về triết lý về trí tuệ nhân tạo,” anh nói. ”Tôi nói với các học sinh của mình rằng tôi hy vọng không ai trong số các em dính líu đến những con robot giết người. Các em chỉ có một quãng thời gian ngắn ngủi sống trên Trái Đất. Có nhiều điều khác các em họ có thể làm với tương lai của mình”.
Tăng biết rõ rằng các tài liệu hàn lâm về đạo đức công nghệ thật khô khan. Nhưng khi tôi hỏi anh về hiệu quả chính trị của công việc của mình, câu trả lời của anh ấy kém thuyết phục hơn. Anh nói: “Nhiều kỹ thuật viên trong chúng tôi đã được mời đến nói chuyện với chính quyền, và thậm chí với Tập Cận Bình về những rủi ro tiềm ẩn của trí tuệ nhân tạo. Nhưng chính quyền vẫn đang trong giai đoạn học hỏi, giống như các chính quyền khác trên toàn thế giới.”
“Anh có điều gì mạnh hơn quy trình tham vấn đó không?” Tôi hỏi. ”Giả sử có những lúc chính phủ có những lợi ích mâu thuẫn với các nguyên tắc của anh. Anh đang dựa vào cơ chế nào để giành chiến thắng? “
“Cá nhân tôi, vẫn đang trong giai đoạn học hỏi về vấn đề đó,” Tăng nói.
Các công ty khởi nghiệp trong ngành trí tuệ nhân tạo của Trung Quốc gần như không bận tâm lắm. Một số đang giúp Tập phát triển trí tuệ nhân tạo cho mục đích theo dõi một cách rõ ràng. Sự kết hợp giữa chế độ độc đảng của Trung Quốc và dư lượng tư tưởng của kế hoạch hóa tập trung khiến giới tinh hoa trong ĐCSTQ vẫn đầy quyền lực trong mọi lĩnh vực, đặc biệt là kinh tế. Nhưng trước đây, mối liên hệ giữa chính quyền và ngành công nghiệp công nghệ rất kín đáo. Gần đây, Chính quyền Trung Quốc bắt đầu phân công đại diện cho các công ty công nghệ, để tăng cường các chi bộ Đảng Cộng sản tồn tại trong các công ty tư nhân lớn.
Bán công nghệ cho các cơ quan an ninh của nhà nước là một trong những cách nhanh nhất để các công ty khởi nghiệp trong ngành trí tuệ nhân tạo của Trung Quốc thu lợi nhuận. Một công ty viễn thông quốc gia là cổ đông lớn nhất của iFlytek, gã khổng lồ về nhận dạng giọng nói của Trung Quốc. Sự hợp lực là rất nhiều: Khi cảnh sát sử dụng phần mềm của iFlytek để theo dõi các cuộc điện thoại, các tờ báo quốc doanh đã đưa tin ủng hộ. Đầu năm nay, ứng dụng tin tức được cá nhân hóa Toutiao đã đi xa hơn khi viết lại sứ mệnh của mình để nêu rõ một mục tiêu sống động mới: điều chỉnh dư luận với mong muốn của chính quyền. Từ Lập, CEO của SenseTime, gần đây đã mô tả chính phủ là “nguồn dữ liệu lớn nhất” của công ty ông.
Liệu bất kỳ dữ liệu cá nhân nào có thể được đảm bảo bảo vệ ở Trung Quốc hay không vẫn còn chưa rõ ràng, bởi cấu trúc chính trị của đất nước này. Cuộc cách mạng kỹ thuật số đã khiến cho việc độc quyền dữ liệu trở nên khó tránh khỏi. Ngay cả ở Hoa Kỳ, nơi có truyền thống thực thi chống độc quyền đầy tinh vi, công dân vẫn chưa huy động ý chí đủ mức để buộc thông tin phải thuộc về đa số chứ không phải sở hữ của một số ít kẻ mạnh. Nhưng các công ty độc quyền về dữ liệu tư nhân ít nhất phải tuân theo quyền lực chủ quyền của các quốc gia nơi họ hoạt động. Độc quyền dữ liệu của một quốc gia-nhà nước chỉ có thể được ngăn chặn bởi người dân của họ và chỉ khi họ có đủ quyền lực chính trị.
Người dân Trung Quốc không thể sử dụng một cuộc bầu cử để loại bỏ Tập. Và không có cơ quan tư pháp độc lập, chính quyền có thể đưa ra lập luận, dù căng thẳng đến đâu, rằng họ phải sở hữu bất kỳ luồng thông tin nào, miễn là các mối đe dọa đối với “sự ổn định” có thể được phát hiện trong số các điểm dữ liệu. Hoặc nó có thể yêu cầu dữ liệu từ các công ty đã đóng cửa, như đã xảy ra trong đợt bùng phát virus corona đầu tiên. Không có báo chí độc lập nào để đưa tin về những yêu cầu này.
Mỗi khi khuôn mặt của một người được nhận dạng, giọng nói của họ được ghi lại hoặc tin nhắn văn bản của họ bị chặn, thông tin này có thể được đính kèm ngay lập tức vào số căn cước công dân, hồ sơ của cảnh sát, tờ khai thuế, hồ sơ tài sản và lịch sử việc làm của họ. Nó có thể được đối chiếu chéo với hồ sơ y tế và ADN họ, khi mà cảnh sát Trung Quốc tự hào rằng họ có bộ sưu tập lớn nhất thế giới.
*
TĂNG VÀ TÔI đã nói tới một kịch bản toàn cầu đã bắt đầu khiến các nhà đạo đức học về trí tuệ nhân tạo và những người theo dõi Trung Quốc phải lo lắng. Trong trường hợp này, hầu hết các nhà nghiên cứu trí tuệ nhân tạo trên khắp thế giới đều nhận ra những rủi ro của công nghệ đối với nhân loại và phát triển các quy chuẩn mạnh mẽ xung quanh việc sử dụng nó. Tất cả ngoại trừ Trung Quốc, nơi gây ồn ào đúng đắn về đạo đức trong trí tuệ nhân tạo, nhưng chỉ là vỏ bọc. Trong khi đó, quốc gia này xây dựng các hệ thống theo dõi quốc gia hoàn thiện và bán chúng cho những nơi mà nền dân chủ còn mong manh hoặc không tồn tại. Những kẻ chuyên quyền trên thế giới thường bị đánh gục bởi các cuộc đảo chính hoặc các cuộc biểu tình của quần chúng, cả hai đều đòi hỏi một tổ chức chính trị cơ bản. Nhưng tổ chức chính trị quy mô lớn có thể chứng minh là không thể trong các xã hội bị theo dõi tự động tràn lan.
Tăng bày tỏ lo lắng về viễn cảnh này, nhưng anh không đề cập cụ thể đến Trung Quốc. Anh không cần phải làm thế: Quốc gia này hiện là nhà bán thiết bị theo dõi được hỗ trợ bởi trí tuệ nhân tạo hàng đầu thế giới. Tại Malaysia, chính phủ đang làm việc với Yitu, một công ty khởi nghiệp về trí tuệ nhân tạo của Trung Quốc, để trang bị công nghệ nhận dạng khuôn mặt cho cảnh sát Kuala Lumpur như một sự bổ sung cho nền tảng City Brain của Alibaba. Các công ty Trung Quốc cũng đấu thầu để trang bị cho Singapore 110.000 cột đèn có camera nhận dạng khuôn mặt.
Tại Nam Á, Chính quyền Trung Quốc đã cung cấp thiết bị theo dõi cho Sri Lanka. Trên Con đường Tơ lụa cũ, công ty Dahua của Trung Quốc đang rải khắp các đường phố ở thủ đô Mông Cổ bằng các camera theo dõi có sự hỗ trợ của trí tuệ nhân tạo. Xa hơn về phía Tây, ở Serbia, Huawei đang giúp thiết lập một “hệ thống thành phố an toàn” hoàn chỉnh với camera nhận dạng khuôn mặt và các cuộc tuần tra chung do cảnh sát Serbia và Trung Quốc thực hiện nhằm giúp khách du lịch Trung Quốc cảm thấy an toàn.
Vào những năm đầu thế kỷ này, gã khổng lồ viễn thông Trung Quốc ZTE đã bán cho Ethiopia một mạng không dây với khả năng truy cập tích hợp bằng ‘cửa sau’ (backdoor access) dành cho chính quyền. Trong một cuộc đàn áp sau đó, những người bất đồng chính kiến bị vây bắt để thẩm vấn tàn bạo, trong đó họ buộc phải bật lại âm thanh từ các cuộc điện thoại gần đây mà họ đã gọi [để thử giọng nói]. Ngày nay, Kenya, Uganda và Mauritius đang trang bị cho các thành phố lớn của các quốc gia này những mạng lưới theo dõi do Trung Quốc sản xuất.
Tại Ai Cập, các nhà phát triển Trung Quốc đang tìm cách tài trợ cho việc xây dựng một thủ đô mới. Nó dự kiến sẽ chạy trên nền tảng “thành phố thông minh” tương tự như City Brain, mặc dù một nhà cung cấp vẫn chưa được nêu tên. Ở miền Nam châu Phi, Zambia đã đồng ý mua hơn 1 tỷ USD thiết bị viễn thông từ Trung Quốc, bao gồm cả công nghệ theo dõi Internet. Hikvision của Trung Quốc, nhà sản xuất camera theo dõi được hỗ trợ bởi trí tuệ nhân tạo lớn nhất thế giới, có văn phòng tại Johannesburg.
Michael Kratsios, Giám đốc công nghệ của Mỹ, nói với tôi rằng Trung Quốc sử dụng “việc cho vay trước khi bán thiết bị viễn thông với mức chiết khấu đáng kể cho các nước đang phát triển, điều này sau đó đặt Trung Quốc vào vị thế kiểm soát các mạng đó và dữ liệu của họ”. Khi các quốc gia cần tái cấp vốn cho các điều khoản của các khoản vay của họ, Trung Quốc có thể đưa quyền truy cập vào mạng của những quốc gia đó như là một phần của thỏa thuận, giống như cách mà quân đội của họ đảm bảo quyền neo đậu tại các cảng nước ngoài mà họ tài trợ. Kratsios nói: “Nếu bạn cho [Trung Quốc] quyền truy cập không được kiểm soát vào các mạng dữ liệu trên khắp thế giới, đó có thể là một vấn đề nghiêm trọng”.
Năm 2018, CloudWalk Technology, một công ty khởi nghiệp có trụ sở tại Quảng Châu, tách ra từ Viện Hàn lâm Khoa học Trung Quốc, đã ký một thỏa thuận với chính phủ Zimbabwe để thiết lập một mạng lưới theo dõi. Các điều khoản của nó yêu cầu Zambabwe gửi hình ảnh về cư dân của mình - một bộ dữ liệu phong phú, vì Zimbabwe đã hấp thụ các luồng di cư từ khắp các vùng cận Sahara ở châu Phi - trở lại các văn phòng Trung Quốc của CloudWalk, cho phép công ty tinh chỉnh khả năng nhận diện hình ảnh sẫm màu của phần mềm - các khuôn mặt của người da đen, mà trước đây đã được chứng minh là phức tạp đối với các thuật toán của nó.
Đã thiết lập các đầu tàu ở châu Á, châu Âu và châu Phi, các công ty trí tuệ nhân tạo của Trung Quốc hiện đang đẩy mạnh vào châu Mỹ Latinh, khu vực mà Chính quyền Trung Quốc mô tả là “lợi ích kinh tế cốt lõi”. Trung Quốc đã tài trợ cho Ecuador 240 triệu đô-la để mua một hệ thống camera theo dõi. Bolivia cũng đã mua thiết bị theo dõi với sự trợ giúp từ khoản vay từ Bắc Kinh. Venezuela gần đây đã ra mắt hệ thống thẻ căn cước công dân quốc gia mới để ghi lại các đảng phái chính trị của công dân trong cơ sở dữ liệu do ZTE xây dựng. Trong một tình huống trớ trêu, trong nhiều năm, các công ty Trung Quốc đã bày bán nhiều sản phẩm theo dõi này tại một hội chợ an ninh ở Tân Cương, quê hương của người Duy Ngô Nhĩ.
*
NẾU VƯỢT QUA HOA KỲ VỀ TRÍ TUỆ NHÂN TẠO , Trung Quốc sẽ trở thành một lực lượng địa chính trị mạnh mẽ hơn, đặc biệt là với tư cách là người xây dựng tiêu chuẩn của một liên minh độc tài mới.
Trung Quốc đã có một số bộ dữ liệu lớn nhất thế giới để cung cấp cho các hệ thống trí tuệ nhân tạo của họ, một lợi thế quan trọng cho các nhà nghiên cứu của họ. Trong các văn phòng khổng lồ ở các thành phố trên khắp đất nước, những người lao động lương thấp ngồi trên bàn dài hàng giờ đồng hồ, ghi chép các file âm thanh và phác thảo các đối tượng bằng hình ảnh, để làm cho dữ liệu do dân số đông đúc của Trung Quốc tạo ra hữu ích hơn. Nhưng để Trung Quốc trở thành quốc gia có hệ sinh thái về trí tuệ nhất tạo tốt nhất như của Hoa Kỳ, thì lượng dữ liệu khổng lồ của họ sẽ phải được sàng lọc bằng các thuật toán nhận dạng các mẫu vượt xa những gì con người nắm bắt được. Và ngay cả các giám đốc điều hành của công ty tìm kiếm khổng lồ Baidu của Trung Quốc cũng thừa nhận rằng các tài năng hàng đầu trong ngành trí tuệ nhân tạo đang sinh sống ở phương Tây.
Trong lịch sử, Trung Quốc đã phải vật lộn để giữ chân các ứng viên ưu tú, hầu hết trong số họ rời đi để theo học tại các khoa khoa học máy tính hàng đầu của Hoa Kỳ, trước khi làm việc tại các công ty thú vị hơn, có nguồn lực tốt hơn ở Thung lũng Silicon. Nhưng nó có thể đang thay đổi. Chính quyền Trump đã gây khó khăn cho sinh viên Trung Quốc học tập tại Hoa Kỳ và những người có khả năng bị nghi ngờ. Một nhà khoa học máy học hàng đầu tại Google gần đây đã mô tả các hạn chế về thị thực là “một trong những nút thắt lớn nhất đối với năng suất nghiên cứu tập thể của chúng tôi”.
Trong khi đó, các bộ phận khoa học máy tính của Trung Quốc đã dốc hết sức vào trí tuệ nhân tạo. Ba trong số 10 trường đại học về trí tuệ nhân tạo hàng đầu thế giới, xét về khối lượng nghiên cứu mà họ xuất bản, hiện nằm ở Trung Quốc. Và đó là trước khi đất nước hoàn thành việc xây dựng 50 trung tâm nghiên cứu trí tuệ nhân tạo mới theo yêu cầu của “Kế hoạch hành động đổi mới về trí tuệ nhân tạo cho các tổ chức giáo dục đại học” của Tập. Trong năm 2017, các công ty Trung Quốc đã thu hút 36% vốn đầu tư tư nhân toàn cầu vào ngành trí tuệ nhân tạo, tăng từ chỉ 3% vào năm 2015. Các kỹ sư tài năng của Trung Quốc có thể đi học ở trong nước và làm việc cho một công ty toàn cầu của Trung Quốc, như TikTok, sau khi tốt nghiệp.
Trung Quốc vẫn sẽ tụt hậu so với Mỹ về phần cứng máy tính trong thời gian tới. Giống như dữ liệu phải được xử lý bằng các thuật toán để trở nên hữu ích, các thuật toán phải được khởi tạo trong các tầng vật lý - cụ thể là trong các phần bên trong của các vi mạch. Các cấu trúc silicon mảnh như tơ nhện này phức tạp đến mức một vài nguyên tử bị thiếu có thể định tuyến lại các xung điện thông qua các công tắc nơ-ron của con chip. Những con chip tinh vi nhất được cho là những vật thể phức tạp nhất mà con người chế tạo ra. Chúng chắc chắn quá phức tạp để có thể nhanh chóng bị tách ra và thiết kế ngược lại bởi các gián điệp công nghệ vốn luôn được tán dương của Trung Quốc.
Các công ty Trung Quốc vẫn chưa thể xây dựng những phòng chế tạo chip tốt nhất, vốn tiêu tốn hàng tỷ đô-la và dựa trên nhiều thập kỷ tích lũy kiến thức tập thể trong nhiều ngành. Được làm mát bằng nitơ và cách ly địa chấn, để ngăn tiếng ồn của một chiếc xe tải chạy qua làm hỏng vi mạch trong ống nghiệm, những căn phòng tự động này cũng tuyệt vời không kém gì những tấm silicon thành phẩm của chúng. Và những nơi sản tốt nhất vẫn chủ yếu ở Hoa Kỳ, Tây Âu, Nhật Bản, Hàn Quốc và Đài Loan.
Chính phủ Hoa Kỳ vẫn có thể hạn chế phần cứng chảy vào Trung Quốc, một tình trạng khiến Đảng Cộng sản phẫn nộ. Khi chính quyền Trump cấm bán vi mạch cho ZTE vào tháng 4/2018, Frank Long, nhà phân tích chuyên về lĩnh vực trí tuệ nhân tạo của Trung Quốc, mô tả đây là lời cảnh tỉnh đối với Trung Quốc ngang bằng với kinh nghiệm của Hoa Kỳ về lệnh cấm vận dầu mỏ Ả-Rập.
Nhưng cuộc cách mạng trí tuệ nhân tạo đã mang đến cho Trung Quốc một cơ hội đi tắt đón đầu hiếm có. Cho đến gần đây, hầu hết các chip được thiết kế với kiến trúc linh hoạt cho phép thực hiện nhiều loại hoạt động tính toán. Nhưng trí tuệ nhân tạo chạy nhanh nhất trên các chip tùy chỉnh, giống như những chip mà Google sử dụng cho điện toán đám mây của mình để phát hiện ngay khuôn mặt của con gái bạn trong hàng nghìn bức ảnh. (Apple thực hiện nhiều thao tác này trên iPhone bằng chip tùy chỉnh vận hành kiểu neuron người). Vì mọi người đều lần đầu tiên sản xuất các chip tùy chỉnh này nên Trung Quốc cũng không kém xa: Baidu và Alibaba đang chế tạo chip tùy chỉnh cho phương pháp ‘học sâu’ (deep learning). Và vào tháng 8 năm 2019, Huawei đã tiết lộ một con chip ‘học máy’ di động. Thiết kế của nó đến từ Cambricon, có lẽ là công ty khởi nghiệp có giá trị nhất trong ngành sản xuất chip toàn cầu, được thành lập bởi các đồng nghiệp của Tăng tại Viện Hàn lâm Khoa học Trung Quốc.
Đến năm 2030, Trung Quốc có thể thống trị về trí tuệ nhân tạo Đất nước này có thể sẽ có nền kinh tế lớn nhất thế giới, và sẽ có những khoản chi mới dành cho các ứng dụng về trí tuệ nhân tạo trong quân đội của mình. Nó có thể có nhiều máy bay không người lái tinh vi nhất. Nó có thể có các hệ thống vũ khí tự động có thể dự báo hành động của kẻ thù sau một thời gian ngắn tiếp xúc với chiến trường và đưa ra các quyết định trên chiến trường nhanh hơn nhiều so với nhận thức của con người. Các thuật toán phát hiện tên lửa của nó có thể làm mất lợi thế hạt nhân của cuộc tấn công đầu tiên của Hoa Kỳ. Trí tuệ nhân tạo có thể làm đảo lộn cán cân quyền lực toàn cầu.
*
TRÊN ĐƯỜNG RỜI Viện Tự động hóa, Tăng đưa tôi đi tham quan phòng thí nghiệm chế tạo robot của anh. Trong căn phòng có trần cao, các sinh viên đang nghịch ngợm với một cánh tay kim loại khổng lồ quái dị và một robot hình người nhỏ được bọc trong một bộ xương ngoài màu xám trong khi Tăng kể cho tôi nghe về công việc của anh ấy làm mô hình não. Anh nói rằng hiểu cấu trúc của bộ não là cách chắc chắn nhất để hiểu bản chất của trí thông minh.
Tôi đã hỏi Tăng rằng tương lai của trí tuệ nhân tạo sẽ mở ra như thế nào. Anh nói rằng mình có thể tưởng tượng phần mềm được mô hình hóa mô phỏng bộ não sẽ đạt được một loạt khả năng. Anh nói rằng nó có thể đạt được một số cảm giác tự nhận ra, và sau đó từ từ nhận thức về quá khứ và tương lai. Nó có thể phát triển các động lực và giá trị. Giai đoạn cuối cùng của quá trình tiến hóa được hỗ trợ của nó sẽ đến khi nó hiểu các tác nhân khác đáng được đồng cảm. Tôi hỏi anh quá trình này sẽ mất bao lâu. Tăng nói: “Tôi nghĩ một cỗ máy như vậy có thể được chế tạo vào năm 2030”.
Trước khi chia tay Tăng, tôi yêu cầu anh tưởng tượng mọi thứ đang diễn ra theo một cách khác. ”Giả sử anh hoàn thành mô hình kỹ thuật số, độ phân giải cao của bộ não,” tôi nói. “Và giả sử mô hình đó đạt được một dạng ý thức thô sơ nào đó. Và giả sử, theo thời gian, anh có thể cải thiện nó, cho đến khi nó vượt trội hơn con người trong mọi khả năng nhận thức, ngoại trừ sự đồng cảm. Anh giữ nó ở chế độ an toàn cho đến khi bạn đạt được bước cuối cùng đó. Nhưng rồi một ngày, cơ quan an ninh của chính quyền phá cửa văn phòng của anh. Họ biết anh có sản phẩm trí tuệ nhân tạo này trên máy tính của mình. Họ muốn sử dụng nó làm phần mềm cho một nền tảng phần cứng mới, một chiến binh nhân tạo hình người. Họ đã sản xuất hàng tỷ chiến binh nhân tạo, và họ sẽ không tâm liệu chúng có đạt được sự đồng cảm hay không. Họ yêu cầu mật khẩu của anh. Anh có nói cho họ biế mật không?. Tăng nói: “Tôi sẽ phá hủy máy tính của mình và bỏ đi. Tại thời điểm đó, đã đến lúc tôi phải nghỉ việc và tập trung vào các robot có thể sáng tác nghệ thuật.”
Nếu bạn đang tìm kiếm một vị triết gia-quân vương để lập biểu đồ quỹ đạo phát triển về đạo đức cho trí tuệ nhân tạo, bạn có thể làm tệ hơn Tăng. Nhưng con đường phát triển của trí tuệ nhân tạo sẽ được định hình bởi các hệ thống chồng chéo của các nền chính trị của các địa phương, các quốc gia và toàn cầu, chứ không phải bởi một vị quân vương-triết gia khôn ngoan và nhân từ. Đó là lý do tại sao việc Trung Quốc vươn lên vị trí hàng đầu về trí tuệ nhân tạo là một viễn cảnh đầy đe dọa: Cấu trúc chính trị của đất nước này đang khuyến khích, thay vì kiềm chế, cách sử dụng tồi tệ nhất của công nghệ này.
Ngay cả ở Hoa Kỳ, một nền dân chủ với các quyền con người được bảo vệ một cách hợp hiến, người Mỹ đang đấu tranh mạnh mẽ để ngăn chặn sự xuất hiện của một nhà nước theo dõi được xây dựng thông qua hợp tác công-tư (PPP). Nhưng ít nhất Hoa Kỳ có những cơ cấu chính trị có khả năng chống lại một số cơ hội. Ở Trung Quốc, trí tuệ nhân tạo sẽ chỉ bị hạn chế theo nhu cầu của ĐCTQ.
Cuối cùng, khi tôi rời khỏi Viện thì cũng đã gần trưa. Mưa trong ngày sắp ngớt. Tăng đặt cho tôi một chiếc ô-tô và dẫn tôi đến đó, tay cầm một chiếc ô trên đầu. Tôi tìm đường đến Tử Cấm Thành, nơi ngự trị của đế quốc Bắc Kinh lịch sử. Ngay cả chuyến đi ngắn ngày đến trung tâm thành phố này cũng giúp tôi tiếp xúc với tình trạng theo dõi của Trung Quốc. Trước khi bước vào Quảng trường Thiên An Môn, cả hộ chiếu và khuôn mặt của tôi đều được chụp lại, một trải nghiệm mà tôi cảm thấy tê tái.
Bức Vạn Lý Tưởng Lửa do trí tuệ nhân tạo đang canh giữ của Trung Quốc được xây dựng, một phần, để đảm bảo rằng vụ thảm sát không bao giờ được thảo luận trên mạng Internet của nước này. Để né tránh các nhà kiểm duyệt bằng thuật toán, các nhà hoạt động vì nhân quyền của Trung Quốc dựa vào hình tượng ‘Người đàn ông chặn xe tăng’ tiếp cận một con vịt cao su để tưởng nhớ vụ giết hại sinh viên .
Sự kiểm duyệt với sự hỗ trợ của trí tuệ nhân tạo của ĐCSTQ đã vượt xa sự kiện Thiên An Môn. Đầu năm nay, chính phủ đã bắt giữ các lập trình viên Trung...
Còn nữa
Bài viết khá dài nhưng rất đáng để đọc. Không thể hình dung được là TQ đã phát triển và lạm dụng trí tuệ nhân tạo để kiểm soát, kềm kẹp quyền tự do của con người khiến cho quyền riêng tư của con người trong chế độ độc tài còn thua cả súc vật !
Trả lờiXóaĐọc xong mà tôi không thể không rùng mình với việc chính quyền CSVN đang ra sức quảng bá và tuyết phục người dân trong nước cài phần mêm BlueZone. Phải chăng BlueZone là cánh tay nối dài cho Bắc Kinh để kiểm soát quyền riêng tư của cả người VN???
nguồn gốc bài viết:
Trả lờiXóahttps://www.theatlantic.com/magazine/archive/2020/09/china-ai-surveillance/614197/
TQ nó làm điều này là đúng. Cộng sản chỉ tồn tại được trong lúc này là gia tăng kiểm soát tư tưởng, thiết lập nhà tù và khủng bố, thủ tiêu.
Trả lờiXóa