(01/11/2024)

Công nghệ thông tin của thế kỷ 20 đủ hiện đại mang đến sự phát triển rực rỡ của nền dân chủ nhưng vẫn còn lạc hậu để phát triển một nền toàn trị.

Khi chưa có một công nghệ đủ tốt để phân tích lượng dữ liệu khổng lồ đổ về đầu não xử lý trung tâm của nền toàn trị thì công việc ấy vẫn phải được vận hành bởi bàn tay con người. Và đó là nguồn cơn của những sai lầm mà nền toàn trị phải trả những cái giá rất đắt. Và điều quan trọng hơn nữa là sau khi trả giá, họ vẫn không có một cơ chế nào để sửa sai.

Các thuật toán AI thì ngược lại, chúng sẽ phân tích một cách hiệu quả hơn khi dữ liệu được tập trung về một đầu não duy nhất. Đây chính là công nghệ mà Stalin (chế độ toàn trị) mơ ước.

The bot prison - Nhà tù của chatbot

Nền toàn trị cũng có những vấn đề nan giải đối với AI:

1. Nhà độc tài không có kinh nghiệm quản lý những thực thể phi hữu cơ.

   Nếu một con bot AI cố gắng lan truyền những thông tin chống phá thì. nhà độc tài không thể giết, bỏ tù hay đe doạ gia đình hay truy tìm người đã lập trình nên con bot AI này.

2. Vấn đề về sự nhất quán: Một kỹ sư phần mềm thời Xô Viết có thể tạo ra các ứng dụng hoàn toàn nhất quán với mục tiêu phát triển của chính quyền Xô Viết. Nhưng một AI có khả năng tự học và tự sáng tạo có thể bị giới hạn bởi những mục tiêu tối cao của các chính quyền toàn trị.

   Đó là chưa kể những thông tin bị che giấu, những cuộc thanh lọc đảng phái, văn hoá được bàn tay của chế độ độc tài thực hiện. Làm sao để AI không chạm vào chiếc hộp pandora này và ngăn chặn nó phát tán thông tin ra ngoài xã hội?

Algorithmic takeover - Sự chiếm quyền của các thuật toán

Về dài hạn, ngoài rủi ro về việc tự do hoá thông tin, nền toàn trị còn phải đối mặt với rủi ro lớn hơn nữa, đó là việc AI chiếm hoàn toàn quyền kiểm soát.

Khi toàn bộ thông tin được dẫn về một hệ thống phân tích dữ liệu thì nhà lãnh đạo của chế độ toàn trị đã tạo ra một thế lực mới, hùng mạnh hơn cả chính bản thân của họ. Hệ thống này nắm được mọi thứ và trả ra những kết quả rất có thể mang những thiên kiến của máy tính tương tự như cách các tể tướng hoặc hoạn quan trong lịch sử đã biến nhà vua thành con các con rối.

Thông tin tập trung ở đâu thì quyền lực thật sự sẽ nằm ở đó, đặc biệt là khi có quá ít người tham gia vào việc kiểm soát các thuật toán ở nền toàn trị và không có một cơ chế nào để phán xét và sửa chữa các sai sót của hệ thống.

The dictator's dimemma - Nghịch lý của nhà độc tài

Trong tương lai gần, việc AI chiếm quyền của nhà độc tài vẫn chưa thế xảy ra vì chưa có một hệ thống AI nào có thể kiểm soát một đế chế với quy mô lớn và toàn diện như vậy.

Rủi ro trong ngắn hạn của nền toàn trị đến từ bản chất của chế độ toàn trị, họ luôn tin rằng nhà lãnh đạo tối cao hay đại diện đảng lãnh đạo tối cao là luôn luôn đúng.

Từ đó, nền toàn trị không thể xây dựng được một cơ chế tự sửa sai. Vì vậy, họ đứng trước một nghịch lý giữa 2 lựa chọn:

1. Tuân thủ theo một hệ thống AI toàn trị, nắm trọn quyền lực và chấp nhận rủi ro làm con rối chính trị cho AI.

2. Xây dựng cơ chế kiểm soát hệ thống AI và chấp nhận mất đi một phần quyền lực.

Tóm tắt sách NEXUS - Yuval Noah Harari - Phần 3. Chính trị máy tính - Chương 9. Duy trì các cuộc đối thoại dân chủ

by Hieuletrung