(19/10/2024)

Chế độ Soviet đã tạo ra mạng lưới thông tin đáng sợ nhật trong lịch sử thế giới. Họ thu thập và xử lý một lượng dữ liệu khổng lồ của người dân, họ cho rằng các lý thuyết của Marx, Engels, Lenin và Stalin là toàn toàn chuẩn xác.

Nhưng thực tế, mạng lưới thông tin của Soviet đã chối bỏ rất nhiều khía cạnh tự nhiên của con người và nó hoàn toàn lờ đi tác động tiêu cực nó đã gây ra đối với người dân thông qua các hệ thống giám sát, kiểm soát, trừng phạt và khen thưởng.

The dictatorship of the like - Ám chỉ sự thống trị của những nội dung trên mạng xã hội được đề xuất bởi thuật toán mà đa phần là các nội dung không lành mạnh

Một nhà hoạt động chính trị cực hữu ở Brazil đã trả lời phỏng vấn rằng ông từng là người hoàn toàn không có một hệ tự tưởng, không có nền tảng và cũng không hứng thú với chính trị, cho đến một ngày, Youtube đã đề xuất một video về chính trị của Kataguiri (Một youtuber kiêm chính trị gia).

Tương tự như cách mà các cảnh sát ngầm của Soviet tạo ra Homo sovieticus, Facebook và Youtube cũng dựa vào thuật toán ưu tiên các video mang tính bạo lực thu hút tương tác để tạo ra một thế hệ các Youtuber sáng tạo các nội dung không lành mạnh.

Thuật toán của Youtube đóng vai trò cực kỳ quan trọng trong việc gia tăng tỷ lệ dân số Brazil theo phong trào chính trị cực hữu với kết quả là Jair Bolsonaro trờ thành tổng thống. Có rất nhiều yếu tố đóng vai trò trong sự nghiệp chính trị của Bolsonaro nhưng then chốt là sự hỗ trợ của các nhà vận động hành lang có nguồn gốc là các Youtuber hoặc ít nhất là bước vào con đường chính trị nhờ vào việc ưu tiên của các thuật toán mạng xã hội.

(20/10/2024)

Blame the human - Đổ lỗi cho con người

Bằng những lý luận như vầy, các nền tảng mạng xã hội lớn liên tục khẳng định vai trò điều phối những nội dung được con người tạo ra và chối bỏ vai trò của các thuật toán trong việc phân phối không công bằng các loại nội dung khác nhau.

64% các nhóm chính trị cực đoan được thành lập và tham gia nhờ vào công cụ đều xuất nội dung tự động của Facebook. Không giống như các nội dụng chia sẽ giữa các thành viên trong gia đình và bạn bè, các nội dung "lên xu hướng - viral" có mức độ tiếp cận với xã hội tốt hơn, mang lại nhiều tương tác hơn và các nền tảng liên tục đề xuất những nội dung như vậy vì mục đích kinh tế. Và điều tệ hại là bảng xếp hạng các nội dụng "viral" toàn là các thông tin rác, thông tin sai sự thật, tiêu cực và kích động.

Không thể kiểm duyệt vì quyền tự do ngôn luận, nhưng ít nhất Facebook có thể ngừng đề xuất một cách có ưu tiên các nội dung không lành mạnh.

Kể cả khi không có sự phân phối ưu tiên của các thuật toán, việc chiến đấu vì một xã hội tự do thông tin sẽ càng làm chôn vùi đi sự thật. Mỹ chỉ thành công trong việc nâng cao vị thế của Iran trở thành anh cả ở khu vực Trung Đông.

Việc chiến thắng quân sự cũng giống như việc tối ưu hoá tương tác và người dùng của các nền tảng mạng xã hội.

The alignment problem - Vấn đề sự nhất quán

Không ai có thể phủ nhận tài năng quân sự của Napoleon, với những chuỗi chiến thắng quân sự giúp nước Pháp mở mang bờ cõi khắp Châu Âu đến tận Ấn Độ. Nhưng ông chỉ duy trì đế chế được khoảng 1 thập kỷ do thất bại trong việc thiết lập một hệ thống chính trị trật tự.

Tương tự, Mỹ đã chiến thắng quân sự ở Irag những những năm 2003, nhưng họ lại thất bại trong việc thiết lập một hệ thống chính trị ổn định ở Irag hay xây dựng trật tự địa chính trị tại Trung Đông. Ngược lại, người chiến thắng ở đây lại là Iran khi họ trở thành anh cả của Trung Đông.

Chiến tướng luôn đúng ở chiến trường nếu họ chiến thắng, các kỹ sư phần mềm cũng luôn đúng khi đã hoàn thành nhiệm vụ thu hút người dùng. Nhưng chiến thắng quân sự có thể trái ngược với mục đích của cuộc chiến, cũng như việc thu hút người dùng bằng phương pháp ưu tiên nội dung không lành mạnh có thể đi ngược lại với chiến lược của các nền tảng.

The paper-clip Napoleon - Nhà máy sản xuất kẹp giấy Napoleon

Một thí nghiệm tưởng tượng được đề xuất bởi triết gia Nick Bostrom rằng khi ta trang bị một siêu máy tính có năng lực không giới hạn cho một nhà máy sản xuất kẹp giấy và đặt mục tiêu đơn giản cho máy tính rằng phải sản xuất nhiều kẹp giấy nhất có thể. Kết cục là máy tính đã giết hết con người, xâm chiếm các hành tinh khác để lấy tài nguyên và sản xuất lượng kẹp giấy đủ để lấp đầy cả dải ngân hà.

Luận điểm cốt lõi trong ví dụ viễn tưởng này là:

• Máy tính làm đúng việc nó được giao: Tạo ra nhiều kẹp giấy nhất có thể

• Vấn đề của máy tính không phải là chúng có ác tâm, mà vấn đề là chúng có sức mạnh quá lớn: Năng lực quá lớn vượt tầm vũ trụ.

• Cách máy tính giải quyết vấn đề có thể nằm ngoài tưởng tượng của các sinh vật hữu cơ: Giết cả người sử dụng kẹp giấy.

• Nhiệm vụ chúng ta giao cho máy tính phải có sự nhất quán (alignment) với mục đích cuối cùng mà ta muốn đạt được: Mục đích cuối cùng là tối ưu hoá quy trình để sản xuất đủ số lượng kẹp giấy cung ứng ra thị trường và mang về lợi nhuận tối ưu.

• Máy tính không nhận ra vô lý của các nhiệm vụ để có thể cảnh báo chúng ta: Sản xuất nhiều kẹp giấy nhất có thể là một nhiệm vụ vô lý khi tách tời với dung lượng thị trường kẹp giấy, nhu cầu sử dụng kẹp giấy...

The Corsican connection - Nguồn gốc Corsican

Thử nghĩ xem, nhiệm vụ tối thượng nào ta nên cài đặt cho AI - Napoleon để ông có thể chinh phạt được mọi vùng đất mà vẫn giữ vững được sự giàu mạnh của nước Pháp?

1. Duy trì sự thống trị của nước Pháp.

2. Tạo ra một đế chế đa chủng tộc, đa văn hoá, điều hành bởi gia đình Napoleon.

3. Đạt được danh vọng vĩnh hằng cho bản thân Napoleon.

4. Đảm bảo cứu rỗi linh hồn Napoleon để ông có thể lên thiên đường khi chết.

5. Mở rộng lãnh thổ và truyền bá tư tưởng nhân quyền, tự do, bình đẳng của nước Pháp.

Thứ nhất, sự thống trị, nước Pháp,đế chế, đa chủng tộc, đa văn hoá, danh vọng, linh hồn, thiên đường, tự do, nhân quyền, bình đẳng,... để là những thực tại liên chủ quan mà có thể được định nghĩa khác nhau ở các nền văn hoá khác nhau và có sự thay đổi theo thời gian.

Thứ hai, Napoleon có nguồn gốc Corsican - Italy.

The Kantian Nazi - Những người ủng hộ đạo lý học của triết gia Immanuel Kant và đồng thời cũng là thành phần của Phát Xít Đức.

Nhiều ngàn năm nay, các triết gia vẫn luôn kiếm tìm một định nghĩa về một mục tiêu tối thượng mà không bị phụ thuộc vào bất cứ một một tiêu cao hơn nào. Có 2 giải pháp được ủng hộ nhiều nhất: Đạo lý học (deontology) và Thuyết vị lợi (utilitarianism).

Đạo lý học nghiên cứu về bản chất những nguyên tắc đạo đức mà có thể áp dụng lên tất cả mọi người. Nếu quy luật vũ trụ này được tìm ra, máy tính chỉ cần tôn trọng quy luật này thì sẽ không có những hành động phương hại tới lợi ích con người. Triết gia Immanuel Kant đã cho rằng quy luật đó chính là một nguyên tắc vàng trong kinh thánh:

Như vậy, bạn sẽ không giết người vì sẽ có một người khác giết bạn. Nhưng vấn đề là Hitler chưa bao giờ xem hàng triệu người Do Thái là con người. Và trên hết, máy tính tuân thủ triết lý Kantian sẽ bảo vệ những thực thể vô cơ giống như nó, thay vì phục vụ con người hữu cơ.

The calculus of suffering - Thể hiện việc lượng hoá nỗi đau

Đạo lý học (deontology) xem người đồng tính là một "con người lỗi" (dehumanized), bạn tôn trọng kinh thánh và không đối xử tàn nhẫn với "con người thât", nhưng với "con người lỗi" thì hoàn toàn có thể chấp nhận được (tương tự như lý luận về người Do Thái của Hitler. Nhưng theo quan điểm của thuyết vị lợi (utilitarianism) thì nếu hai người đàn ông hạnh phúc với nhau thì chẳng phương hại đến lợi ích của xã hội. Vì vậy, tổng niềm vui (tích cực) có thể đạt cực đại khi chấp nhận hôn nhân đồng giới.

Theo đó, thuyết này sẽ phán xét từng hành động dựa vào tác động của hành động đó lên nỗi đau (tiêu cực) và niềm vui (tích cực).

Vấn đề ở đây là ta không thể có một phép tính nào để có thể lượng hoá (tính toán) được tác động của một hành động cụ thể nào đó là tích cực bao nhiêu hay tiêu cực bao nhiêu đối với thế giới. Nên hoá trị cho một người bệnh ung thư để họ sống thêm 6 tháng nữa trong đau đớn hay là nên an tử cho họ? Nếu một người chết đi và linh hồn họ lên thiên đàng, thì đó là niềm hạnh phúc lớn lao hay là một ảo tưởng của tôn giáo? Kể cả nó là ảo tưởng thì miễn con người thấy hạnh phúc là được đúng không?

Điều nguy hiểm nhất là khi bạn có đủ niềm tin vào một tương lai "hạnh phúc" thì thuyết vị lợi sẽ trao cho bạn tấm vé để đánh đổi nó với "nỗi đau" trong hiện tại.

(22/10/2024)

Computer mythology - Thần học máy tính

Các nền văn minh trong lịch sử đã dựa vào thần học để thiết lập mục tiêu tối cao của đế chế, khi đó vấn đề về việc nhất quán mục tiêu ở các cấp sẽ trở thành vấn đề của thần học, của niềm tin và các thần thoại.

Năm 2016, tựa game Pokemon Go sử dụng công nghệ thực tế ảo đã tạo ra một thế giới mà có sự liên kết giữa các máy tính/smartphone/người chơi với nhau, một con Pokemon bị bắt ở smartphone này sẽ lập tức biến mất ở smartphone kia. Như vậy, những con Pokemon này không tồn tại bằng các nguyên tử vật lý ngoài thế giới thật, nhưng chúng tồn tại dưới dạng các Bit dữ liệu giữa các máy tính với nhau. Đó chính là ví dụ dể hiểu cho hiện tại liên máy tính (inter-computer entity).

Các Nghĩa Vụ Nợ Thế Chấp - CDO (collateralized debt obligations) là những thực thể liên máy tính mà có cấu trúc nằm ngoài tầm hiểu biết của đại đa số con người. Nhưng con người vẫn đầu tư vào đó và kết cục gây nên khủng hoảng tài chính năm 2008.

Hiện tại, máy tính nhờ vào năng lực giao tiếp tốc độ cao giữa các máy tinh thông qua các thực thể liên máy tính, đã giúp con người giải các bài toán về tài chính, tự động lái, phát minh các loại thuốc mới, giảm thiểu ô nhiễm,... Con người không có lý do gì để kìm hãm sự phát triển của máy tính, chúng ta chỉ cần định hướng chúng phát triển một cách phù hợp.

The new witches - Phù thuỷ mới

Những thực tại liên chủ quan của con người ra đời và tạo ra rất nhiều những thảm hoạ sai lầm từ những cuộc đi săn phù thuỷ ở Châu Âu đến những cuộc tàn sản Kulak ở Soviet. Tạo ra sự phân biệt giữa "chúng ta" và "chúng nó".

Từ xưa đến nay, bất cứ một con người, dù theo một tôn giáo truyền thống nào thì đều sẽ luôn có một Con Mắt theo dõi hành vi của họ, sẽ chấm điểm "đạo đức" cho họ, bảng điểm chính xác thì chỉ có bản thân họ và Con Mắt mới biết được. Và tất cả điểm số chấm lên từng hành vi của con người đều phù thuộc vào những khái niệm liên chủ quan của cả cộng đồng con người nơi họ đang sống.

Nhưng với hệ thống chấm điểm công dân, bạn sẽ bị gọi là Sinner (tội đồ) khi có điếm số < zero, Believers (ngoan đạo) khi có điểm số từ 0 đến 1,000, Saint (thánh) khi có điểm số > 1,000. Tất cả đều sẽ tác động lên cách xã hội đối xử với bạn, cách bạn đối xử với người khác và đều được phán xét bởi thuật toán của máy tính.

Computer bias - Sai số của máy tính

Máy tính là cái máy biết tính toán, nếu chúng ta loại bỏ con người ra khỏi công thức, thì phải chăng máy tính có thể tự đưa ra quyết định hoàn toàn dựa trên toán học và tránh được những sai số của sinh vật hữu cơ đến từ méo mó tâm lý hay những định kiến của thần học?

Có thể là đúng, nhưng máy tinh lại có những sai số của riêng mình, tất cả những sai sót đó đa phần đều đến từ nguồn dữ liệu mà thuật toán tiếp cận để tự phát triển trí thông minh của mình.

Ta vẫn biết rằng với mục đích tiêu diệt được Vua của đối phương, AI đánh cờ vua có thể học từ dữ liệu nạp vào ban đầu, dữ liệu từ chính những trận nó đã chơi hay nó có thể học từ việc mô phỏng những trận chơi tưởng tượng. Đó chính là cơ chế tự học và tự sửa sai. Vậy tại sao việc áp dụng vào thế giới con người lại khó đến nhường ấy?

Câu trả lời là vì quân Hậu luôn có bản chất giống nhau ở một triệu ván cờ khác nhau, còn con người thì luôn hành động khác nhau trong các điều kiện khác nhau, từ đó việc lấy dữ liệu từ con người cũng bao hàm cả những thiên kiến của con người.

The new Gods? - Những vị Chúa mới?

Những quyển kinh thánh đã tạo ra mạng lưới thông tin gần như hoàn hảo và không có sai sót, nhưng qua thời gian nó lại không thể tự giải nghĩa từ ngữ của chính mình cần phải có con người trong các viện tôn giáo tham gia vào việc đó. Bên cạnh diễn giải kinh thánh, họ còn mang lại những quan điểm cá nhân, những vụ lợi, những sự đổ vỡ và sai sót.

Ngày nay, mạng lưới thông tin của máy tính có thể tự đưa ra ý kiến và quyết định, vậy ta có nên gọi chúng là những quyển kinh thánh của thời đại mới?

Rất tiếc là AI cũng mang rất nhiều khiếm khuyết mà có nguồn gốc từ nguồn dữ liệu với đầy những sai sót.

Socrates đã dạy rằng, có thể nói được câu trên, chính là một bước đi quan trọng dẫn đến sự thông tuệ. Bài học đầu tiên chúng ta phải dạy cho thuật toán AI đó là sự nghi ngờ bản thân, sự chấp nhận dữ liệu có sai số và sự thấu hiểu những định kiến có trong bản chất dữ liệu.

Con người có nên tiếp tục xây dựng các chủng viện "máy tính" (tương tự như các chủng viện tôn giáo) để rà soát và phản ứng kịp thời với những sai sót của AI? Haycon người chúng ta rất có thể lại mang những sai sót cố hữu của sinh vật hữu cơ quay lại mạng lưới thông tin mà đang tiệm cận với "kinh thánh" của thời đai mới.

Phần 3 của quyển sách sẽ nói về cách những hệ thống chính trị khác nhau phản ứng với những sai sót từ mạng lưới thông tin AI.

Tóm tắt sách NEXUS - Yuval Noah Harari - Phần 2. Mạng lưới thông tin vô cơ - Chương 8. Một mạng lưới có nhiều sai sót

by Hieuletrung