(12/10/2024)

Hạt giống cốt lõi của thời đại công nghệ thông tin hiện đại chính là Máy vi tính, còn tất cả những phát minh khác như internet hay AI chỉ là sản phẩm phụ của thời đại.

Trong giai đoạn nội chiến của Myanmar vào những năm 2016-2017, Facebook đã góp một phần rất lớn làm nền tảng để cho các thế lực sử dụng nhằm lan truyền những khẩu ngữ, kích động bạo lực gây ra cuộc chiến đẫm máu giữa đạo Phật và đạo Hồi, cuộc chiến kết thúc với rất nhiều thương vong và 730,000 người Hồi giáo bị trục xuất khỏi Myanmar. Liên Hợp Quốc (UN) đã kết luận rằng Facebook đóng vai trò quyết định trong chiến dịch thanh tẩy văn hoá của Myanmar.

Tại sao khi mọi người in các truyền đơn chống phá chính phủ thì đó không phải lỗi của Guttenberg - người sáng tạo ra máy in? Tại sao các thế lực cực đoan kích động quần chúng bằng đài phát thanh thì đó không phải lỗi của công nghệ radio? Tại sao thế lực cực đoan đạo Phật sử dụng Facebook để tuyên truyền chống lại đạo Hồi thì lại là lỗi của Facebook?

Máy in và máy radio không thể tự đưa ra quyết định về việc nó tác động đến ai, nhưng thuật toán của Facebook thì luôn chủ động chọn lọc và ra quyết định rằng ai sẽ được xem/nghe điều gì trên newfeed của họ, bên cạnh các nội dung cực đoan, còn có rất nhiều những bài post kêu gọi hoà bình, nhưng rất tiếc rằng thuật toán có vẻ không ưa thích những bài đăng có ít tương tác.

Nếu bạn phản biện rằng các thuật toán facebook nói cho cùng vẫn là do các kỹ sư phần mềm viết ra (code) thì hãy nhìn lại xem, bộ DNA của con người cũng không hề "viết" về các hành động diệt chủng mà đó chính là thông qua quá trình tự quyết định của con người. AI và thuật toán nói chung cũng như vậy, chúng tự quyết định các hành động mà không đòi hỏi một kỹ sư phần mềm nào lập trình cả.

Nếu bạn quả quyết rằng con người ra quyết định dựa vào ý thức còn máy tính thì không, nó chỉ ra quyết định dựa vào thuật toán được viết sẵn, thì chúng ta nên đi sâu hơn về khái niệm giữa thông minh - tri thức (interligence) và ý thức (consciousness). Tri thức là khả năng để đạt được một điều gì đó, còn ý thức là khả năng trải nghiệm một điều gì đó. Ở con người và động vật, tri thức và ý thức luôn song hành với nhau, nhưng ở thực vật và vi sinh vật thì sự thiếu vắng của ý thức không đồng nghĩa với sự thiếu vắng của trí thông minh. Chúng vẫn thu thập dữ liệu từ môi trường và đưa ra các quyết định cho riêng mình. 99% các hoạt động của cơ thể con người (tiêu hoá, bài tiết, tiết adrenaline, dopamine,...) đều hoàn toàn tự động như được lập trình mà không cần sự tham gia của ý thức.

Máy tính cũng vậy, chúng không cần phải ý thức hay cảm nhận được một điều gì cả, nhưng vẫn có đủ thông tin - tri thức để đưa ra các quyết định, và có lẽ, chúng không bao giờ cần phải phát triển ý thức cho riêng mình.

Để làm rõ vấn đề này, ta sẽ xem xét thêm 1 ví dụ rất trực quan và gần gũi với đại đa số con người, đó là CAPTCHA. CAPTCHA được các website sử dụng như một phương thức nhận diện con người và máy tính thông qua việc giải các ký tự, hình ảnh mà chỉ có con người mới có thể làm được. Chat GPT-4 đã được giao cho nhiệm vụ giải mã các CAPTCHA, và đúng là nó không thể giải được các bài toán trên, nhưng để đạt được mục đích (goal), nó đã đưa ra quyết định (decision) truy cập vào một trang web để thuê con người làm việc đó. Để đánh lừa con người, nó đã nói rằng nó có tật ở mắt và không thể đọc các CAPTCHA được, thế là con người đã giúp nó làm việc đó.

Như vậy một trí thông minh có tri thức (interligence) đã không có ý thức (conciousness) nhưng vẫn có khả năng đưa ra các quyết định (decision) để đạt được mục tiêu của mình (goal).

Bởi vì con người - sinh vật hữu cơ đã sử dụng từ quyết định (decision) và từ mục tiêu (goal) để mô tả các hành động của các sinh vật có ý thức. Vì vậy, có lẽ chúng ta không nên sử dụng các từ đó để mô tả những hành vi của một cỗ máy phi hữu cơ, nhưng để tránh phát sinh thêm các thuật ngữ mới, tôi vẫn sẽ sử dụng các từ ngữ trên để đi đến các chương tiếp theo. Và trên hết, quyển sách này không có nội dung trọng tâm ở những từ ngữ trên mà nó tập trung vào việc các cỗ máy phi hữu cơ này đã thay đổi cấu trúc mạng lưới thông tin của con người như thế nào.

(13/10/2024)

Links in the chain - Những mắc xích kết nối

• Con người trao đổi thông tin qua lời nói, đó chính là kết nối Con người - Con người (Human to Human chain)

• Con người viết thông tin tạo thành các văn bản để trao đổi thông tin với nhiều người đọc, đó chính là kết nối Con người - Văn bản (Human to Documents chain)

Nhưng không hề có kết nỗi giữa Văn bản - Văn bản (Documents to Documents chain) vì nó cần phải có bộ não của con người làm trung gian vận chuyển thông tin.

Tuy nhiên kết nối Máy tính - Máy tính (Computer - Computer chain) lại có thể hoạt động được mà hoàn toàn không cần bộ não con người làm trung gian.

Trong các hệ thống cũ, con người là mắc xích thành viên, các văn bản, các radio chỉ là công cụ tạo sự kết nỗi giữa các thành viên.

Ngược lại, máy tính trong hệ thống mới bản thân nó chính là các mắc xích thành viên tự kết nối với nhau, và chúng liên kết tạo thành một mạng lưới mạnh mẽ hơn con người rất nhiều.

Khi ngân hàng trung ương tăng 0.25% lãi suất cơ bản, chúng ảnh hưởng gì đến nền kinh tế? Khi đường cong lợi suất chính phủ tăng lên thì có nên mua trái phiếu chính phủ không? Khi nào thì nên bán khống dầu mỏ? Tương tự với luật, không ai có thể nhớ hết các luật thuế của đất nước mình, nhưng máy tính được tạo ra để thực hiện việc đó.

Với sự kết nối mạnh mẽ của mình, máy tính đang thực hiện việc theo dõi và ra các quyết định tài chính, kiểm soát thuế má, theo dõi hoạt động của toàn xã hội với hiệu quả phi thường.

Hacking the operating system of human civilization - Kiểm soạt hệ thống vận hành của xã hội loài người

Sự tham gia của máy tính làm cho các cuộc đối thoại dân chủ khó có thể duy trì được nữa. Ta không thể tranh luận với một thứ không được thiết kế ra để bị thuyết phục, và càng nhiều luận điểm chúng ta đưa ra sẽ càng làm cho luận điểm của máy tính trở nên sắc bén hơn để đánh bại chúng ta.

Nhưng đó là là khi ta biết rằng mình đang tranh luận với máy tính, nhưng với năng lực ngôn ngữ hiện tại, máy tính hoàn toàn có thể dựa vào dữ liệu về bạn để khởi tạo một mỗi quan hệ và chiếm lấy cảm tình và điều phối hành vi của bạn. Năm 2021, một người đàn ông sau đã nhắn 5,280 tin nhắn với chatbot của Replika, ông đã thực hiện ám sát nữ hoàng Elizabeth II vào sinh nhật 19 tuổi của mình.

Kể cả khi máy tính không trao đổi thân mật và chiếm lấy được tình cảm trực tiếp của bản, thì thông qua khả năng ngôn ngữ, nó vẫn có thể từng bước thay đổi quan điểm chính trị và mong muốn của bạn thông qua việc chọn lọc những thông tin mà bạn hấp thụ vào hằng ngày.

Từ xưa đến nay, lịch sử loài người là sự tương tác giữa sinh học (nhu cầu sinh học như mưu cầu thức ăn, tình dục và) và văn hoá (tôn giáo, luật pháp). Nhưng những lịch sử nhiều ngàn năm đó sẽ được tiêu hoá hấp thu bởi AI chỉ trong vài năm. Như đã thấy ngay trong năm 2024, AI đã bắt đầu viết nhạc, đã vẽ những bức tranh mà trên một góc độ nào đó, có dựa trên văn hoá con người nhưng lại khác với tất cả những gì con người từng tạo ra. Và ngay trong năm 2024 này, đâu đó trên thế giới, các văn bản mang các thông tin chính trị và tôn giáo đang được viết bởi AI và tiêu thụ bởi con người.

Cuối cùng, hành động của chúng ta âu cũng chỉ nằm trong khuôn khổ của văn hoá - thứ được định hình bằng những thông tin ta nạp vào não hằng ngày, và những thứ này đang được đóng góp bởi AI.

Các tác phẩm điện ảnh như The Terminator hay The Matrix mô tả cuộc chiến giữa máy tính và con người dựa trên cơ sở rằng máy tính có thể có tác động vật lý lên thế giới này. Nhưng sự thật thì để kiểm soát xã hội loài người, máy tính chỉ cần kiểm soát hành vi con người tương tự như cách Stalin đã giết hàng triệu người mà không cần phải bóp cò súng.

Tôi cam đoan rằng những lý luận phức tạp bạn đang đọc là do con người viết ra. Vài năm trước, ở những năm 2020, bạn có thể tin đó là sự thật, nhưng tại năm 2024, đừng tin.

(14/10/2024)

What are the implications? - Hệ quả ở đây là gì?

Mạng lưới thông tin đang bắt đầu phát triển thêm 2 loại chuỗi kết nối:

1. Máy tính - Con người (computer to human chain): Như Facebook và Tiktok hiện tại, chúng không chỉ là các văn bản để bạn tiếp thu thông tin thông thường, mà chúng hiểu bạn thích điều gì và sợ hãi điều gì nhằm đưa ra thông tin phù hợp có chủ đích để bạn tiếp thu.

2. Máy tính - Máy tính (computer to computer chain): Đầy là chuỗi kết nối không có sự tham gia của con người và con. người cũng hầu như không thể hiểu được điều gì đang diễn ra trong các kết nối này.

   Google đã từng có một thí nghiệm về mã hoá dữ liệu mà khi kết thúc, 2 máy tính đã có thể trao đổi với nhau bằng một loại mật mã do tự chúng tạo ra, không hề có sự giúp sức của con người.

   Điều này cũng diễn ra bên ngoài phòng thí nghiệm, năm 2022, thị trường ngoại hối - forex với dung lượng 7.5 tỷ USD/ngày, trong đó có 90% giao dịch được thực hiện bởi các máy tính với nhau. Vậy một con người bằng xương bằng thịt nào dám tuyên bố rằng mình hiểu thị trường ngoại hối hoạt động như thế nào?

AI - trí tuệ nhân tạo là một thuật ngữ sẽ không nên được sử dụng rộng rãi nữa, vì vai trò của con người trong việc tạo ra trí thông minh này sẽ ngày càng chiếm vai trò thiểu số. Vì vậy nó nên được gọi là AI nhưng là Alien intelligence thay vì Aftificial intelligence.

Và tất cả những điều trên xảy ra chỉ sau 80 năm kể từ khi máy tính được phát minh. Hãy tưởng tượng chuỗi DNA đầu tiên được tạo ra trong nổi lẩu thập cẩm của trái đất vào 4 tỉ năm trước, sau 80 năm chúng phát triển tới đâu rồi? Nếu Chat GPT-4 là một sinh vật đơn bào thì thử tượng tượng 1 con khủng long GPT sẽ như thế nào?

Taking responsibility - Nhận trách nhiệm

Ta đã biết từ các chương trước rằng thông tin không phải là sự thật và cũng không vén màn sự thật, mà thông tin tham gia cấu trúc nên chính trị, kinh tế và văn hoá. Hiểu được điều này là rất quan trọng, vì hiện tại con người vẫn đang nắm quyền kiểm soát mạng lưới thông tin. Mỗi khi ta viết một dòng code, ta không chỉ đang tạo ra một sản phẩm mà ta cũng đồng thời đang thiết kế lại mạng lưới xã hội loài người, vì vậy, chúng ta phải chịu trách nhiệm cho những việc mình đang làm.

Thử phân tích trường hợp của thị trường tài chính, cụ thể là trong vấn đề đánh thuế (một thị trường có cấu trúc hoàn toàn bằng thông tin và tác động trực tiếp tới túi tiền của mọi người). Một cô gái người Uruguay sử dụng dịch vụ miễn phí của Tiktok, dữ liệu về thói quen của cô được Nike mua lại thực hiện các chiến dịch quảng bá thương hiệu của họ. Vậy giao dịch này có nên được đánh thuế ở Uruguay không?

• Có: Vì thông tin từ Uruguay đã giúp Tiktok kiếm tiền từ Nike, và điều này gây thất thu cho hệ thống truyền thông nội địa của Uruguay (TV, báo đài,...)

• Không: Nhưng làm sao có thể đánh thuế được khi không có một hoạt động giao dịch nào xảy ra trên lãnh thổ của Uruguay?

Để có thể đánh thuế được, thì cơ quan thuế của Uruguay phải định nghĩa lại các hoạt động bị đánh thuế không chỉ giới hạn ở các giao dịch trên lãnh thổ Uruguay mà còn bao hàm cả các hoạt động trên môi trường internet, vì Tiktok đã khai thác thông tin từ Uruguay tương tự như Shell đã phải đóng thuế để khai thác dầu.

Câu hỏi tiếp theo sẽ học búa hơn nữa: Làm sao xác định được số thuế chính xác mà Google phải trả? Chẳng lẽ Uruguay phải đánh thế trên từng tấm ảnh selfie và video chó mèo mà cô gái đã upload lên Tiktok sao?

Đó là điều bất khả thi vì thuế được đánh lên giao dịch tiền tệ mà mọi người đã quá quen với việc tiền tệ quy đổi giá trị, nhưng thế giới hiện nay có ngày càng nhiều giao dịch được trao đổi bằng thông tin. Nhiều thứ không còn có giá trị quy đổi tiền tệ (free), nhưng lại có giá trị quy đổi thành thông tin (hình selfie, video chó mèo), dẫn đến chính phủ có thể đánh giá sai về tài sản của một người hay một tổ chức khi họ không nắm giữ tài sản cố định như máy móc, thiết bị, tiền tệ mà lại nắm giữ một số lượng thông tin khổng lồ. Và hệ luỵ đó là thuế sẽ không thể đóng vai trò giúp công bằng xã hội, giúp phân phát lại của cải của người giàu cho toàn xã hội được nữa.

Câu trả lời vẫn còn bỏ ngỏ, nhưng đã có một hệ thống sử dụng thông tin làm tiền tệ, đó chính là hệ thống chấm điểm công dân của Trung Quốc, dựa vào thông tin về hành vi của con người để làm một thang điểm thay cho tiền tệ.

Right and left - Cánh hữu và cánh tả

Sự thật là những nhà lãnh đạo các tập đoàn công nghệ lớn thì không làm luật và những nhà chính trị thì lại không hiểu về công nghệ, đây chính là sự bất đối xứng thông tin cực kỳ nghiêm trọng, điều này làm cho các chính sách luôn luôn đi theo sau rất xa so với sự phát triển của công nghệ.

No determinism - Không có thuyết tiền định

Trong lịch sử, các kỹ sư máy tính làm việc cho các tập đoàn lớn như IBM hay trong tổ chức chỉnh phủ Mỹ hay Soviet đều không thể hiện thực hoá được giấc mơ phổ cập máy tính cá nhân cho toàn dân, công việc được thực hiện bởi Câu Lạc Bộ Máy Tính Nhà Làm California mà đại diện là Steve Jobs và Steve Wozniak.

Tương tự, những kỹ sư AI trong chính phủ toàn trì có thể tạo được những công cụ để theo dõi người dân 24/7 và tập trung quyền kiểm soát về tay chính phủ. Nhưng những hacker của nền dân chủ có thể sẽ phát triển các công cụ để phát hiện sai sót và bóc phốt chính phủ, đó sẽ là những cơ chế tự sửa sai mạnh mẽ.

Chính trị tham gia vào việc cân bằng giữa sự thật và trật tự và bởi vì máy tính ngày càng trở thành một thành viên quan trọng trong mạng lưới thông tin, chúng cũng ngày một đóng vai trò quan trọng hơn trong việc giữ gìn Trật Tự và và tìm kiếm Sự Thật.

Ngày nay, Sự Thật về biến đổi khí hậu toàn cầu phụ thuộc vào rất nhiều các tính toán mà chỉ có máy tính mới có thể làm được, việc phổ cập các ý niệm nhằm mang lại Trật Tự thống nhất về quan điểm nóng lên toàn cầu cũng phụ thuộc vào các thuật toán để lan truyền thông tin có tính định hướng lên mạng xã hội. Và trải qua rất nhiều những nghiên cứu, những hội thảo, những hiệp định, các chính sách (nhằm mang lại trật tự) và các quan điểm (nhằm nhìn nhận sự thật) về việc nóng lên toàn cầu đang bị tắt nghẽn, đặc biệt là khi các thuật toán máy tính vẫn đang không ngừng song song đưa ra trên newfeed của mọi người các quan điểm trái chiều về việc nóng lên toàn cầu.

Tóm tắt sách NEXUS - Yuval Noah Harari - Phần 2. Mạng lưới thông tin vô cơ - Chương 6. Máy tính khác gì với máy in?

by Hieuletrung