LÝ THUYẾT [KHÔNG.THỜI GIAN] VỀ Ý THỨC
SPACE.TIME THEORY OF CONSCIOUSNESS
Tôi đã đề xuất một lý thuyết mà tôi gọi là “lý thuyết [không. thời gian] của ý thức”.
Lý thuyết có thể kiểm tra – testable, tái lập – reproducible, kiểm chứng và định lượng được – falsifiable và quantifiable. Nó không chỉ định nghĩa sự tự nhận thức mà còn cho phép chúng ta định lượng nó trên các quy mô.
Lý thuyết bắt đầu với ý tưởng rằng động vật, thực vật và thậm chí cả các máy móc đều có thể có ý thức. Ý thức, tôi tuyên bố, (định nghĩa) là quá trình tạo ra một mô hình của chính bạn (chủ thể/subject) bằng cách sử dụng nhiều vòng phản hồi - ví dụ, trong không gian, trong xã hội, hoặc trong thời gian - để thực hiện một mục tiêu. Để đo lường ý thức, chúng ta chỉ cần đếm số lượng và loại vòng phản hồi cần thiết cho các đối tượng (chủ thể) để đạt được một mô hình của chính họ.
Đơn vị nhỏ nhất của ý thức có thể được tìm thấy trong bộ điều nhiệt hoặc quang điện, những thứ chỉ sử dụng một vòng phản hồi đơn lẻ để tạo ra một mô hình của chính nó về nhiệt độ hoặc ánh sáng. Một bông hoa có thể có, có thể nói rằng, mười đơn vị của ý thức, vì nó có mười vòng phản hồi cho sự đo lường lượng nước, nhiệt độ, hướng trọng lực, ánh sáng mặt trời, vân vân. Theo lý thuyết của tôi, các vòng lặp này có thể được chia ra hay tạo nhóm theo một mức độ/cấp độ ý thức nhất định. Bộ điều nhiệt và hoa sẽ thuộc về Cấp độ 0.
Ý thức Cấp độ 1 bao gồm các loài bò sát, ruồi giấm và muỗi, những thứ tạo ra các mô hình của chúng liên quan đến không gian. Một loài bò sát có nhiều vòng phản hồi để xác định tọa độ của con mồi của nó và vị trí của bạn tình tiềm năng, đối thủ tiềm năng, và của chính nó.
Cấp Độ hay Mức 2 liên quan đến những động vật có thuộc tính xã hội – social animals. Vòng phản hồi của chúng liên quan đến bầy/đàn hoặc bộ lạc của chúng và tạo ra các mô hình phân cấp xã hội phức tạp trong nhóm như thể hiện bằng các loại cảm xúc và cử chỉ.
Các mức này gần giống với các giai đoạn tiến hóa của bộ não động vật có vú – mammalian brain. Phần cổ nhất của bộ não chúng ta ở phía sau (gáy hay phía sau của bộ não), nơi mà sự cân bằng, lãnh thổ và bản năng được xử lý. Não mở rộng theo hướng về phía trước và phát triển hệ thống não limbic (có thể hiểu là hệ thống hoặc vùng quản lý cảm xúc – limbic system ), gọi là não có thuộc tính khỉ của cảm xúc, nằm ở trung tâm của bộ não. Sự tiến triển này từ phía sau ra phía trước cũng là cách mà bộ não của trẻ trưởng thành.
Vậy thì, ý thức của con người trong mô hình đo lường (scheme) này là gì? Điều gì phân biệt chúng ta với thực vật và động vật?
Tôi giả định hay lý thuyết hóa rằng con người khác với động vật bởi vì chúng ta hiểu thời gian. Chúng ta có [ý thức thời gian] ngoài việc đã có [ý thức không gian và xã hội]. Phần mới nhất của bộ não phát triển là vỏ não trước – prefont cortex, nằm ngay sau trán của chúng ta. Nó liên tục chạy những mô phỏng cho tương lai. Động vật có vẻ như chúng đang lập kế hoạch, ví dụ, khi chúng ngủ đông, nhưng những hành vi này phần lớn là kết quả của bản năng. Không thể dạy chó cưng hay mèo của bạn ý nghĩa của ngày mai, bởi vì chúng sống trong hiện tại. Con người, tuy nhiên, luôn đang liên tục chuẩn bị cho tương lai và thậm chí vượt ra ngoài cuộc sống của chính chúng ta. Chúng ta lập mô hình kế hoạch và mơ mộng - chúng ta không thể giúp động vật hay chó mèo về điều này được. Bộ não của chúng ta là những cỗ máy lập kế hoạch.
Chụp cộng hưởng từ hay quét MRI (Magnetic Resonance imaging) đã chỉ ra rằng khi chúng ta xếp sắp để thực hiện một nhiệm vụ, chúng ta truy cập vào những trí nhớ kết hợp những kỷ niệm trước đó của cùng một nhiệm vụ, những thứ làm cho kế hoạch của chúng ta thêm thực tế hơn. Một lý thuyết nói rằng động vật không có hệ thống bộ nhớ phức tạp bởi vì chúng phản hồi lại dựa trên bản năng và do đó không đòi hỏi khả năng hình dung tương lai. Nói cách khác, cái gọi là mục đích của việc có một trí nhớ có thể là để phóng chiếu nó vào tương lai.
Trong khuôn khổ của mô hình này, bây giờ chúng ta có thể định nghĩa sự tự nhận thức, thứ có thể hiểu là khả năng đặt mình vào trong một mô phỏng của tương lai, phù hợp với một mục tiêu.
Khi chúng ta áp dụng lí thuyết này vào máy móc, chúng ta thấy rằng những cỗ máy tốt nhất của chúng ta hiện nay đang ở trên bậc thấp nhất của ý thức Level 1, dựa trên khả năng xác định vị trí của chúng trong không gian. Hầu hết, giống như những người được xây dựng cho DARPA bộ phận Robotics Challenge, hầu như không thể điều hướng xung quanh một căn phòng trống. Có một số rô-bốt có thể mô phỏng một phần tương lai, chẳng hạn như máy tính DeepMind của Google, nhưng chỉ theo một hướng rất hẹp. Nếu bạn yêu cầu DeepMind hoàn thành cái gì đó xa và khác hơn trò chơi Go, nó sẽ bị đóng băng.
Chúng ta phải đi xa hơn bao nhiêu, và chúng ta sẽ phải thực hiện các bước nào, để đạt được một máy tự nhận thức như Skynet của Terminator?
VIỆC TẠO RA CỖ MÁY TỰ NHẬN THỨC?
Để tạo ra các cỗ máy tự nhận thức, chúng ta sẽ phải cung cấp cho chúng một đối tượng. Những mục tiêu không xuất hiện một cách kỳ diệu bên trong robot và thay vào đó phải được lập trình vào chúng từ bên ngoài. Điều kiện này là một rào cản lớn lao để chống lại việc nổi loạn từ máy móc. Hãy xem vở kịch R.U.R năm 1921, vở kịch đầu tiên đặt ra từ "robot". Cốt truyện của nó mô tả việc các robot nổi dậy chống lại con người bởi vì chúng thấy các robot khác bị ngược đãi. Để điều này xảy ra, những máy móc sẽ cần phải có một Cấp độ cao (về ý thức) trong chương trình được lập trình trước đó. Robot không nuôi dưỡng sự đồng cảm hoặc đau khổ hoặc mong muốn chiếm lấy thế giới trừ khi chúng được hướng dẫn hay cấu hình để làm như vậy.
Nhưng chúng ta hãy nói, vì mục tiêu hay lợi ích của lập luận, rằng ai đó đưa cho robot của chúng ta mục tiêu loại bỏ nhân loại. Các máy tính sau đó phải tạo ra mô phỏng thực tế của tương lai và đặt chính bản thân nó trong các kế hoạch này. Chúng ta bây giờ đi lên chống lại vấn đề chính yếu. Để có thể liệt kê các kịch bản và kết quả có thể xảy ra và đánh giá mức độ thực tế của những kịch bản đó, rằng robot ấy sẽ phải hiểu hàng triệu quy tắc của cảm thức thông thường - các định luật đơn giản về vật lý, sinh học và hành vi con người mà chúng ta sở hữu chúng cũng như cho những quy luật cảm thức ấy là đúng. Hơn nữa, nó sẽ phải hiểu quy luật nhân quả và dự đoán hậu quả của một số hành động. Con người học những luật này từ nhiều thập kỷ tích lũy kinh nghiệm. Một lý do tại sao thời thơ ấu kéo dài quá lâu là bởi vì có quá nhiều thông tin tinh tế để hấp thụ về xã hội loài người và thế giới tự nhiên. Tuy nhiên, rô-bốt chưa được mạo hiểm tiếp xúc với phần lớn cảm xúc tuyệt vời – to lớn của những tương tác dựa trên trải nghiệm được chia sẻ.
Tôi thích nghĩ về vụ cướp gây ngân hàng bởi một kẻ có kinh nghiệm, người có thể hoạch định kế hoạch trộm cắp của mình một cách hiệu quả và thông minh hơn đối với cảnh sát bởi vì anh ta có kho lưu trữ lớn những kỷ niệm của những vụ cướp ngân hàng trước đó và có thể hiểu được hiệu quả của từng quyết định mà anh ta đưa ra. Ngược lại, để thực hiện một hành động đơn giản như đưa một khẩu súng vào một ngân hàng rồi đánh cướp nó, một máy tính sẽ phải phân tích một chuỗi phức tạp các sự kiện thứ cấp đánh số trong hàng nghìn, mỗi sự kiện và chuỗi trong số ấy thì liên quan đến hàng triệu dòng lệnh hay đoạn mã máy tính. Máy tính như thế sẽ không thực sự nắm bắt được nguyên nhân và hiệu quả.
Chắc chắn là có thể cho một khả năng robot trở thành tự nhận thức và có những mục tiêu nguy hiểm, nhưng bạn có thể thấy lý do tại sao nó lại khó như vậy, đặc biệt là trong tương lai gần. Nhập tất cả các phương trình mà một cỗ máy cho mục tiêu cần phải phá hủy nhân loại sẽ là một công việc cực kỳ khó khăn. Vấn đề của robot giết chóc phần lớn có thể được loại bỏ một cách triệt để bằng cách ngăn chặn bất cứ ai lập trình chúng để chúng có được mục tiêu gây hại cho con người. Khi robot tự nhận thức đến, chúng ta phải thêm một [con chip bảo đảm an toàn] vào robot và sẽ tắt chúng nếu chúng có những suy nghĩ giết chóc gây hại cho con người. Chúng ta có thể được nghỉ ngơi thoải mái khi biết rằng chúng ta sẽ không bị nhốt trong vườn thú bất cứ lúc nào, nơi những người kế nhiệm robot của chúng ta có thể ném đậu phộng vào chúng ta qua các quán bar và khiến chúng ta cứ thế là nhảy múa.
Điều này có nghĩa là khi chúng ta khám phá các hành tinh bên ngoài và các vì sao, chúng ta có thể dựa vào robot để giúp chúng ta xây dựng cơ sở hạ tầng cần thiết để tạo ra các khu định cư và thành phố trên các mặt trăng và hành tinh xa xôi, nhưng chúng ta phải cẩn thận rằng mục tiêu của chúng phù hợp với chúng ta và rằng chúng ta có các cơ chế đóng ngắt-an toàn được đặt đúng chỗ trong trường hợp chúng đề ra mối đe dọa. Mặc dù chúng ta có thể phải đối mặt với nguy hiểm khi robot trở nên tự nhận thức, điều đó sẽ không xảy ra cho đến cuối thế kỷ này hay thế kỷ sau, vì vậy chúng ta có thời gian để chuẩn bị.
TẠI SAO ROBOT TẠO RA CẢNH TƯỢNG HỖN LOẠN
Tuy nhiên, có một kịch bản khiến các nhà nghiên cứu A.I giật mình trở giấc vào ban đêm. Một robot nào đó có thể một cách tưởng tượng là được đưa vào nó ra một lệnh mơ hồ hoặc không chắc chắn, nếu được thực hiện, sẽ giải phóng ra ngoài sự tàn phá.
Trong bộ phim "I, Robot", có một máy tính chủ, được gọi là VIKI, điều khiển cơ sở hạ tầng của thành phố. VIKI được cấp mệnh lệnh để bảo vệ nhân loại. Nhưng bằng cách nghiên cứu cách con người đối xử với con người khác, máy tính đã đi đến kết luận rằng mối đe dọa lớn nhất đối với nhân loại là bản thân con người. Nó xác định một cách toán học rằng cách duy nhất để bảo vệ nhân loại là lấy quyền kiểm soát của nhân loại.
Một ví dụ khác là câu chuyện về vua Midas. Ông ta yêu cầu thần Dionyus cho khả năng biến bất cứ thứ gì thành vàng bằng cách chạm vào nó. Sức mạnh này lúc đầu dường như là một con đường chắc chắn để giàu có và vinh quang. Nhưng sau đó ông chạm vào con gái mình, cô bé lập tức chuyển thành vàng. Thức ăn của ông ta cũng trở nên không thể ăn được. Ông thấy mình là một nô lệ của chính món quà mà ông ta cầu xin để có được.
H. G. Wells (một nhà văn Anh lỗi lạc thế kỷ 19) khám phá một tình huống khó khăn tương tự với câu chuyện ngắn của mình "The Man Who Could Work Miracles." Một ngày nọ, một nhân viên bán hàng bình thường thấy mình có một khả năng đáng kinh ngạc. Bất cứ điều gì anh mong muốn đều thành hiện thực. Anh đi uống rượu vào buổi tối với một người bạn, làm những phép lạ dọc theo con đường đi. Họ không muốn đêm bao giờ kết thúc, nên anh ngây thơ ước rằng Trái Đất sẽ ngừng quay. Đột nhiên, những cơn gió dữ dội và lũ lụt khổng lồ giáng xuống họ và tất cả. Con người, các tòa nhà, và thị trấn được ném vào không gian với vận tốc một ngàn dặm mỗi giờ, tốc độ của chuyển động quay của Trái đất. Nhận ra rằng anh đã phá hủy hành tinh này, ước muốn cuối cùng của anh là xin cho mọi thứ trở lại bình thường - theo cách mà nó vẫn đang là, trước khi anh có được sức mạnh của mình.
Ở đây, khoa học viễn tưởng dạy chúng ta phải thận trọng. Khi chúng ta phát triển AI, chúng ta phải kiểm tra tỉ mỉ mọi hậu quả có thể xảy ra, đặc biệt là những kết quả có thể không rõ ràng ngay lập tức. Sau tất cả, khả năng của chúng ta để làm như vậy là một phần của những gì [khác biệt] khiến cho chúng ta là con người.
MÁY TÍNH LƯỢNG TỬ
Để có được bức tranh đầy đủ hơn về tương lai của robot, chúng ta hãy xem xét kỹ hơn những gì diễn ra bên trong máy tính. Hiện nay, hầu hết các máy tính kỹ thuật số đều dựa trên các mạch làm bằng silicon và tuân theo định luật Moore, trong đó nói rằng sức mạnh máy tính tăng gấp đôi sau mỗi 18 tháng. Nhưng tiến bộ công nghệ trong vài năm qua đã bắt đầu chậm lại so với những bước chân cuồng điên của nó ở những thập kỷ trước, và một số người đã đặt ra một kịch bản cực đoan trong đó định luật Moore sụp đổ và phá vỡ nghiêm trọng nền kinh tế thế giới, thứ đến bởi tăng trưởng gần như theo cấp số mũ của sức mạnh máy tính. Nếu điều này xảy ra, Thung lũng Silicon có thể biến thành một Vành đai rác công nghiệp khác – Rust Belt của những năm 1980s. Để thoát khỏi cuộc khủng hoảng tiềm năng này, các nhà vật lý trên toàn thế giới đang tìm kiếm một sự thay thế cho silicon. Họ đang làm việc trên một loại máy tính thay thế, bao gồm máy tính phân tử, nguyên tử, DNA, chấm lượng tử, quang học, và máy tính protein, nhưng không ai trong số chúng đã sẵn sàng cho chiếc đầu tiên của thời đại cả.
Ngoài ra còn có một tấm danh thiếp hoang dã trong việc hỗn hợp của các thứ trên. Khi các bóng bán dẫn silicon trở nên nhỏ hơn và nhỏ hơn, chúng sẽ đạt tới kích thước của các nguyên tử. Hiện tại, một vi xử lý – chip Pentium tiêu chuẩn có thể có các lớp silicon có độ dày từ 20 nguyên tử trở lên. Trong vòng một thập kỷ, những con chip này có thể có các lớp có độ sâu chỉ năm nguyên tử, và nếu như vậy các electron có thể bắt đầu bị rò rỉ, như đã được tiên đoán bởi lý thuyết lượng tử (quantum theory), tạo ra các mạch ngắn. Một loại máy tính mang tính cách mạng là cần thiết. Máy tính phân tử, có lẽ dựa trên vật liệu mới là graphene, có thể thay thế chip silicon. Nhưng một ngày nào đó, có lẽ ngay cả những máy tính phân tử này cũng sẽ gặp phải vấn đề với các hiệu ứng được tiên đoán bởi lý thuyết lượng tử.
Tại thời điểm đó, chúng ta có thể phải xây dựng máy tính tối thượng, máy tính lượng tử, có khả năng hoạt động trên transitor nhỏ nhất có thể: một nguyên tử duy nhất.
Đây là cách nó có thể hoạt động. Các mạch silic chứa một cổng có thể mở ra hoặc đóng lại với dòng electron. Thông tin được lưu trữ trên cơ sở của các mạch mở hoặc đóng này. Toán học nhị phân, thứ được xây dựng trên một chuỗi số 1 và 0, mô tả quá trình này: số 0 có thể biểu diễn một cổng đóng và số 1 có thể biểu diễn một cổng mở.
Bây giờ hãy xem xét thay thế silicon bằng một hàng gồm những nguyên tử riêng lẻ. Các nguyên tử giống như các nam châm nhỏ xíu, có cực bắc và cực nam. Khi các nguyên tử được đặt trong từ trường, bạn có thể nghi ngờ rằng chúng có thể trỏ lên hoặc xuống. Trong thực tế, mỗi nguyên tử thực sự chỉ lên và xuống đồng thời cho đến khi một phép đo cuối cùng được thực hiện. Trong một nghĩa nào đó, một electoon có thể ở hai trạng thái cùng một lúc. Điều này đánh đố cảm thức hay sự hiểu biết thông thường, nhưng nó lại chính là hiện thực với cơ học lượng tử. Lợi thế của điều này là rất lớn. Bạn chỉ có thể lưu trữ rất nhiều dữ liệu nếu nam châm hoặc chỉ lên hoặc chỉ xuống. Nhưng nếu mỗi nam châm là một hỗn hợp của các trạng thái, bạn có thể đóng gói lượng thông tin lớn hơn nhiều vào một cụm nguyên tử nhỏ. Mỗi một chút hay còn gọi là "bit" thông tin, có thể là 1 hoặc 0, thứ mà giờ đây thành một "qubit", một hỗn hợp phức tạp của trạng thái 1 và 0 với lưu trữ lớn hơn rất nhiều.
Một điểm thú vị được mang lại bởi các máy tính lượng tử là chúng có thể giữ chìa khóa để khám phá vũ trụ. Về nguyên tắc, một máy tính lượng tử có thể cho chúng ta khả năng vượt quá trí thông minh của con người. Chúng vẫn là một kết quả chẳng ai nắm biết cả. Chúng ta không biết khi nào máy tính lượng tử sẽ đến hoặc tiềm năng đầy đủ của chúng. Nhưng chúng có thể chứng minh khả năng vô giá trong việc khám phá không gian. Thay vì chỉ đơn giản là xây dựng các khu định cư và các thành phố của tương lai, chúng có thể đưa chúng ta một bước xa hơn và cung cấp cho chúng ta khả năng lập kế hoạch cấp cao cần thiết để chuyển đổi toàn bộ các hành tinh.
Các máy tính lượng tử sẽ mạnh hơn rất rất nhiều lần các máy tính kĩ thuật số thông thường. Máy tính kỹ thuật số có thể cần vài thế kỷ để giải mã một mã dựa trên vấn đề toán học đặc biệt khó khăn, chẳng hạn như việc tính toán để “tìm số khả năng hay số lượng kết hợp của b và c thỏa mãn đẳng thức b.c=a khi lớn cỡ một triệu trở lên” such as factorizing a number in the millions onto two smaller numbers. Nhưng với các máy tính lượng tử làm tính toán với một số lượng lớn các trạng thái nguyên tử hỗn hợp, có thể nhanh chóng hoàn thành việc giải mã này. CIA và các cơ quan gián điệp khác nhận thức sâu sắc về hứa hẹn này của điều đó. Trong số những ngọn núi tài liệu được phân loại từ Cơ quan An ninh Quốc gia Mỹ (NSA) bị rò rỉ ra ngoài cho báo chí cách đây vài năm đã có một tài liệu bí mật cấp cao cho thấy máy tính lượng tử đang được cơ quan giám này sát và theo dõi cẩn thận nhưng đã chưa có bước đột phá nào được mong đợi trong tương lai gần.
Với sự phấn khích và sự nhấn mạnh trên đề tài máy tính lượng tử, khi nào thì chúng ta có thể mong đợi có được chúng?
TẠI SAO CHÚNG TA KHÔNG/CHƯA CÓ MÁY TÍNH LƯỢNG TỬ?
Tính toán trên các nguyên tử riêng lẻ có thể là cả một phước lành lẫn lời nguyền. Mặc dù các nguyên tử có thể lưu trữ một lượng thông tin khổng lồ, một chút chút bé xíu tạp chất, sự rung động hay xáo trộn có thể làm hỏng một phép tính. Một thứ cần thiết, nhưng hiển nhiên nổi tiếng là khó khăn, để cô lập hoàn toàn các nguyên tử với thế giới bên ngoài. Chúng phải đạt đến trạng thái của cái được gọi là "sự gắn kết – coherence", trong đó chúng rung động đồng loạt. Nhưng chỉ cần sự can nhiễu nhỏ nhất – ví như là, ai đó hắt hơi ở trong tòa nhà kế bên – có thể khiến các nguyên tử rung động một cách ngẫu nhiên và độc lập với nhau. "Decoherence – sự phân rã" là một trong những vấn đề lớn nhất mà chúng ta phải đối mặt trong việc phát triển các máy tính lượng tử.
Vì vấn đề này, các máy tính lượng tử ngày nay chỉ có thể thực hiện các phép tính thô sơ. Trong thực tế, kỷ lục thế giới cho một máy tính lượng tử liên quan đến khoảng hai mươi qubits. Điều này có vẻ không ấn tượng lắm, nhưng nó thực sự là một thành tích. Có thể mất hàng chục năm hoặc có thể cho đến cuối thế kỷ này để đạt được một máy tính lượng tử hoạt động cao, nhưng khi công nghệ đó đến, nó sẽ làm tăng đáng kể sức mạnh của A.I.
ROBOT TRONG TƯƠNG LAI XA
Xem xét tình trạng nguyên thủy của các automatons ngày nay, tôi cũng sẽ không mong đợi để thấy các robot tự nhận thức trong một vài thập kỷ tới - có lẽ một lần nữa không phải cho đến cuối thế kỷ này. Trong những năm (còn có thể) can thiệp vào, trước tiên chúng ta sẽ triển khai các máy móc điều khiển từ xa tinh vi để tiếp tục công việc khám phá không gian, và có lẽ, các automatons có khả năng học tập sáng tạo để bắt đầu đặt nền móng cho các khu định cư của con người. Sau đó sẽ tự động tái tạo tự động thêm nhiều phiên bản để hoàn thành cơ sở hạ tầng, và rồi, cuối cùng, các máy móc có ý thức năng lượng lượng tử (quantum-fueled conscious machines) để giúp chúng ta thiết lập và duy trì một nền văn minh thiên hà (intergalactic civilization).
Tất nhiên, tất cả những bài nói chuyện về việc chạm đến được những ngôi sao xa xôi này đặt ra một câu hỏi quan trọng. Làm thế nào chúng ta, hoặc robot của chúng ta, được giả định cho là được điều đó? Tầm quan trọng của các con tàu vũ trụ mà chúng ta xem qua các chương trình mỗi đêm trên TV là bao nhiêu?
Why go to the stars?
Because we are the descendants of those primates who chose to look over the next hill.
Because we won't survive here indefinitely.
Because the stars are there, beckoning with fresh horizons.
Tại sao đi đến các ngôi sao?
Bởi vì chúng ta là hậu duệ của những tổ tiên từ thời linh trưởng, những người đã chọn đứng thẳng lên rồi nhìn qua ngọn đồi kế tiếp.
Bởi vì chúng ta sẽ không tồn tại ở đây vô thời hạn.
Bởi vì các ngôi sao ở đó, vẫy tay chào với những chân trời tươi mới.
JAMES AND GREGORY BENFORD
TƯƠNG LAI NHÂN LOẠI - MICHIO KAKU
Bản dịch của ĐỖ BÁ HUY
Phần tiếp theo >>
![[Ảnh] Chuyến du ngoạn cuối cùng của tàu con thoi Endeavour](/bai-viet/images/2012/10/conthoi1.jpg)
