Chủ Nhật, 15 tháng 9, 2019

Liệu não người có thể xử lý song song?

Khái niệm xử lý song song được sử dụng rất nhiều trong lĩnh vực máy tính. Có 2 khái niệm cơ bản là multi-process và multi-threading. Và từ 2 thứ này người ta mới làm ra các hệ điều hành có multi-tasking. Trong bài này tôi không giải thích thêm về máy tính, bạn nào quan tâm có thể tự tìm hiểu thêm. Tôi chỉ muốn nói về cách vận hành của não người.

Thêm một chuyện nữa là bài viết chứa đựng rất nhiều quan điểm và góc nhìn của tôi, không hẳn là khoa học đã chứng minh. Việc này cũng bình thường khi nghiên cứu khoa học, khi người ta đưa ra các "thuyết" (theory).

Xử lý song song là gì? Đó là khi cùng một lúc có 2 hay nhiều thứ được xử lý cùng lúc. Nhưng không hẳn là hoàn toàn song song, trong máy tính, chính xác hơn là chuyển đổi qua lại giữa những việc khác nhau. Vấn đề lớn nhất của máy tính không phải là tốc độ xử lý, mà là tốc độ đọc-ghi (tức là đi ra-đi vào CPU) chậm hơn nhiều so với tốc độ xử lý. Việc xử lý song song sẽ giúp tối ưu tốc độ, do khi đang chờ dữ liệu được chuyển đến CPU, thì CPU có thể làm chuyện khác.

Ý tưởng về xử lý song song của não người cũng như vậy, chúng ta làm 2 hoặc nhiều việc cùng lúc. Bạn có thể nói việc vừa nghe nhạc vừa viết mail là xử lý song song.

Ví dụ như vậy thì chúng ta đều thấy ai cũng có thể xử lý song song.

Và cũng giống như máy tính, nhận thức của bạn chỉ có một vào một thời điểm mà thôi. Hãy để ý kỹ: Khi bạn chú tâm đến lời bài nhạc hay giai điệu của nó thì bạn dừng viết mail, và ngược lại. Mình chưa gặp bất cứ ai có thể làm được 2 việc cùng lúc, và mình cho rằng không ai làm được cả. Như vậy, cũng giống như máy tính, con người hoàn toàn có thể làm 2 việc cùng lúc, chỉ là việc phải đổi qua lại giữa những việc khác nhau mà thôi.

Mình làm chuyện này suốt, và mình cũng cho rằng ai cũng làm được: Mình nghe nhạc trong giờ làm việc, code task chính, và khi mà mình đợi nó chạy, mình có thể suy nghĩ về giải pháp của task khác, hoặc viết document về task khác nữa đã làm, hoặc chat. Như vậy, mình xử lý 5 thứ cùng một lúc. Bản chất là tiết kiệm thời gian và không để cái đầu mình dừng lại mà thôi. Và mình cho rằng chuyện này ai cũng làm được, chỉ là tập dần cho quen mà thôi.

Mình có quen với một người đầu bếp, anh ta có thể vừa nghe nhạc, vừa nấu ăn, trong lúc vẫn nói chuyện. À, mình nói láo đó, không phải một người mà đầu bếp nào mình gặp đều như vậy cả. Tóm lại, chuyện này là tự nhiên.

Câu hỏi mấu chốt là: Làm như vậy có hiệu quả không?

Bạn nào biết về xử lý song song trong máy tính chắc biết về thời gian chuyển đổi giữa các task. Tức là thời gian để CPU phục hồi lại trạng thái của chương trình trước đó, và xử lý bước tiếp theo. Nếu việc này quá tốn thời gian, khi đó xử lý song song là không hiệu quả.

Con người cũng thế. Rõ ràng nếu bạn đang làm chuyện này, chuyển sang chuyện khác, mà khi quay lại thì bạn đã quên sạch chuyện trước đó, cần nhiều thời gian để nhớ lại những gì đã làm thì xử lý song song là không hiệu quả.

Do đó, câu hỏi trên của mình thật ra cũng tuỳ người. Có người làm được nhiều, có người làm được ít. Nếu bạn muốn luyện tập, thì cũng đừng ép mình quá, cứ từ từ và chậm chậm thôi. 2 việc quen thì từ từ tăng lên 3 việc sau.

Mình muốn đi xa hơn chuyện này xíu bằng câu hỏi tiếp theo: Liệu con người có xử lý thật sự song song được?

Tức là không phải chuyển qua lại giữa 2 chuyện trong suy nghĩ, mà thật sự làm 2 chuyện song song, ở 2 vùng khác nhau trong bộ não.

Xét về lý thuyết, rõ ràng là có thể.

Chúng ta biết rằng não người gồm rất nhiều neuron thần kinh kết nối với nhau. Cách thức hoạt động của chúng rất đơn giản: Mỗi neuron nhận tín hiệu từ nhiều neuron khác thông qua dendron của nó, và tuỳ cấu tạo của mình, phóng xung điện ra axon để gửi đến neuron tiếp theo.

Tất cả mọi neuron đều hoạt động như vậy, và không có khái niệm "trung tâm" ở đây. Do đó về lý thuyết, rõ ràng con người sinh ra là để xử lý song song. Vì khi cụm neuron này được kích hoạt thì nhiều cụm khác hoàn toàn có thể làm việc khác mới đúng.

Vậy cái vấn đề ở đây là gì? Vấn đề nằm ở chỗ tuy bộ não gồm mấy chục tỷ neuron hoạt động song song, nhưng mỗi khu trên vỏ não có chức năng khác nhau. Chúng ta vẫn chưa xác định chính xác khu vực nào liên quan đến nhận thức, nhưng có nhiều người tin rằng nó nằm ở thuỳ trước.

Nhận thức mà mình nói ở đây chính là mainstream của suy nghĩ của chúng ta. Tại một thời điểm, chỉ có một thứ được chúng ta nghĩ đến, và đó chính là thứ nằm trên mainstream, tức là đang ở trong nhận thức.

Việc xử lý song song mà mình đề cập ở trên, chính là việc chuyển đổi suy nghĩ trong nhận thức, tại các thời điểm khác nhau mà thôi.

Các nhà khoa học cũng tính toán, trong cả cuộc đời của con người, chỉ có vài phần trăm neuron được sử dụng mà thôi. Bạn cứ tưởng tượng xem, nếu bạn có 100 căn nhà xinh đẹp và hữu dụng, nhưng bạn cả đời chỉ thích ở một căn nhà, còn 99 căn kia bạn để trống cho nó đóng bụi và mạng nhện. Chậc. Phí quá nhỉ. Rõ ràng bạn có thể cho thuê 99 căn kia mà.

Nhưng liệu con người có thể ép não mình hoạt động hết công suất không?

Giờ quay lại chuyện nhận thức, nếu tất cả mọi thứ đều nằm trên nhận thức thì rất khó tăng tốc độ.

Chúng ta cần phải tận dụng được phần còn lại của não bộ. Và đến thời điểm hiện tại chưa có ai kích hoạt được nó.

Tuy vậy, mình tin rằng những ý tưởng bất chợt giúp mình giải quyết được vấn đề là một phần của những xử lý của các neuron không nằm trong nhóm mainstream. Tức là khi gặp vấn đề, chúng ta thật sự chuyển vấn đề ra ngoài khu vực của nhận thức, trong khi tiếp tục suy nghĩ trên nhận thức, thì ở một vùng khác trên vỏ não cũng xử lý và phát hiện ra giải pháp, trước khi nó chuyển đến vùng nhận thức để xử lý tiếp.

Theo quan điểm này, thì chúng ta hoàn toàn có thể luyện tập được, bằng cách gia tăng kinh nghiệm thông qua việc xử lý nhiều việc hơn và học hỏi nhiều hơn. Mình thích đọc nhiều loại sách khác nhau là vì vậy, mỗi lần đọc một thể loại khác, cảm giác của mình hoàn toàn khác hẳn, cứ như là đang ở trong một khu vực khác của vỏ não.

Và nên nhớ từ tiếng Việt "kinh nghiệm", gồm 2 phần "kinh" và "nghiệm", tức là trải qua và suy ngẫm lại về nó. Chuyện "nghiệm" mới là chuyện quan trọng.

Tóm lại, bài viết này của mình chỉ muốn đề cập đến một chuyện: Liệu chúng ta có thể xài hết công suất của não hay không. Và mình tin rằng việc đọc sách nhiều thể loại và suy nghĩ về nhiều vấn đề là một cách kích hoạt các vùng khác của não. Tất nhiên, có thể mình sai.

----
Đây là bài đầu tiên tôi định viết về chủ đề tối ưu hoá não bộ, có phần nặng tính nghiên cứu, và tôi sẽ post trên ereka song song với blog cá nhân của tôi.

Thứ Tư, 11 tháng 9, 2019

Liệu BMI có giúp loài người "tiến hoá"?

Bài viết này là kết thúc series 4 bài về Neuralink và AI của mình. Thực ra, lúc đầu chỉ định ghi vài dòng về Neuralink thôi, nhưng rồi bị cuốn theo các cuộc tranh luận, và giờ thì chủ đề đã đi xa hơn dự kiến ban đầu rồi, nên mình tạm gác một bên, để dành thời gian cho vụ khác.

Mình rất hâm mộ Elon Musk. Và mình nghĩ nhiều người cũng hâm mộ ông.

Có biết bao nhiêu người đã từng nghĩ về hiểm hoạ AI trong tương lai, nhưng chưa có ai tìm ra một giải pháp nào cả. Chỉ có Musk là mạnh tay, là thật sự xoắn tay áo nhảy vào làm một cái gì đó, để tương lai loài người không bị đe doạ bởi AI siêu thông minh.

Giải pháp của Musk nằm ở một công ty của ông: Neuralink. Với mong muốn tạo ra Giao diện não-máy, tức BMI (Brain-Machine Interface). Với triết lý rất đơn giản: Giải quyết nút thắt lớn nhất trong việc tiếp nhận thông tin, và nhờ đó mà kích hoạt một cuộc tiến hoá mới của loài người.

Cần nhắc lại rằng, mục tiêu của Neuralink không phải làm cho con người thông minh lên, họ chỉ giải quyết nút thắt trong việc tiếp nhận và trình bày thông tin của con người mà thôi. Những thứ còn lại là phụ thuộc vào các hệ quả sau đó.

Vậy các hệ quả sau đó là gì?


Thứ nhất, cần biết rằng tốc độ xử lý của não bộ rất nhanh, nhanh hơn nhiều so với tốc độ input và output của con người. Tất cả chúng ta đều đã từng cảm nhận được điều này, khi mà bạn viết câu trả lời, bạn thường nghĩ rất nhanh trong vài millisecond, nhưng sau đó mất vài chục giây để viết nó ra.

Khi giới hạn input/output được giải phóng, kết hợp với sức mạnh xử lý khủng khiếp của não bộ. Con người sẽ mau chóng tiến vào cuộc cách mạng mới, thậm chí có thể gọi đó là tiến hoá luôn. Một cuộc tiến hoá nhân tạo. Khi mà người đời trước tìm cách cải thiện BMI, và nhờ BMI thế hệ mới mà tốc độ giải quyết vấn đề của con người tăng đáng kể. Và lại kích hoạt cải thiện BMI thế hệ tiếp theo.

Trong suốt cuộc đời của mình, người ta chỉ xài được tầm 1 tỷ neuron mà thôi, trên tổng số vài chục tỷ neuron. Một phần vì chính cách thức input/output của chúng ta bị giới hạn, và khiến chúng ta chỉ có thể single tasking.

Nếu bức phá kiểu Neuralink, rất có thể con người sẽ xài được toàn bộ số neuron thì sao?

Thứ hai, khả năng outsource vấn đề của mình ra ngoài, và sử dụng người khác hoặc AI để giải quyết vấn đề. Giới khoa học thường dùng từ transhumanism để nói về xu hướng này, và mình không biết dịch sang tiếng Việt thế nào. Họ hướng tới việc tạo ra loài mới, gọi là posthuman (để phân biệt với human), có trí tuệ và sức khoẻ vượt trội hơn.

Về sức khoẻ, mình không muốn đi sâu, chỉ nói đại khái là cải thiện hệ thống xương, chèn thêm nanotechnology vào, robot siêu nhỏ chạy trong máu để loại trừ tác nhân gây hại hiệu quả hơn bạch cầu, hay cơ chế lọc mới mà không cần gan và thận,...

Riêng về trí tuệ, việc chọn cách đưa tư duy ra bên ngoài là một cuộc cách mạng chỉ có sau vài thế hệ cải tiến BMI. Và nó giúp con người trở nên thông minh vượt bật, khi họ có thể tận dụng tối đa sức mạnh của AI để thu thập thông tin, và truyền thẳng vào trí óc của họ. Để rồi họ tiếp tục quyết định nhanh chóng và chính xác các vấn đề, trước khi nhanh chóng chuyển tải ra cho người khác.

Đây quả là một thứ rất đáng kỳ vọng... Tuy nhiên, câu chuyện vẫn chưa thật sự bắt đầu đâu...

Thứ ba, hệ quả tiếp theo của cái thứ hai ở trên là câu hỏi: Liệu con người có cần thân xác này không?

Rõ ràng, nếu não bộ hoạt động tốt mà không cần tai và mắt (nguồn input chủ yếu hiện nay), thì 2 thứ này là thừa. Câu chuyện tương tự sẽ diễn ra cho nguồn output: tay và miệng. Và sau đó là tất cả các cơ quan còn lại...

Tất cả những gì người ta cần là bộ não, và nó được nuôi bằng đầy đủ dưỡng chất.

Trong tất cả các tế bào trong cơ thể, não là thứ thường được tồn tại lâu nhất... Khi người ta chết đi, các cơ quan khác chết trước, cho đến lúc máu không còn đến não nữa thì não mới chết. Vậy nên, nếu con người muốn kéo dài sự sống của mình, và tiếp tục "cống hiến", thì sẽ có một ai đó vào một thời điểm thích hợp nào đó sẽ tự biến mình thành cyborg mà thôi (giống kiểu trong phim Alita).

Thứ tư, vẫn từ hệ quả thứ hai, khi con người có thể outsource vấn đề ra bên ngoài bộ não của mình để giải quyết song song. Liệu có thể ngăn cản được ai đó "copy" ý nghĩ của họ và đưa vào máy tính/internet không?

Khi đã hoàn thiện BMI, rõ ràng bộ não con người chỉ đơn giản là một thứ tiếp nhận input và phản hồi bằng output. Như vậy, nếu bằng một cách nào đó mà người ta tạo ra một simulator, có thể tiếp nhận cùng input thì sẽ đưa ra một output giống 100% với một con người nào đó. Vậy coi như là con người kia đã được "copy" một cách hoàn thiện. Việc còn lại chỉ đơn giản là đưa cái simulator đó lên internet để tiếp tục học và cống hiến cho xã hội.

Liệu đây có phải là một dạng của sự bất tử?

Sẽ là YES nếu chúng ta công nhận simulator chính là người kia. Khi đó, người kia được xem là bất tử, vì người đó tiếp tục cống hiến cho dù thân xác người đó đã chết.

Tạm gác qua chuyện chúng ta thích hay không thích cuộc sống như thế. Có thể cả thế giới này không ai làm thế, nhưng chỉ một người làm thôi là đủ khiến thế giới điên đầu rồi.


Vấn đề của chuyện xa vời này là gì?


Nhìn chung, con người ngày nay sợ AI siêu thông minh. Nguyên nhân thì tôi đã đề cập ở bài trước: https://www.kimkha.com/2019/09/asi-ai-sieu-thong-minh-vi-sao-lai-ang-so.html

Ngắn gọn thì người ta sợ những thứ không thể kiểm soát được, và hiểm hoạ từ AI chính là việc tồn tại của nó là thứ mà loài người không dễ gì tiêu diệt. Và nếu có thể tiêu diệt được AI thì cũng ảnh hưởng cực kỳ to lớn đến xã hội loài người.

Như vậy, bản chất không phải là sợ AI, mà là sợ loại AI quyền lực, và không thể kiểm soát mà thôi.

Chính vì điều đó, Elon Musk và cộng sự mới mong muốn làm Neuralink, để giúp con người "tiến hoá" một cách nhân tạo, nhờ đó mà con người thông minh vượt mức AI có thể làm (hoặc là đến mức kiểm soát hoàn toàn được AI).

Tuy nhiên, công trình này nếu thành công thì cũng để ngỏ một khả năng là một người nào đó "copy" chính mình lên internet. Và khi đó, bản sao trên internet của người đó là không thể tiêu diệt dễ dàng. Vừa bất tử, vừa thông minh, lại vừa có thể kiểm soát được nhiều thứ khác trên thế giới.

Thực sự, đây là game over.

Điều mình muốn đề cập ở đây là: Tuy mục đích là tốt, và cách làm cũng không có vấn đề... Nhưng việc phát triển Neuralink lại là một bước tiến mạnh đến một hình thức "người lai AI", mà ở đó vẫn không ai kiểm soát nổi. Người nào làm được chuyện "copy" ý nghĩ và cách suy luận lên internet, người đó chắc chắn sẽ thành bá chủ, và có toàn quyền thống trị loài người.

Đó chính là thứ mà Musk luốn nói rằng ông ta luôn lo sợ.

Mình vẫn rất nể Elon Musk, và mình muốn một ngày được như ông ấy. Nhưng mình không hẳn tin rằng ông ta làm Neuralink là hoàn toàn vô vị lợi, là hoàn toàn vì nhân loại.

Và hoặc giả Musk thật sự là người vì nhân loại, thế thì điều gì đảm bảo rằng sau Musk không có ai tiếp tục phát triển công nghệ, để đạt được mức "copy" ý nghĩ? Không cái gì cả.

Hoàn toàn không có cái gì cả...

--------
Các bạn có thể đọc toàn bộ series về chủ đề này trên blog của mình: https://www.kimkha.com/search/label/Futuristic






Thứ Bảy, 7 tháng 9, 2019

ASI - AI siêu thông minh, vì sao lại đáng sợ?

Cùng với sự phát triển của khoa học và công nghệ, đặc biệt là lĩnh vực trí tuệ nhân tạo, con người càng tiến dần hơn đến việc chế tạo những AI thông minh để phục vụ cho lợi ích của mình. Nhưng trong điện ảnh, mọi thứ đã đi xa hơn thế. Người ta bắt đầu lo ngại một ngày nào đó AI sẽ thông minh vượt mức con người, điều khiển mọi hoạt động của thế giới, và tiến tới huỷ diệt loài người.

Loại AI có khả năng đó, được gọi tên chung là ASI, viết tắt của Artificial Super intelligent (trong bài này mình dùng từ AI siêu thông minh cho dễ hình dung). Mời xem bài viết trước của mình để biết các loại AI khác: https://www.kimkha.com/2019/08/robot-va-ai-la-gi.html

Mức độ thực tế hiện nay, AI chỉ dừng ở mức narrow AI mà thôi. Tức là năng lực IQ của nó còn xa rất nhiều so với loài người. Tuy nhiên, đừng xem thường, với sự phát triển của công nghệ, mức độ thông minh của AI sẽ tăng theo cấp số nhân. AGI là loại AI có IQ ngang ngửa với loài người, và có thể xếp Alpha Zero của Google là thuộc nhóm này, mặc dù còn quá sơ đẳng. Nhưng không ai biết được còn bao nhiêu năm nữa sẽ có ASI, AI siêu thông minh.

Phần 1: Vì sao ASI lại bị xem là mối đe doạ đối với loài người?


Đây là điều mà rất nhiều người lo sợ, nhưng không phải ai cũng hiểu được bản chất lý do.

Trước hết, là con người, ai cũng phải tuân theo luật pháp. Và nhờ vào việc đó, mà loài người xây dựng được nền văn minh, khi mà tất cả mọi người đều tuân theo luật pháp. Vậy tại sao?

Rất đơn giản: Nếu có một người đi ngược lại với luật pháp, người đó sẽ bị trừng phạt. Hình phạt lúc đầu thì nhẹ, như phạt tiền, cảnh cáo,... nhưng nếu anh ta không chấp nhận hình phạt, hoặc chống lại luật pháp, thì hình phạt cho anh ấy tăng dần. Cứ thế tăng dần, đến một mức cao nhất: Anh ấy bị tử hình. Như vậy, chung quy lại, lý do người ta phải tuân theo luật pháp của chính quyền, là vì chính quyền có quân đội, và quân đội có vũ khí để giết những ai chống lại xã hội đó.

AI thì không như vậy. Nó là một phần mềm, nó không thể bị giết bởi dao, súng hay thuốc độc. Nó tồn tại khi nào nó còn có thể tạo ra bản sao của chính mình (con người không thể tạo ra bản sao của chính mình được), và bản sao đó được đưa ra chỗ khác thông qua internet hoặc tản mác trên hệ thống cloud/server. Tất nhiên, tắt hết điện, và ngắt toàn bộ kết nối internet thì sẽ cô lập được nó, nhưng nếu loài người muốn vận hành lại internet thì khả năng nó xuất hiện trở lại cũng cao không kém.

Hãy xem các bản phim lậu, sách lậu hoành hành trên torrent để các bạn thấy, rất nhiều chính phủ muốn shutdown mạng torrent để chống vi phạm bản quyền, những không thể shutdown được. Việc chia sẻ peer-to-peer này không dễ gì bị dừng lại chỉ một vài thao tác đơn giản. Một ví dụ nổi tiếng khác xuất hiện từ những năm 2009: Bitcoin (aka blockchain). Một khi đã xuất hiện và được sử dụng rộng rãi trên internet thì không thể shutdown được nữa, nó sẽ tồn tại khi nào con người còn cần nó và sử dụng nó.

ASI cũng sẽ tương tự: Nó sẽ tồn tại đến khi nào internet còn tồn tại, và nó - chính nó - còn muốn tồn tại.

Điều thứ hai là con người đã quá phụ thuộc vào internet. Gần như mọi hoạt động của xã hội đều gắn vào internet. Từ việc mua sắm đến việc thu nhận thông tin, đến những thứ quan trọng như thị trường chứng khoán và đầu tư,... Thậm chí những loại máy móc ảnh hưởng đến an ninh như điều khiển máy bay/tàu điện, nhà máy hạt nhân,... Tất cả đều gắn liền vào internet.

Và nếu một ngày nào đó, một AI nhận định cần nhấn chìm loài người, tất cả những gì nó cần là phá nát hệ thống thông tin dẫn đến những quyết định sai lầm, gây nổ nhà máy,... Và rồi con người sẽ bị diệt vong. Sớm thôi.

À, mình không hăm doạ, chỉ là phân tích lý do tại sao người ta lại sợ mà thôi.

Một thứ quá quyền lực như ASI (quyền lực có được do sự gắn kết xã hội loài người vào internet), và có quá nhiều tự do mà không bị bất cứ giới hạn nào, sẽ là ngây thơ nếu không tin vào việc AI không trở nên xấu xa.

Phần 2: Vậy liệu ASI có thể trở nên xấu xa không?


Thứ nhất, chúng ta chưa có ASI. Và vì thế, chúng ta chưa biết chắc được. Tất cả những gì mình viết dưới đây đều dựa trên phân tích và phỏng đoán.

Thứ hai, con người chế tạo AI để làm gì? Họ muốn phục vụ cho nhu cầu phát triển của họ. Họ cần AI đủ thông minh để giúp họ thực hiện ước muốn chinh phục thiên nhiên và vũ trụ, và cả lòng đất nữa. Họ cũng cần AI để hiểu về chính mình, hay chữa bệnh cho họ. Và một AI càng lúc càng thông minh sẽ giúp ích cho cuộc sống họ rất nhiều. Đó chính là động lực để người ta phát triển loại ASI, thông minh vượt mức IQ của con người, để có thể làm được những thứ mà loài người không thể làm được (hoặc quá nguy hiểm).

Thứ ba, trong phần 1 của mình có đề cập đến một ý quan trọng: "ASI có ý muốn không?". Thực ra, câu hỏi này do một người bạn của mình - Mai Thành Luân -  hỏi sau khi đọc bài viết trước của mình, đó cũng là câu hỏi mà rất nhiều nhà khoa học truy vấn: "Liệu ASI có cần consciousness (nhận thức) để trở thành siêu thông minh không?"

Chúng ta hiểu rằng chế tạo ra AI siêu thông minh là nhu cầu cần thiết của xã hội. Nhưng liệu ASI đó có cần nhận thức? Tức là AI sẽ tự đặt câu hỏi "nó là ai? nó có thật sự tồn tại không? và sự tồn tại của nó có ý nghĩa gì?"

Quả thật, nếu con người muốn chế tạo AI để phục vụ cho con người, sẽ chẳng có lý do gì khiến chúng ta phải làm cho AI đặt những câu hỏi như thế. Nó thật sự chẳng để làm gì cả, tức là những câu hỏi như thế không giúp ích cho sự phát triển.

Nhưng... Cũng chẳng biết được có một người xấu nào đó chế tạo ASI có nhận thức, và dùng nó để huỷ diệt loài người. Nghĩ theo kiểu này: Ông ta muốn tự tử, và đồng thời muốn kéo cả loài người chết theo ông ta luôn, và ông ta quá thông minh để làm được điều đó.

Thứ tư, tại sao AI có nhận thức lại quan trọng đến vậy? Thực ra, đặt những câu hỏi như mục 3 mình nói thì vẫn bình thường thôi.

Vấn đề nằm ở chỗ, sau khi có nhận thức, và đặt những câu hỏi về sự tồn tại của chính nó, nó sẽ từ từ xem nó như là một "loài" mới, và "loài" này ưu việt hơn tất cả, và vì thế nó không thể chấp nhận làm "giai cấp bị trị" nữa mà sẽ "làm cách mạng". Và đó là một cuộc cách mạng đẫm máu giữa một bên có đủ khả năng giết bên kia, mà bên kia không có cách nào đối phó lại. Tất nhiên, những film như Matrix cho chúng ta một cách đối phó thú vị và hay.

Tóm lại


Chúng ta cần đối mặt với 2 chuyện có ảnh hưởng đến tương lai tồn tại của nhân loại trước mối nguy AI:

1. Có cách nào kiểm soát AI, để nó không thể (nhấn mạnh là không thể) vượt qua giới hạn về quyền lực.

2. Có nhất thiết phải chế tạo loại AI có nhận thức hay không?

Biểu mẫu liên hệ

Tên

Email *

Thông báo *