Tóm tắt Siêu trí tuệ - Superintelligence (AI Trỗi Dậy Và Chiến Lược Ứng Phó Của Loài Người Trong Kỷ Nguyên Số) - tác giả Nick Bostrom

 

Siêu trí tuệ đặt ra câu hỏi điều gì sẽ xảy ra khi chúng ta có thể chế tạo được những chiếc máy tính thông minh hơn con người, bao gồm những việc chúng ta cần làm, cách thức hoạt động và tại sao phải thực hiện theo đúng cách để đảm bảo loài người không bị tuyệt chủng.

Ma Trận, Kẻ Hủy Diệt, Người Sắt – danh sách dài những bộ phim mà trong đó một dạng trí tuệ nhân tạo nào đó đột nhiên phát điên và cố gắng thống trị thế giới. Ý tưởng này đã xuất hiện từ những năm 50, nhưng dường như chúng ta đang tiến gần hơn đến một thế giới mà máy tính thông minh như con người, thậm chí còn thông minh hơn.

Câu hỏi đặt ra là: điều đó sẽ như thế nào? Liệu máy móc có thực sự có thể nổi loạn chống lại chúng ta? Liệu chúng ta có đưa AI vào robot hình người không? Liệu internet có bắt đầu suy nghĩ không?

Nick Bostrom gọi hiện tượng này là siêu trí tuệ. Và trong khi một số cuốn sách cố gắng dự đoán điều gì sẽ xảy ra sau khi chúng ta tạo ra nó, Siêu trí tuệ lại tập trung vào việc xác định con đường dẫn đến nó phải như thế nào để nó có lợi cho chúng ta.

Dưới đây là 3 bài học về tình trạng của trí tuệ nhân tạo để cho bạn thấy rằng tất cả chúng ta đều phải tự mình tạo dựng một tương lai tốt đẹp:

1.AI từng bị giới hạn bởi phần cứng, nhưng giờ đây nó chủ yếu là vấn đề về dữ liệu.

2.Có hai cách khác nhau để thiết kế máy tính siêu trí tuệ.

3.Siêu trí tuệ phải là kết quả của sự hợp tác toàn cầu, chứ không phải một chương trình bí mật nào đó của chính phủ, nếu không chúng ta sẽ gặp rắc rối to.

Hãy quên quả cầu pha lê phủ bụi trên gác xép đi, cuốn sách này sẽ cho bạn cái nhìn rõ nét hơn nhiều về tương lai!

Bài học 1: Ban đầu, AI bị giới hạn bởi phần cứng, giờ đây vấn đề chủ yếu nằm ở việc cung cấp đủ dữ liệu cho máy tính.

Sau khi "Máy Turing" của Alan Turing được phát minh, là thiết bị đầu tiên có khả năng tự động theo dõi và thực thi các lệnh một cách có hệ thống (xem The Imitation Game để biết thêm chi tiết, một bộ phim tuyệt vời), chiếc máy tính "kỹ thuật số" thực sự đầu tiên đã được hoàn thành vào năm 1946.

Kể từ thời điểm đó, các nhà khoa học máy tính đã tự hỏi làm thế nào chúng ta có thể khiến những cỗ máy này thực sự suy nghĩ như con người. Dự án Nghiên cứu Mùa hè Dartmouth về Trí tuệ Nhân tạo là một trong những hội thảo chuyên ngành đầu tiên trong lĩnh vực này vào năm 1956, và mặc dù vài năm sau đó đã cho thấy một số kết quả, chẳng hạn như máy móc giải quyết các bài toán hay sáng tác nhạc, AI đã sớm chạm đến giới hạn của nó - phần cứng đơn giản là không đủ để xử lý tất cả thông tin cần thiết cho các tác vụ thực sự phức tạp.

Phải đến những năm 80, phần cứng mới dần bắt kịp, nhưng sau đó, sự phát triển của các hệ thống chuyên gia đã tạo ra AI thực sự đầu tiên, ví dụ như có thể chẩn đoán ô tô giống như một thợ máy. Chẳng bao lâu sau, thông tin lại trở thành yếu tố hạn chế, bởi vì với đủ phần cứng để lưu trữ nhưng lại không đủ thông tin để truy cập, ngay cả những hệ thống chuyên gia tốt nhất vẫn không thể đánh bại con người (ví dụ, Deep Blue đã mất hơn mười năm phát triển để đánh bại nhà vô địch thế giới Garry Kasparov).

Tuy nhiên, kể từ những năm 90, chúng ta đã trở nên thông minh hơn trong cách xây dựng AI, hiện đang mô phỏng nhiều hơn các hệ thống thần kinh trong não bộ và di truyền học của con người - đến nay, AI đã đi khá xa vào cuộc sống hàng ngày của chúng ta, chẳng hạn như với điện thoại thông minh và Google.

Tuy nhiên, điều chúng ta vẫn còn thiếu là một AI có thể, ví dụ, đánh bại không chỉ người chơi cờ vua giỏi nhất mà còn cả người chơi giỏi nhất trong Jeopardy và Scrabble - chúng ta thường tự xây dựng AI cho một mục đích cụ thể.

Bostrom và các chuyên gia khác dự đoán máy tính sẽ thông minh như con người vào năm 2075. Hãy chờ thêm 30 năm nữa cho đến năm 2105 và chúng ta sẽ có siêu trí tuệ thực sự.

Bài học 2: Siêu trí tuệ có thể bắt chước hoặc mô phỏng con người, dựa trên sinh học hoặc công nghệ.

Những gì chúng ta đang làm với AI hiện nay chủ yếu là dạy máy tính bắt chước tư duy của con người. Máy tính sử dụng logic để xử lý khối lượng thông tin khổng lồ, tính toán xác suất và sau đó sử dụng những phương pháp tắt mà con người không thể nghĩ ra để bắt chước hành vi của chúng – nhưng nhanh hơn.

Như đã mô tả ở trên, điều này đòi hỏi phải truy cập vào rất nhiều thông tin theo thời gian thực và đó là một vấn đề. Một giải pháp thay thế là sử dụng máy tính để mô phỏng bộ não con người, chứ không chỉ bắt chước nó. Phương pháp này được gọi là WBE – mô phỏng toàn bộ não bộ – và sẽ tạo ra một máy tính giống như một đứa trẻ: được trang bị thông tin cơ bản về thế giới và khả năng tự học phần còn lại. Để đạt được điều này, chúng ta thậm chí không cần phải giải mã toàn bộ bộ não con người, chúng ta chỉ cần có khả năng sao chép nó.

Tuy nhiên, điều này đòi hỏi chúng ta phải lấy bộ não người thật, lấy dữ liệu từ chúng và tải lên bằng cách nào đó. Nghe giống như trong phim Minority Report? À, đó cũng là khoảng cách xa vời của nó.

Bài học 3: Nếu một chương trình bí mật nào đó của chính phủ tạo ra siêu trí tuệ trước, có lẽ chúng ta sẽ gặp rắc rối – tất cả chúng ta phải cùng nhau hợp tác.

Cũng giống như có hai cách để biến siêu trí tuệ thành hiện thực về mặt công nghệ, cũng có hai cách khác biệt về mặt xã hội để phát triển nó.

Rất nhiều sách về những chủ đề này vẽ ra một tương lai tươi sáng với cuộc sống vô tận, không cần làm việc và sức khỏe hoàn hảo. Nhưng chúng ta phải đạt được điều đó trước đã. Và có một khả năng rất thực tế là nếu chúng ta làm sai cách, chúng ta sẽ chẳng đạt được điều đó, và thay vào đó sẽ phải chịu sự chi phối của thứ chúng ta đã xây dựng nhưng không thể kiểm soát. Tôi thích những điều kỳ ảo, nhưng tôi cũng cố gắng sống trong hiện tại. Trong số tất cả những cuốn sách về AI, Siêu trí tuệ là cuốn bạn nên đọc đầu tiên.

Cách thứ nhất, một lần nữa, rất giống với những gì bạn thấy trong nhiều bộ phim: một đơn vị hoặc chương trình bí mật của chính phủ làm việc cật lực sau bức màn che kín trong nhiều thập kỷ, cho đến khi nó xuất hiện với một công nghệ mới cực kỳ vượt trội – bạn biết đấy, thứ gì đó giống như bom nguyên tử.

Trong kịch bản này, một nhóm nhỏ sẽ tạo ra một cỗ máy siêu trí tuệ duy nhất. Điều này sẽ mang lại cho quốc gia đó lợi thế chiến lược so với tất cả các quốc gia khác – nhưng nó cũng sẽ là một vấn đề. Bởi vì nếu chỉ tồn tại một đơn vị, chỉ cần một bàn tay độc ác là có thể xóa sổ toàn bộ loài người. Và nếu có sự cố xảy ra, cũng không có đủ người biết cách khắc phục.

Cách duy nhất thực sự hiệu quả là kịch bản thứ hai: một sự hợp tác toàn cầu để dần dần phát triển siêu trí tuệ, dựa trên sự hợp tác của toàn thể nhân loại.

Một nỗ lực chung như vậy sẽ đảm bảo mọi bước thực hiện đều an toàn nhất, bởi vì nhiều bên và công chúng cùng kiểm soát dự án, đồng thời xây dựng các quy định an toàn trong suốt quá trình. Có thể không nhanh bằng, nhưng chắc chắn là an toàn hơn rất nhiều.