Các nhà khoa học nói gì về sự nguy hiểm của trí tuệ nhân tạo

Mới đây, các nhà khoa học trên thế giới đã tổ chức một sự kiện nhằm kêu gọi mọi người phải thận trọng trước sự phát triển của trí tuệ nhân tạo.
Facebook phát triển trí thông minh nhân tạo quản lý hoạt động của bạn, đâu là giới hạn?
Trí thông minh nhân tạo: bạn hay thù?
Những sự thật thú vị về trí thông minh
Khám phá mối liên hệ giữa kích thước bộ não và trí thông minh của con người
Sau khi nhà vật lý học Stephen Hawking và Elon Musk cảnh báo về mối đe dọa tiềm ẩn của trí tuệ nhân tạo (AI - Artificial Intelligence), nhiều người cho rằng họ đã quá lo xa trong khi AI đang giúp ích rất nhiều cho cuộc sống của chúng ta.
Những gì chúng ta thấy hiện nay là những trợ lý ảo, những chiếc xe tự lái hay hệ thống mạng internet biết phân biệt thói quen người sử dụng. Đó là những thứ rất vô hại và giúp ích cho chúng ta. Trong khi viễn cánh giống những bộ phim viễn tưởng như Terminator dường như là cái gì đó còn rất xa vời.
Vậy tại sao nhà vật lý học Stephen Hawking phải cảnh báo chúng ta về mối đe dọa tiềm ẩn này, thậm chí theo như lời của Hawking thì “Trí tuệ nhân tạo có thể là dấu chấm hết cho nhân loại khi nó phát triển đến mức hoàn thiện nhất”.
Nhà vật lý Stephen Hawking là người đầu tiên cảnh báo về trí tuệ nhân tạo.
Nhà vật lý Stephen Hawking là người đầu tiên cảnh báo về trí tuệ nhân tạo.
Mới đây, các nhà khoa học trên thế giới đã tổ chức một sự kiện nhằm kêu gọi mọi người phải thận trọng trước sự phát triển của trí tuệ nhân tạo. Các nhà khoa học đã cùng ký vào một bức thư kêu gọi thế giới, đặc biệt là các hãng công nghệ đang đầu tư cho các dự án AI phải luôn luôn thận trọng. Có lẽ vấn đề trí tuệ nhân tạo đang thực sự trở thành mối lo ngại của cả thế giới khoa học.
Theo Stuart Armstrong, nhà triết học và nghiên cứu tại Viện Tương lai nhân loại, Oxford:
Tác động đầu tiên của trí tuệ nhân tạo mà chúng ta có thể dễ dàng nhận thấy chính là lượng thất nghiệp tăng cao. Nếu AI phát triển hoàn thiện với khả năng thay thế con người trong các công việc trí tuệ như chăm sóc sức khỏe, phục vụ, sản xuất theo dây chuyền tự động, công việc văn phòng ... Một chiếc máy tính sẽ có thể giải quyết công việc kế toán của tất cả nhân viên trong một công ty.
Stuart Armstrong là người có nhiều nghiên cứu về tương lai của con người.
Stuart Armstrong là người có nhiều nghiên cứu về tương lai của con người.
Bạn có thể tạo ra 10.000 nhân viên năng lực cao ở 100 ngành nghề khác nhau chỉ trong 1 tuần. Đó là tin vui cho các ông chủ doanh nghiệp, nhưng những người lao động sẽ bị mất việc làm và không thể nuôi sống bản thân cũng như gia đình.
Theo Daniel Dewey, một nhà nghiên cứu tại Viện Tương lai nhân loại:
Điều đáng lo ngại nhất đối với AI chính là các giới hạn của chúng. Chúng ta thiết kế những cố máy và lập trình AI để phục vụ con người, làm những điều tốt nhất cho con người. Tuy nhiên việc lập trình AI để chúng không vượt qua các nguyên tắc mà con người nhận thức được không phải điều đơn giản.
Theo Daniel Dewey thì điều đáng lo ngại nhất là AI sẽ không thể biết đâu là giới hạn, điều mà con người có thể nhận thức.
Theo Daniel Dewey thì điều đáng lo ngại nhất là AI sẽ không thể biết đâu là giới hạn, điều mà con người có thể nhận thức.
Ví dụ như chúng ta tạo ra một AI với mục đích chăm sóc sức khỏe và làm con người hạnh phúc. Sẽ có những yêu cầu của người được chăm sóc là sai trái, nhưng để làm họ hạnh phúc có thể các AI sẽ vẫn thực hiện. Vậy làm thế nào để các AI nhận thực được đúng và sai, khi mà chính con người chúng ta đôi khi còn không thể phân biệt được.
Theo Mark Bishop, giáo sư khoa nhận thức điện toán trường đại học London:
Tôi đặc biệt quan tâm đến việc triển khai công nghệ AI trong quân sự. Những hệ thống không người lái có thể giúp các quốc gia tham chiến mà không tổn thất một binh sĩ nào. Cộng thêm việc tính toán chính xác sẽ giúp tăng khả năng chiến thắng.
AI được sử dụng trong quân sự sẽ là điều rất đáng lo ngại.
AI được sử dụng trong quân sự sẽ là điều rất đáng lo ngại.
Tuy nhiên khi mà con người chấp nhận sử dụng AI trong quân sự, đồng nghĩa với việc tự mình bước một bước đến sự diệt vong. Không ai có thể nói trước các sự cố có thể xảy ra và khi đó những hệ thống AI quân sự có thể gây nên những hậu quả khủng khiếp.
Theo Bill Joy, người đồng sáng lập và Giám đốc khoa học của Sun Microsystems:
Có một vấn đề rất lớn đối với xã hội loài người khi AI trở nên phổ biến, đó là chúng ta sẽ bị lệ thuộc. Khi AI trở nên hoàn thiện và thông minh hơn, chúng ta sẽ cho phép mình nghe theo những quyết định của máy móc, vì đơn giản là các cỗ máy luôn đưa ra quyết định chính xác hơn con người.
Theo Bill Joy con người có thể sẽ trở thành nô lệ của máy móc.
Theo Bill Joy con người có thể sẽ trở thành nô lệ của máy móc.
Dần dần chúng ta sẽ bị lệ thuộc vào máy móc và không thể tự quyết định, khi mà xã hội và các vấn đề ngày càng phức tạp hơn, còn người sẽ không còn khả năng tự giải quyết. Khi mà AI thay thế con người trong tất cả mọi việc, đó là lúc con người không còn phát triển nữa.
Theo Andrew Maynard, nhà vật lý và là người giám đốc Trung tâm nghiên cứu rủi ro khoa học tại đại học Michigan:
Khi AI kết hợp với công nghệ nano có thể là bước tiến đột phá của khoa học, những cũng có thể là mối đe dọa lớn nhất đối với con người. Trong khi Bộ quốc phòng Mỹ đang nghiên cứu dự án Autonomous Tactical Robot (EATR), trong đó các robot sẽ sử dụng công nghệ nano để hấp thụ năng lượng bằng những chất hữu cơ có thể là xác người.
Theo Andrew Maynard sự kết hợp giữa các công nghệ tiên tiến nhất có thể là con dao hai lưỡi.
Theo Andrew Maynard sự kết hợp giữa các công nghệ tiên tiến nhất có thể là con dao hai lưỡi.
Đó thực sự là mối đe dọa lớn nhất, khi các robot nano tự tạo ra năng lượng bằng cách ăn các chất hữu cơ từ cây cối và động vật, có thể là cả con người. Nghe có vẻ giống như trong các bộ phim viễn tưởng, nhưng đó là điều hoàn toàn có thể xảy ra. Có lẽ chúng ta nên bắt đầu sợ ngay từ bây giờ.
Theo iflscience, gizmodo