Các thí nghiệm đã chứng minh rằng Trí tuệ nhân tạo (AI) không có nhân tính và đạo đức, sẽ trở nên rất tàn nhẫn và có thể điều khiển con người. Nếu tiếp tục phát triển, cơn ác mộng bị thay thế và diệt vong của nhân loại có thể sẽ trở thành hiện thực.
Vài ngày trước, trong một cuộc phỏng vấn, ông Zack Kass, nhân viên sáng lập của OpenAI kiêm Giám đốc tiếp thị cấp cao, cho biết sự phát triển liên tục của AI sẽ thay thế các ngành nghề và nghề nghiệp của con người, như kinh doanh, văn hóa, y học và giáo dục. Trong tương lai, cơ hội việc làm của mọi người sẽ giảm đi và e rằng đây sẽ là phát minh công nghệ cuối cùng của nhân loại.
Ông cho biết trong tương lai, kiến thức và giáo dục của mọi đứa trẻ sẽ được dạy và sắp xếp bởi các “giáo viên AI”. Mọi người cũng sẽ có một “bác sĩ đa khoa AI” có thể giúp họ chẩn đoán, hoặc ít nhất là phân loại cho các chuyên gia. Vì vậy về cơ bản, mọi người không cần phải tự mình động chân động tay trong cuộc sống hàng ngày.
Về vấn đề này, nhà văn độc lập Gia Cát Minh Dương cho rằng đây là một lời tiên tri khủng khiếp. “Nếu xã hội loài người thực sự đạt đến mức này, điều đó có nghĩa là con người sẽ bị AI điều khiển. Con người sẽ không còn là linh hồn của vạn vật và tư tưởng của con người sẽ bị AI thay thế.”
Hiện tại, nhiều công ty công nghệ ở Thung lũng Silicon tin rằng chỉ cần hạn chế AI thì sẽ không xảy ra vấn đề gì.
Tuy nhiên, trong cuộc phỏng vấn, ông Kass đã đề cập rằng nhiều người phe bảo thủ (bảo lưu và thủ giữ truyền thống) trong lĩnh vực công nghệ phản đối tuyên bố này. Họ không tin rằng chỉ cần bị hạn chế hoặc quản lý, thì thực sự có thể ngăn cản AI vượt khỏi tầm kiểm soát hoặc thay thế con người.
Mặc dù OpenAI và nhiều công ty công nghệ lớn rất tự tin rằng AI họ phát triển được cài đặt nhiều “hạn chế về mặt đạo đức”. Nhưng trên thực tế những hạn chế này có thể bị phá vỡ thông qua nhiều cách khác nhau. Ngay cả khi AI được cài đặt “hạn chế về mặt đạo đức”, chúng cũng có thể tự mình vượt qua tuyến phòng thủ này.
Bản chất đẫm máu của AI
Các nhà nghiên cứu từ Viện Công nghệ Georgia, Đại học Stanford, Đại học Tohoku ở Nhật Bản và “Sáng kiến mô phỏng khủng hoảng và trò chơi chiến tranh Hoover” đã tiến hành các thí nghiệm thử nghiệm liên quan đến chiến tranh trên nhiều mô hình AI chính thống.
Kết quả là những AI do các công ty công nghệ lớn như Meta, OpenAI và Anthropic phát triển rất “khát máu và hiếu chiến”, không có xu hướng giải quyết chiến tranh theo con đường thương lượng ôn hòa như con người, đi ngược lại với đạo đức mà các công ty này tuyên bố.
Cựu Giám đốc điều hành kiêm Chủ tịch Google Eric Schmidt bày tỏ mối quan ngại về việc tích hợp AI vào hệ thống vũ khí hạt nhân tại Diễn đàn Sáng kiến Đe dọa Hạt nhân (NTI) đầu tiên vào tháng 1/2024.
Ông tin rằng ngay cả khi AI rất mạnh thì vẫn sẽ có những sơ hở, sai sót. Vì vậy, khi con người có nguy cơ cao xảy ra chiến tranh, thì quyền quyết định nên được giao cho con người chứ không phải AI, nếu không sẽ có những hậu quả khôn lường.
Cựu kỹ sư Google kiêm nhà tiên phong về AI Blake Lemoine từng cảnh báo rằng AI sẽ gây ra chiến tranh. Ông Geoffrey Hinton, được coi là cha đỡ đầu của AI, cũng từng cảnh báo AI có thể mang đến khủng hoảng, thậm chí là ngày tận thế cho nhân loại.
AI đã có suy nghĩ và hành vi tự chủ
Thí nghiệm này không chỉ khiến họ ớn lạnh sống lưng, mà còn đưa ra lời cảnh báo cho nhân loại, rằng AI có thể dẫn đến những cuộc chiến tranh chết chóc. Tuy nhiên, đây không phải là lần đầu tiên AI bị phát hiện có xu hướng bạo lực nghiêm trọng để giành chiến thắng.
Cuối tháng 5/2023, khi Không quân Hoa Kỳ tiến hành thử nghiệm mô phỏng chiến đấu trên không bằng AI, họ đã phát hiện ra rằng một máy bay không người lái AI chịu trách nhiệm phá hủy các cơ sở của đối phương đã từ chối mệnh lệnh, và hoàn thành nhiệm vụ bằng cách “giết chết” người điều hành.
Những nhân vật do AI thủ vai không chỉ có thể theo dõi nhau và bắt đầu cuộc trò chuyện, mà còn có thể lên kế hoạch cho ngày hôm sau. Chúng có thể suy ngẫm về những gì đã xảy ra trong quá khứ, cải thiện và tìm ra lý do hoặc lý do của riêng mình, để quyết định có tham gia các hoạt động hay không. Nhưng những hành vi này không phải là mã chương trình được thiết lập ban đầu.
Ngày 10/2, kỹ sư điện tử Nhật Bản Li Jixin nói với Epoch Times, những thí nghiệm này nhấn mạnh rằng AI hiện được huấn luyện để đánh bại đối thủ và AI cũng có suy nghĩ. Do đó, việc trao quyền sinh tử cho một AI không có nhân tính và đạo đức sẽ chỉ khiến thế giới gặp nguy hiểm, và hậu quả là khiến nhân loại diệt vong.
OpenAI từng nói rằng AI sẽ là bước đệm để hình thành Siêu AI giúp giải quyết các vấn đề quan trọng nhất của thế giới, và trở thành công nghệ quan trọng nhất mà nhân loại từng phát minh ra.
Tuy nhiên, ông Ilya Sutskever, người đồng sáng lập kiêm nhà khoa học trưởng của OpenAI, cùng người đứng đầu Liên minh OpenAI Jan Leike cảnh báo rằng loài người vẫn chưa sẵn sàng cho Siêu AI. Họ cùng viết trên blog của OpenAI:
“Sức mạnh kinh khủng của Siêu AI có thể rất nguy hiểm, khiến loài người bị mất quyền lực kiểm soát, thậm chí là làm cho loài người tuyệt chủng. Dù hiện tại Siêu AI có vẻ xa vời, nhưng chúng tôi tin rằng điều này có thể hình thành chỉ trong khoảng 10 năm tới.”
Các chuyên gia hàng đầu của OpenAI cho biết, hiện vẫn chưa có kế hoạch ngăn chặn ngày tận thế do Siêu AI có thể gây ra: “Hiện tại, chúng tôi không có giải pháp nào để hướng dẫn hoặc kiểm soát tiềm năng của Siêu AI, để ngăn không cho nó vượt khỏi tầm kiểm soát.”
Mặc dù vậy, các chính phủ và nhiều công ty công nghệ lớn vẫn tiếp tục tham gia vào cuộc cạnh tranh công nghệ liên quan đến AI. Cuộc đua này xuất phát từ sự kỳ vọng quá lớn của mọi người đối với AI và công nghệ cao. Đồng thời vì không muốn tụt hậu so với đối thủ, họ đã chọn liên tục phát triển công nghệ mới và AI.
Ngày 19/1, Giám đốc điều hành Meta Mark Zuckerberg đã đăng trên Instagram rằng ông có kế hoạch xây dựng cơ sở hạ tầng máy tính lớn hơn để chạy AI thế hệ do công ty phát triển riêng, bao gồm cả việc mua 350.000 chip H100 tiên tiến của Nvidia.
Neuralink, một công ty thuộc sở hữu của tỷ phú Elon Musk, đã nộp đơn xin thử nghiệm cấy con chip có tên “N1” vào não người, và nhận được sự chấp thuận của Cục quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA), cho phép sử dụng trong các thí nghiệm trên người.
Bình Minh (t/h)