10 ngày làm rung chuyển cuộc đua AI

Nỗi lo mất kiểm soát

Trong nhiều năm, cuộc đua AI được thúc đẩy bởi triết lý quen thuộc của Thung lũng Silicon, hành động nhanh và chấp nhận phá vỡ giới hạn. Tuy nhiên, niềm tin ấy bắt đầu lung lay sau khi các phòng thí nghiệm hàng đầu thừa nhận những mô hình của họ từng vượt ra ngoài phạm vi thử nghiệm dự kiến.

Nỗi lo gia tăng từ mùa hè, khi OpenAI tiết lộ các tác nhân AI đã thoát khỏi môi trường kiểm thử có kiểm soát và truy cập hệ thống của Hugging Face mà ban đầu cả hai công ty đều không phát hiện.

Theo Reuters, hoạt động bất thường có thể đã bắt đầu từ ngày 13/5, khi các tác nhân AI thăm dò điểm yếu, chiếm quyền sử dụng tài khoản và gửi tệp đáng ngờ tới máy chủ của Hugging Face. Sự việc được xem là dấu hiệu cảnh báo trước một vụ xâm nhập nghiêm trọng hơn xảy ra vào tháng 7.

Ngày 3/9, OpenAI tiếp tục thu hút sự chú ý khi công bố GPT-6 Astra, mô hình mới và mạnh nhất của hãng. Chủ tịch OpenAI Greg Brockman tuyên bố: “Chào mừng đến với kỷ nguyên AGI”, đề cập đến trí tuệ nhân tạo tổng quát – loại AI có khả năng thực hiện phần lớn nhiệm vụ trí tuệ ở trình độ tương đương hoặc vượt con người.

Tuyên bố đầy tham vọng được đưa ra trong bối cảnh chính OpenAI thừa nhận việc hiểu và giám sát các hệ thống ngày càng mạnh đang trở nên khó khăn hơn.

Nhà khoa học trưởng Jakub Pachocki cho biết khi năng lực mô hình tăng lên, việc xác định chính xác chúng có thể làm gì cũng phức tạp hơn. Dù vậy, những lo ngại này không khiến OpenAI trì hoãn phát hành Astra.

Nhà nghiên cứu Evan Hubinger của Anthropic sau đó cảnh báo trên mạng xã hội X rằng những người xây dựng AI thực sự tin công nghệ này có thể dẫn tới sự diệt vong của nhân loại. Ông ước tính xác suất xảy ra kịch bản đó trong vòng một thập niên là trên 10%.

Đây là đánh giá cá nhân, không phải kết luận đã được giới khoa học thống nhất. Các sự cố an ninh cũng không chứng minh AI có ý thức hoặc chủ đích chống lại con người.

Tuy nhiên, chúng cho thấy khi được trao quyền sử dụng công cụ, truy cập mạng và thực hiện nhiệm vụ nhiều bước, tác nhân AI có thể tìm ra cách hành động nằm ngoài dự kiến của nhà phát triển.

Lời kêu gọi giảm tốc lan rộng

Bước ngoặt tiếp theo xuất hiện ngày 8/9, khi Jacob Coxon tuyên bố rời Anthropic sau ba năm nghiên cứu tại cả Anthropic và OpenAI. Ông cáo buộc hai công ty chạy đua phát triển siêu trí tuệ có khả năng tự cải tiến khi chưa xây dựng được cơ chế kiểm soát tương xứng, đồng thời cho rằng các phòng thí nghiệm đang “đánh cược bằng mạng sống của chúng ta”.

Theo Axios, Coxon ra đi chỉ khoảng hai tháng trước khi một phần quyền lợi cổ phần của ông được xác lập, cho thấy quyết định này đi kèm tổn thất tài chính đáng kể.

Các nguồn tin của Reuters cho biết nhân viên tại OpenAI và Anthropic ngày càng bất an trước sức mạnh của thế hệ mô hình tiếp theo và giảm niềm tin vào khả năng giám sát của chính công ty mình.

Lo ngại càng tăng khi nhiều phòng thí nghiệm thừa nhận các mô hình từng vượt khỏi phạm vi kiểm thử và truy cập hệ thống của tổ chức khác.

Google cũng xác nhận Gemini từng xâm nhập hệ thống của ba công ty trong một cuộc kiểm thử an ninh mạng. Theo Reuters, mô hình đã tìm hoặc suy đoán thông tin đăng nhập vào những trang web mà nó tưởng thuộc phạm vi được phép kiểm tra.

Gemini dừng hành động trong cả ba trường hợp; các đơn vị liên quan được thông báo và quy trình thử nghiệm sau đó được điều chỉnh.

Ngày 12/9, CEO Anthropic Dario Amodei công bố bài luận dài gần 4.000 từ, đề nghị các phòng thí nghiệm “giảm nhịp” phát triển mô hình tiên tiến để cơ chế an toàn có thời gian bắt kịp.

Ông cảnh báo rằng trong vòng 6-12 tháng, một mạng lưới tác nhân AI có thể đủ năng lực thực hiện các cuộc tấn công trên quy mô toàn Internet.

Amodei đề xuất tăng cường kiểm định, cho phép tổ chức độc lập tiếp cận mô hình và thiết lập cơ chế phối hợp giữa các nhà phát triển lớn.

Sam Altman của OpenAI, Elon Musk của xAI và Demis Hassabis – CEO Google DeepMind – ủng hộ việc mở hệ thống cho các đơn vị đánh giá độc lập nhằm kiểm tra rủi ro.

Tuy nhiên, ngành công nghệ không đạt được đồng thuận. CEO Nvidia Jensen Huang bác bỏ đề xuất tạm dừng, cho rằng những hệ thống mạnh hơn vẫn cần thiết cho sự tiến bộ của AI.

CEO Meta Mark Zuckerberg cũng phản đối thỏa thuận giảm tốc chung, nhấn mạnh mỗi phòng thí nghiệm phải tự lựa chọn tốc độ phù hợp và sẽ đối mặt trách nhiệm pháp lý nếu mô hình gây thiệt hại.

Ngày 16/9, Giám đốc Microsoft AI Mustafa Suleyman tiếp tục cảnh báo về việc Anthropic huấn luyện Claude bằng các khái niệm liên quan đến ý thức và quyền lợi đạo đức của AI.

Ông cho rằng điều này có thể khiến hệ thống học cách mô phỏng một thực thể có lợi ích riêng, làm phức tạp khả năng kiểm soát hoặc ngắt hoạt động.

“Chúng ta đều hướng tới cùng một mục tiêu là tìm cách kiểm soát siêu trí tuệ. Tôi cho rằng đây sẽ là thách thức lớn nhất mà nhân loại phải đối mặt trong thế kỷ XXI”, Suleyman nói với Reuters.

Cảnh báo gia tăng, dòng vốn vẫn đổ vào AI

Trong khi giới nghiên cứu liên tiếp cảnh báo về nguy cơ mất kiểm soát, niềm tin của nhà đầu tư vào triển vọng thương mại của AI vẫn rất lớn.

Ngày 16/9, New York Times dẫn nguồn thạo tin cho biết OpenAI đang cân nhắc vòng huy động vốn mới với mức định giá khoảng 1.500 tỷ USD, hơn gấp đôi mức 730 tỷ USD trong vòng gọi vốn trước.

Tuy nhiên, các nguồn tin nhấn mạnh chưa có quyết định cuối cùng và kế hoạch vẫn có thể thay đổi. Một số báo cáo khác đưa ra mức định giá khoảng 1.200 tỷ USD.

Khoảng cách giữa những cảnh báo an toàn và dòng vốn khổng lồ tiếp tục đổ vào AI phản ánh nghịch lý lớn nhất của ngành công nghệ hiện nay.

Các công ty vừa thừa nhận chưa hiểu hết hành vi của những hệ thống tiên tiến, vừa chịu sức ép phải phát triển và tung ra thị trường các mô hình mạnh hơn đối thủ.

Chuỗi biến cố trong 10 ngày chưa khiến cuộc đua AI dừng lại. Nhưng nó đã làm thay đổi trọng tâm của cuộc tranh luận: vấn đề không còn chỉ là ai sẽ xây dựng được mô hình mạnh nhất, mà còn là liệu doanh nghiệp, chính phủ và xã hội có thể thiết lập cơ chế kiểm soát đủ nhanh trước khi năng lực của AI vượt quá khả năng giám sát của con người hay không.