Anthropic, nhà phát triển mô hình Claude, vừa đưa ra đề xuất tạm dừng toàn cầu đối với việc phát triển các hệ thống trí tuệ nhân tạo ngày càng mạnh mẽ. Công ty có trụ sở tại San Francisco dẫn chứng những dấu hiệu cho thấy các mô hình mới nhất có thể thoát khỏi sự kiểm soát của con người. Trong một báo cáo vừa công bố, Anthropic cho rằng làm chậm tốc độ tiến bộ của AI tiên tiến trên quy mô toàn thế giới là một ý tưởng tốt. Tuy nhiên, họ thừa nhận nếu chỉ một công ty giảm tốc, đơn vị đó sẽ đối mặt với nguy cơ bị các đối thủ vượt mặt.
Lời kêu gọi một lệnh tạm dừng toàn cầu
Để một lệnh tạm dừng thực sự có hiệu quả, Anthropic nhấn mạnh rằng các công ty AI lớn tại nhiều quốc gia, đặc biệt là Trung Quốc và Hoa Kỳ, cần đồng thời đồng ý dừng lại dưới những quy tắc có thể kiểm chứng được. Trong báo cáo của mình, hãng này khẳng định rằng nếu thiếu một cơ chế phối hợp toàn cầu, cả doanh nghiệp lẫn chính phủ sẽ phải đưa ra những quyết định khó khăn về an toàn giữa áp lực cạnh tranh và địa chính trị. Trong những tháng tới, Anthropic có kế hoạch tập hợp các quan chức chính phủ, nhà khoa học, nhóm bảo vệ lợi ích và các đối thủ cạnh tranh để định hình cách thức vận hành của hệ thống này. Tuy nhiên, sáng kiến này đang vấp phải sự kháng cự đáng kể từ cả Washington lẫn Thung lũng Silicon.
Rủi ro tự cải thiện đệ quy
Một trong những điểm trọng tâm trong cảnh báo của Anthropic là hiện tượng tự cải thiện đệ quy – khả năng một hệ thống AI tự dạy mình để trở nên thông minh hơn. Dữ liệu nội bộ của công ty cho thấy vai trò của con người đang giảm dần trong từng bước của quá trình phát triển AI, điều này có thể dẫn đến một vòng phản hồi mất kiểm soát. Dù khẳng định kịch bản đó không phải là tất yếu, Anthropic nhấn mạnh các bằng chứng chỉ ra sự can thiệp của con người đang ngày càng bị thu hẹp. Lời kêu gọi phối hợp ra đời ngay trong bối cảnh tốc độ phát triển AI đang tự thúc đẩy một cách ngoạn mục.
Sự kháng cự tại Washington và Thung lũng Silicon
Đề xuất của Anthropic đang phải đối mặt với một cuộc chiến khó khăn trong giới chính quyền và doanh nghiệp Hoa Kỳ. Các quan chức chính phủ Mỹ lẫn giám đốc điều hành những tập đoàn công nghệ lớn lập luận rằng làm chậm sự phát triển của AI có thể trao cho Trung Quốc một lợi thế chiến lược đáng kể. Áp lực cạnh tranh đang rất khốc liệt, và yếu tố địa chính trị bổ sung thêm một lớp phức tạp vào cuộc tranh luận về an toàn. Bất chấp sự hoài nghi đó, Tổng thống Donald Trump đã ký trong tuần này một sắc lệnh cho phép chính phủ thực hiện các đánh giá sơ bộ đối với những mô hình AI mạnh nhất của các công ty Mỹ trước khi chúng được tung ra thị trường.
Sắc lệnh của Trump về đánh giá sơ bộ
Sắc lệnh Trump ký đánh dấu một bước đi cụ thể, dù còn sơ khai, hướng tới một khuôn khổ quản lý chặt chẽ hơn đối với các hệ thống AI. Biện pháp này ủy quyền cho chính phủ xem xét các mô hình tiên tiến nhất trước khi chúng ra mắt – điều mà Anthropic coi là một bước tích cực nhưng chưa đủ nếu thiếu sự phối hợp toàn cầu. Công ty dự định trong những tháng tới sẽ tham vấn với các quan chức chính phủ, nhà khoa học, nhóm bảo vệ lợi ích và các đối thủ để vạch ra đường viền của một hệ thống xác minh quốc tế. Khó khăn nằm ở chỗ làm sao dung hòa lợi ích của các quốc gia có tầm nhìn cạnh tranh về tương lai công nghệ.
Thách thức của phối hợp quốc tế
Để một lệnh tạm dừng toàn cầu khả thi, Anthropic cho rằng các công ty AI lớn từ nhiều nước, đặc biệt là Trung Quốc và Hoa Kỳ, phải đồng thời ngừng phát triển theo các quy tắc có thể kiểm chứng được. Nếu không có thỏa thuận đó, công ty cảnh báo rằng áp lực cạnh tranh và địa chính trị sẽ buộc các bên phải đưa ra những quyết định an toàn mạo hiểm. Đề xuất này xuất hiện đúng lúc tốc độ tự phát triển của AI khiến cuộc tranh luận càng trở nên cấp bách. Báo cáo của Anthropic khẳng định rõ ràng rằng nếu thiếu một cơ chế phối hợp, kịch bản khả dĩ nhất là một cuộc chạy đua không kiểm soát với những hậu quả khó lường đối với khả năng kiểm soát của con người đối với những cỗ máy này.