Hãng công nghệ Anthropic (trụ sở TP.San Francisco, California, Mỹ) đề nghị ngừng xây dựng các hệ thống trí tuệ nhân tạo (AI) mạnh mẽ trên phạm vi toàn cầu.

Lời kêu gọi này được đưa ra trong bối cảnh các mô hình mới nhất đang bắt đầu xuất hiện những dấu hiệu cho thấy chúng có thể vượt qua sự kiểm soát của con người.

"Chúng tôi cho rằng thế giới sẽ hưởng lợi nếu được lựa chọn đi chậm lại hoặc tạm ngừng hoạt động phát triển AI tiên tiến nhất, nhằm tạo điều kiện cho các cấu trúc xã hội và nghiên cứu điều chỉnh có thể theo kịp tiến bộ của công nghệ", theo Anthropic, nhà phát triển công cụ Claude.

Để có thể đạt được trạng thái tạm ngừng thực sự, Anthropic cho rằng mọi công ty AI lớn ở nhiều quốc gia, đặc biệt là Mỹ và Trung Quốc, đều phải đạt được sự đồng thuận về vấn đề này, dựa trên những quy tắc mà tất cả các bên đều có thể kiểm chứng.

"Nếu thiếu cơ chế phối hợp toàn cầu, các công ty và chính phủ sẽ buộc phải đưa ra những quyết định khó khăn về vấn đề an toàn, trong bối cảnh áp lực cạnh tranh và địa chính trị", Anthropic chỉ ra.

Anthropic thậm chí còn so sánh thách thức về AI với các hiệp ước kiểm soát vũ khí hạt nhân, nhưng nói rằng mức độ khó khăn trong quản lý AI còn khó khăn hơn nhiều.

Điều này do quá trình đào tạo AI diễn ra âm thầm và dễ dàng hơn hẳn so với việc che giấu hầm chứa tên lửa. Và dữ liệu nội bộ của Anthropic cho thấy AI đã đẩy nhanh đáng kể tốc độ phát triển chính nó.

Công ty lên kế hoạch mời gọi sự tham gia từ quan chức các chính phủ, giới khoa học, những tổ chức vận động và các hãng AI đối thủ trong những tháng tới để vạch ra kế hoạch có thể thực hiện được.

​